Amazon AIGC Products: The Easiest Way to Build Generative AI Applications

介绍

亚马逊拥有数千名工程师致力于机器学习研究，因为这是他们未来成功的关键。通过使用人工智能和机器学习，亚马逊可以改进客户服务、提高运营效率并保持竞争优势。

亚马逊云技术发布了几款新的 AIGC 产品，包括 Amazon Bedrock、Amazon EC2 Trn1n、Amazon EC2 Inf2、Titan AI 和 Amazon CodeWhisperer。这在市场上引起了很大的关注，许多技术巨头都试图进入这场游戏，成为人工智能领域的最新趋势。AIGC 已成为最接近商业应用的技术出口，即将迎来爆发的蓝海市场。但问题是，谁将脱颖而出，突破 AIGC 的混乱局面呢？

亚马逊的家庭桶

Amazon Bedrock 是一项新服务，可以通过 API 访问来自 AI21 Labs、Anthropic、Stability AI 和亚马逊本身的基本大型模型。Bedrock 是用户构建和扩展基于 AI 的生成应用程序的基本框架，可以访问包括亚马逊的 Titan FM 在内的强大文本和图像大型模型功能。

亚马逊还正在测试新的 Titan FM，并计划在未来几个月推出两个 Titan 模型。第一个是生成 LLM，用于摘要、文本生成、分类、开放式问题回答和信息提取等任务。第二个是嵌入 LLM，将文本输入转化为包含文本语义的数值表示。亚马逊还宣布推出由 AWS Trainium 提供动力的 Amazon EC2 Trn1n 实例和由 AWS Inferentia2 提供动力的 Amazon EC2 Inf2 实例。

Trn1 实例可以节省 50% 以上的训练成本，比其他任何 EC2 实例都要多，使用 Trn1 实例可以帮助将训练最大的深度学习模型所需的时间从数月缩短到数周甚至数天。由 Inferentia2 支持的实例经过优化，适用于包含数千亿参数的大规模生成 AI 应用模型。亚马逊还宣布预览版的 Amazon Code Whisperer 是一款可以根据开发者的自然语言评论和集成开发环境（IDE）中的先前代码实时生成代码建议的 AI 编程伴侣。

CodeWhisperer 的好处

在试用阶段，AWS 进行了一项生产力挑战，使用 CodeWhisperer 的参与者完成任务的速度平均提高了 57%，成功率提高了 27%，而不使用 CodeWhisperer 的参与者。这是生产力的巨大飞跃！

支持的语言和安全功能

CodeWhisperer 可用于 Python、Java、TypeScript、C＃等语言，还支持 Go、Kotlin、Rust、PHP 和 SQL 等十种新语言。它还具有内置的安全扫描（由自动推理提供动力），用于发现难以检测到的漏洞并建议修复。CodeWhisperer 过滤掉有偏见或不公平的代码建议，并可以标记与开源代码类似的代码建议，客户可能希望参考或许可的代码。

如何入门

CodeWhisperer 对个人用户免费。任何人只需使用电子邮件账户注册，即可在几分钟内开始使用，甚至不需要 AWS 账户。对于企业用户，AWS 提供 CodeWhisperer 专业版，其中包括与 AWS 身份和访问管理（IAM）集成的单一登录（SSO）集成和更高的安全扫描限制。总之，Amazon CodeWhisperer 是开发人员想要更高效地编写代码并节省时间的优秀工具。借助其基于 AI 的建议和安全功能，CodeWhisperer 对于任何希望提高生产力的开发人员来说都是必备之选。

Trn1n 实例

由 Trainium 提供动力的 Trn1n 实例可节省高达 50% 的训练成本，优化了将训练分布在连接到每秒 800Gbps 的第二代 Elastic Fabric Adapter（EFA）网络的多个服务器上的能力。客户可以在 UltraClusters 中部署 Trn1n 实例，在同一 AWS 可用区中扩展至多达 30,000 个 Trainium 芯片（计算超过 6ExaFLOPS），具有 PB 级网络。包括 Helixon、Money Forward 和 Amazon Search 团队在内的许多 AWS 客户使用 Trn1n 实例，以帮助缩短将最大深度学习模型的训练时间从数月缩短到数周甚至数天，并降低成本。

新的网络优化的 Trn1n 实例

AWS 宣布了新的网络优化的 Trn1n 实例的正式推出，其网络带宽达到 1600Gbps，为大型网络密集型模型提供比 Trn1n 高 20% 的吞吐量。新的 Trn1n 实例采用第三代 Elastic Fabric Adapter（EFA）网络，具有更高的带宽和更低的延迟，可实现更快的训练速度和更高的性能。

Trn1n 实例的优势

Trn1n 实例提供了许多优势：

高性能网络：新的 Trn1n 实例通过第三代 EFA 网络实现了更高的网络吞吐量和更低的延迟，提供了出色的性能。
高度可扩展：使用 Trn1n 实例，客户可以在 UltraClusters 中扩展至多达 30,000 个 Trainium 芯片，以满足对大规模训练的需求。
成本效益：Trn1n 实例通过优化训练成本，帮助客户节省高达 50% 的训练成本，同时提供卓越的性能。
加速深度学习：Trn1n 实例的推出有助于缩短深度学习模型的训练时间，将数月的训练时间缩短到数周甚至数天。

如何使用 Trn1n 实例

使用 Trn1n 实例进行训练非常简单。您只需在 AWS 控制台或使用 AWS 命令行界面（CLI）选择 Trn1n 实例类型，并将其作为训练作业的目标实例即可。您可以根据实际需求配置实例数量和规模，并利用 Trn1n 实例的高性能网络和可扩展性来加速训练过程。

Trn1n 实例的应用

Trn1n 实例广泛应用于各种深度学习场景，包括计算机视觉、自然语言处理、语音识别等。许多企业和研究机构使用 Trn1n 实例来加速模型的训练和推理，从而提高其人工智能应用的性能和效果。

总之，新的网络优化的 Trn1n 实例为深度学习模型的训练提供了更高的性能和更快的训练速度。借助其高性能网络、可扩展性和成本效益，Trn1n 实例是开发人员和研究人员在人工智能领域中的强大工具。