亚马逊扩大与 Anthropic 的合作伙伴关系是我们致力于帮助各种规模的组织释放生成式人工智能(生成式 AI)的力量并为他们提供选择的一项关键进展。亚马逊和 Anthropic 宣布战略合作推进生成式人工智能Anthropic 选择 AWS 作为其主要云提供商,并将利用 AWS 的高性能、低成本机器学习加速器,在 AWS Trainium 和 Inferentia 芯片上训练和部署其未来的基础模型。我们的客户需要我们拥有强大的生成式人工智能能力,“AWS 首席执行官 Adam Selipsky 在彭博科技上表示。“我们有一个战略,为客户提供最适合手头工作的选择,因此 Anthropic 将提供一套令人惊叹的模型来满足许多客户用例。”那么,与 Anthropic 的扩大合作带来了什么?以下是一个快速摘要,重点介绍我们强大的专用 AI 芯片(AWS Trainium 和 AWS Inferentia),以及它们如何成为我们与 Anthropic 合作的核心。Anthropic 是一家领先的基础模型 (FM) 提供商,也是负责任地部署生成式 AI 的倡导者,自 2021 年以来一直是 AWS 客户。Anthropic 的 FM 名为“Claude”,擅长深思熟虑的对话、内容创建、复杂的推理、创造力和编码,AWS 客户可以通过 Amazon Bedrock 使用。基础模型,如 Claude,是在大量数据上预训练的大型机器学习模型,可用于为生成式 AI 应用程序提供支持。这种扩大的合作有什么不同?通过扩大合作伙伴关系,Anthropic 向世界各地的 AWS 客户做出了长期承诺,可以通过 Amazon Bedrock 访问其未来几代基础模型。AWS 客户还可以抢先体验模型定制和微调的独特功能。这和 AWS AI 芯片有什么关系?随着 AWS 现在成为 Anthropic 的主要云提供商(我们扩大合作的另一个关键要素),Anthropic 将使用我们的 Trainium 和 Inferentia 芯片在 AWS 云上训练和部署他们未来的 FM。AWS 芯片将成为 FM 背后的引擎。此外,Anthropic 将与我们合作开发未来的 Trainium 和 Inferentia 技术。亚马逊为什么要开发 Inferentia 和 Trainium?机器学习需要大量的计算能力。随着越来越多的客户越来越多地采用机器学习、人工智能和现在的生成式人工智能,亚马逊看到了对功能强大且经济高效且能耗更低的芯片的需求。Trainium 是一款专门用于训练深度学习模型的芯片,与同类 Amazon Elastic Compute Cloud (Amazon EC2) 实例相比,训练成本最多可节省 50%。Inferentia 芯片使模型能够以更低的成本更快地生成推理,性价比提高高达 40%。跟随我们进入 AWS 设计定制芯片的实验室Annapurna Labs 独特的创新方法突破了计算机软件和硬件开发的极限。我们的芯片如何使 Anthropic 等客户和合作伙伴受益?数据科学家不是从头开始构建生成式 AI,而是从 FM 开始。这些非常大的模型,如 Claude,可以使新的生成式 AI 应用程序的开发更便宜、更高效。AWS 去年推出的 Trainium 是一款高性能机器学习芯片,专门设计用于减少训练生成式 AI 模型的时间和成本。它可以将某些模型的训练时间从几个月缩短到几个小时。这也意味着构建新模型需要更少的资金和电力,与同类实例相比,可能会节省高达 50% 的成本并降低高达 29% 的能耗。我们的 Inferentia2 机器学习推理芯片每瓦性能提高了 50%,与同类实例相比,成本最多可降低 50%。这对我们的客户和环境来说都是个好消息。我们处理训练的速度越快,消耗的功率就越少。我们提供不同类型的芯片,并与客户共享功率配置文件和性能,以便他们能够为正确的工作负载选择合适的芯片,并以最低的成本进行优化,以实现尽可能低的功耗。Trainium 和 Inferentia 已经帮助亚马逊及其客户完成了哪些任务?AWS 客户一直在使用 Trainium 和 Inferentia,以下是一些示例。Finch Computing 是 AWS 客户,开发自然语言处理技术,使客户能够从大量文本数据中发现见解。使用 Inferentia 进行语言翻译使该公司能够将推理成本降低 80%。Dataminr 为企业和政府客户检测高影响力事件和新出现的风险,针对 Inferentia 优化的 AI 模型的每美元吞吐量提高了 9 倍。离家更近的是,Inferentia 允许 Alexa 以比标准通用芯片更低的成本和更低的延迟运行更先进的机器学习算法。我们正在使用 Trainium 来改善客户购物体验,训练包括文本、图像、多种语言和区域设置的大型语言模型,以及产品、查询、品牌和评论等不同实体。AWS 推出 2 项 AI 认证,让您在追求热门云工作时获得优势拥有 AI 技能的人可以将薪水提高 47%,AWS 正在推出一套新的认证和课程来帮助提高这些技能。Trainium 和 Inferentia 的下一步是什么?AWS 将继续代表我们的客户进行创新,提供对最先进技术的访问,同时提高性能、成本效益和可持续性。我们将与 Anthropic 等合作伙伴合作开发下一代 Trainium 和 Inferentia 技术。










