本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

第 1 层：为生成式 AI 构建可靠的数据和计算基础架构

对于开发生成式 AI 应用程序，尤其是在需要训练或微调基础模型的情况下，强大的数据基础和计算基础设施至关重要。随着企业踏上生成式人工智能之旅，他们需要能够支持整个机器学习生命周期的基础架构。他们还需要在性能、成本和运营效率之间取得适当的平衡。

可靠的生成式人工智能基础设施应提供以下三个关键组件：基础基础架构、矢量存储和检索基础设施以及计算基础架构。这些组件共同提供了满足任何项目需求的灵活性，无论其规模、要求或环境如何。

基于 API 的实施的基础架构

大多数组织都是通过使用预训练的基础模型开始其生成式人工智能之旅的。 APIsAmazon Bedrock 通过统一的 API 提供对领先基础模型的无服务器访问。这可以帮助您在不管理复杂基础设施的情况下试验和部署生成式 AI 应用程序。对于这些实现，你需要以下内容：

矢量存储和检索基础设施

随着生成式 AI 应用程序的成熟，您可能需要使用特定领域的知识和背景对其进行增强。使用检索增强生成 (RAG)，基础模型在生成响应之前会引用其训练数据源之外的权威数据源，例如组织的数据或文档。有关更多信息，请参阅中的检索增强生成选项和架构 AWS。

Amazon Bedrock 知识库为构建 RAG 应用程序提供了一种完全托管的解决方案。它可以帮助您将企业数据与基础模型安全地连接起来。为了获得更大的灵活性，您可以使用具有矢量搜索功能的亚马逊 OpenSearch 服务，也可以使用带有 pgvector 扩展的 Postgre SQL 版亚马逊关系数据库服务 (Amazon RDS) 来存储矢量嵌入。

为了实现高效的矢量操作，可以考虑使用 Amazon EC2 计算优化型实例进行嵌入生成。还可以考虑使用 Amazon 缓存经常访问的嵌入内容 ElastiCache，以优化性能并降低成本。

有关矢量数据库和缓存的更多信息，请参阅什么是矢量数据库？ 以及为 RAG 用例选择 AWS 矢量数据库。

用于模型训练和微调的高性能计算基础架构

对于准备自定义基础模型的组织， AWS 提供用于模型训练和微调的全面基础架构。您可以将 Amazon Simple Storage Service (Amazon S3) 用作低成本、可扩展且高度耐用的对象存储，用于构建数据平台以及存储训练数据和训练模型。此外，还AWS Glue是一项无服务器数据集成服务，可以帮助您为模型训练准备数据。

对于训练基础设施，Amazon SageMaker AI 提供了一个完全托管的机器学习环境，其中包含构建、训练和部署模型所需的工具和工作流程。使用 SageMaker AI 可以显著降低您的运营开销。考虑使用加速计算实例，例如 G 和 P 实例系列。这些实例系列允许访问来 GPUs 自 NVIDIA 的最新版本，用于机器学习训练和推理。您还可以使用AWS Trainium专门构建的机器学习加速器，可将训练时间缩短多达50％，同时降低成本。

对于真正的大型项目，您可以使用 Amazon EC2 UltraClusters。 UltraClusters 由成千上万个加速的 Amazon EC2 实例组成，这些实例位于给定 AWS 可用区并相互连接。 UltraClusters 可以扩展到数千个 GPUs 或机器学习加速器。它们提供每秒 exa 浮点运算 (exaflops) 的聚合计算容量，从而缩短了训练时间，并且可以 time-to-solution从几周缩短到几天。

实施建议

请考虑以下建议，为您的生成式 AI 项目设置可扩展且具有成本效益的基础架构：