View a markdown version of this page

レイヤー 1: 生成 AI 用の信頼性の高いデータとコンピューティングインフラストラクチャを構築する - AWS 規範ガイダンス
基盤インフラストラクチャベクトルの保存と取得コンピューティングインフラストラクチャ実装に関する推奨事項

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

レイヤー 1: 生成 AI 用の信頼性の高いデータとコンピューティングインフラストラクチャを構築する

生成 AI アプリケーションを開発する場合、特に基盤モデルのトレーニングや微調整が必要な場合は、堅牢なデータ基盤とコンピューティングインフラストラクチャが不可欠です。企業が生成 AI ジャーニーを開始するには、機械学習ライフサイクル全体をサポートできるインフラストラクチャが必要です。また、パフォーマンス、コスト、運用効率の適切なバランスを取る必要があります。

信頼性の高い生成 AI インフラストラクチャは、基盤インフラストラクチャ、ベクトルストレージと取り出しインフラストラクチャ、コンピューティングインフラストラクチャの 3 つの主要コンポーネントを提供する必要があります。これらのコンポーネントを組み合わせることで、規模、要件、環境に関係なく、あらゆるプロジェクトのニーズに柔軟に対応できます。

API ベースの実装のための基盤インフラストラクチャ

ほとんどの組織はAPIs を通じて事前トレーニング済みの基盤モデルを使用して生成 AI ジャーニーを開始します。Amazon Bedrock は、統合 API を通じて主要な基盤モデルへのサーバーレスアクセスを提供します。これにより、複雑なインフラストラクチャを管理せずに生成 AI アプリケーションを実験してデプロイできます。これらの実装には、以下が必要です。

ベクトルストレージと取り出しインフラストラクチャ

生成 AI アプリケーションが成熟するにつれて、ドメイン固有の知識とコンテキストで拡張する必要があります。Retrieval Augmented Generation (RAG) では、基盤モデルは、レスポンスを生成する前に、組織のデータやドキュメントなどのトレーニングデータソースの外部にある信頼できるデータソースを参照します。詳細については、「Retrieval Augmented Generation options and architectures on AWS」を参照してください。

Amazon Bedrock ナレッジベースは、RAG アプリケーションを構築するためのフルマネージドソリューションを提供します。これにより、エンタープライズデータを基盤モデルに安全に接続できます。柔軟性を高めるために、ベクトル検索機能で Amazon OpenSearch Service を使用することも、pgvector 拡張機能で PostgreSQL 用の Amazon Relational Database Service (Amazon RDS) を使用してベクトル埋め込みを保存することもできます。

効率的なベクトル操作を行うには、Amazon EC2 コンピューティング最適化インスタンスを埋め込み生成に使用することを検討してください。また、Amazon ElastiCache を使用してパフォーマンスを最適化し、コストを削減することで、頻繁にアクセスされる埋め込みをキャッシュすることを検討してください。

ベクトルデータベースとキャッシュの詳細については、「ベクトルデータベースとは」および「RAG ユースケース用の AWS ベクトルデータベースの選択」を参照してください。

モデルトレーニングとファインチューニングのための高性能コンピューティングインフラストラクチャ

基盤モデルをカスタマイズする準備ができている組織の場合、 はモデルトレーニングと微調整のための包括的なインフラストラクチャ AWS を提供します。Amazon Simple Storage Service (Amazon S3) は、データプラットフォームを構築したり、トレーニングデータとトレーニング済みモデルを保存したりするための低コスト、スケーラブル、耐久性の高いオブジェクトストレージとして使用できます。さらに、 AWS Glueはモデルトレーニング用のデータを準備するのに役立つサーバーレスデータ統合サービスです。

トレーニングインフラストラクチャの場合、Amazon SageMaker AI は、モデルの構築、トレーニング、デプロイに必要なツールとワークフローを備えたフルマネージド型の機械学習環境を提供します。SageMaker AI を使用すると、運用上のオーバーヘッドを大幅に削減できます。G および P インスタンスファミリーなどの高速コンピューティングインスタンスの使用を検討してください。これらのインスタンスファミリーは、機械学習のトレーニングと推論のために NVIDIA の最新 GPUs へのアクセスを提供します。またAWS Trainium、トレーニング時間を最大 50% 高速化し、コストを削減する専用の機械学習アクセラレーターである を使用することもできます。

真に大規模なプロジェクトでは、Amazon EC2 UltraClusters を使用できます。UltraClusters は、特定の AWS アベイラビリティーゾーンに共に配置され、相互接続された数千の高速 Amazon EC2 インスタンスで構成されます。UltraClusters は、数千の GPUs または機械学習アクセラレーターにスケールできます。総コンピューティング容量の 1 秒あたりのエクサフローティングポイントオペレーション (エクサフロープ) を提供するため、トレーニング時間が短縮され、time-to-solutionが数週間から数日に短縮されます。

実装に関する推奨事項

生成 AI プロジェクト用にスケーラブルで費用対効果の高いインフラストラクチャをセットアップするには、次の推奨事項を考慮してください。

  • 簡単な実験と初期デプロイを行うには、Amazon Bedrock から始めて、アプリケーションに汎用コンピューティングインスタンスを使用します。

  • ニーズの変化に応じて、Amazon Bedrock ナレッジベースまたは Amazon OpenSearch Service を使用してベクトルストレージソリューションを実装します。それに応じてインフラストラクチャをスケールします。

  • 高度なカスタマイズのために、安全で管理された機械学習環境のプロビジョニングを標準化および自動化して、分散チームの要件をサポートします。詳細については、「 での安全で適切に管理された機械学習環境のセットアップ AWS」(AWS ブログ記事) を参照してください。

  • 機械学習オペレーション (MLOps) を採用して、機械学習ライフサイクル全体のプロセスを自動化および標準化します。これらのプロセスには、モデル開発、テスト、統合、リリース、インフラストラクチャ管理が含まれます。詳細については、MLOps とは」を参照してください。

  • 小規模な実験や概念実証については、Amazon SageMaker AI と汎用コンピューティングインスタンスから始めます。大規模な本番稼働用デプロイにスケールする場合は、Amazon EC2 高速コンピューティングインスタンスでパフォーマンスを最大化することを検討してください。

  • SageMaker AI でマネージドスポットトレーニングを使用すると、オンデマンドインスタンスと比較してトレーニングモデルのコストを最大 90% 最適化できます。SageMaker AI は、ユーザーに代わってスポットの中断を管理します。