View a markdown version of this page

サーバーレス AI の CI/CD と自動化 - AWS 規範ガイダンス
サーバーレス AI の CI/CD 機能サーバーレス AI プロジェクトの一般的な CI/CD ワークフロープロンプトと Amazon Bedrock エージェント用の CI/CDAgentCore と CI/CD パイプラインの統合AWS のサービス CI/CD ツール用CI/CD とオートメーションの概要

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

サーバーレス AI の CI/CD と自動化

従来のソフトウェア開発では、継続的インテグレーションとデプロイ (CI/CD) により、チームは迅速かつ安全に変更をテストしてリリースできます。サーバーレス AI システムでは、サービスの一時的なイベント駆動型の性質と AI モデルとプロンプトの不安定な動作により、CI/CD がさらに重要になります。

インフラストラクチャ (Amazon API Gateway AWS Lambda、Amazon Bedrock エージェントなど) からロジック (プロンプト、RAG フロー、エージェントツール設定など) まで、すべてをバージョニングしてテストする必要があります。その後、これらのコンポーネントは環境間で一貫してデプロイする必要があります。

CI/CD プラクティスを実装しないと、組織は次のリスクに直面します。

  • 手動 AWS Identity and Access Management (IAM) またはプロンプトの変更により、ヒューマンエラーが増加します。

  • モデルとインフラストラクチャのドリフトは、development/test/production間で発生します。

  • ボトルネックのテストはイノベーションを遅らせます。

  • 検証されていない更新は、ダウンタイムや動作の変化のリスクをもたらします。

サーバーレス AI の CI/CD 機能

CI/CD には、サーバーレス AI で以下の機能とそれに関連する利点があります。

  • 安全なプロンプトとエージェントのバージョニング – プロンプトとエージェント設定の変更は、レビュー、テスト、承認プロセスを通過します。

  • インフラストラクチャの再現性 – AWS Cloud Development Kit (AWS CDK) または を使用する Infrastructure as Code (IaC) は、ステージ間で環境が同一であることを確認する AWS CloudFormation のに役立ちます。

  • 統合テスト – デプロイ前にプロンプトテスト、スキーマ検証、セキュリティチェックを実行します。

  • 自動デプロイ承認 – 手動レビューや自動メトリクスなど、本番稼働用プロモーションにガードレールを使用します。

  • ロールバックと監査 – タグ付きバージョンを使用すると、迅速なロールバックとコンプライアンスのトレーサビリティが可能になります。

  • 頻繁な低リスク更新 — 大規模言語モデル (LLM) アプリケーションとプロンプトチューニングの高速反復サイクルを可能にします。

サーバーレス AI プロジェクトの一般的な CI/CD ワークフロー

サーバーレス AI プロジェクトの包括的な CI/CD パイプラインには、複数のステージが含まれます。次のリストは、関連するアクションやツールの例など、一般的な CI/CD ワークフローの各ステージの概要を示しています。

  • コードとプロンプトのコミット – デベロッパーは、GitHub や GitLab などのツールを使用して、更新された Lambda 関数、 AWS CDK コード、またはプロンプトテキストを Git にプッシュします。 GitLab

  • Build and lint – for ESLintJavaScript、 for 、、およびカスタムプロンプト検証ツールなどのツールを使用して、構文、プロンプト形式Pythonyamllint、スキーマの整列を検証Blackします。

  • ユニットテストとプロンプトリグレッション – pytest、、カスタムフィクスチャを使用してpromptfoo、ローカルロジックとユニットテスト、ゴールデンプロンプトレスポンステストを実行します。

  • IaC 検証 – と を使用して AWS CDK と CloudFormationtemplatesを合成cdk synthおよび検証しますcfn–lint。

  • 統合テスト – AWS CodeBuild およびモックエージェントを使用して、ステージングにデプロイし、完全なワークフロー (Amazon Bedrock エージェントへの Amazon S3 アップロードなど) を呼び出します。

  • 手動または自動承認 – AWS CodePipeline または GitHub Actions ゲートを使用して、モデルコストへの影響と承認チェックリスト (プロンプトの変更など) を確認します。

  • 本番環境へのデプロイ – スタックの昇格、Amazon Bedrock エージェント設定の更新、 AWS CodeDeploy、、 AWS CDKおよび AWS SAM コマンドラインインターフェイス (CLI) を使用したプロンプトの発行を行います。

  • デプロイ後の煙テスト – Amazon CloudWatch Synthetics とテスト Lambda を使用して、本稼働エージェントの出力、ログキャプチャ、ロールバックの準備状況を検証します。

  • モニタリングと監視 – CloudWatch、Amazon Bedrock トークンログ (CloudWatch 経由）、および を使用して、ダッシュボード、コストアラート、トークン使用状況モニターを自動作成します AWS X-Ray。

プロンプトと Amazon Bedrock エージェント用の CI/CD

プロンプトと Amazon Bedrock エージェントの設定では、CI/CD プロセスで特別な処理が必要です。

  • ソース管理では、プロンプトをバージョニングされたアセットとして扱います (例: /prompts/v1/agent-support-en.yaml)。

  • 自動ゴールデンテストケースにプロンプトを含めます。

  • IaC テンプレートを使用して Amazon Bedrock エージェント設定 (ツール、手順、ナレッジベース URIs) をデプロイします。

  • Amazon Bedrock エージェントの更新をデプロイするのは、次の場合のみです。

    • プロンプト回帰テストは合格です。

    • ツールのアクセス許可は IAM テンプレートと一致します。

    • 信頼度のしきい値または検証 Lambda 結果が許容可能な基準を満たしている。

このアプローチにより、サイレントプロンプトの低下を防ぎ、本番環境で再現可能な生成 AI の動作を確保できます。

AgentCore と CI/CD パイプラインの統合

Amazon Bedrock AgentCore は、エージェントのデプロイ、テスト、進化のためのマネージドランタイムとメモリファブリックを導入することで、従来の CI/CD オートメーションを拡張します。現在のサーバーレスパイプラインは、エージェントコードのパッケージ化とデプロイを自動化します (例: AWS CodePipeline、 AWS CodeBuild、) AWS CDK。ただし、AgentCore はこのプロセスに直接統合され、デプロイライフサイクルの一環としてエージェントの状態、メモリ、ツールコネクタを管理します。

AgentCore と CI/CD パイプラインの主な統合ポイントは次のとおりです。

  • ランタイムの登録とバージョニング – デプロイされた各エージェントは、スケーリング、ルーティング、ライフサイクルオーケストレーションを処理する AgentCore ランタイムに登録できます。このアプローチにより、CI/CD ワークフローでカスタムレジストリまたはサービス検出ロジックを維持する必要がなくなります。

  • メモリスナップショットと昇格 – 自動テスト中、AgentCore は学習したコンテキストや状態を含むエージェントメモリスナップショットを保持し、パイプラインを通じてコードアーティファクトとともに昇格させることができます。この機能を使用すると、開発環境、ステージング環境、本番環境間のコンテキスト継続性が可能になります。

  • ツール設定管理 – AgentCore Gateway ツールを使用すると、チームは同じパイプライン内で他の AWS のサービス (Amazon DynamoDB、Amazon S3、Amazon Bedrock FMsAmazon EventBridge など) との統合ポイントを宣言的に定義できます。この設定管理機能は、一貫性のある監査可能なアクセス設定を提供するのに役立ちます。

  • 検証用のオブザーバビリティフック – AgentCore は、エージェント実行用の組み込みテレメトリを公開し、CI/CD パイプラインがデプロイ前にパフォーマンス、推論品質、コンプライアンスメトリクスを自動的に検証できるようにします。

CodePipeline デプロイは、次のステップで構成される場合があります。

  1. CodeBuild を使用して新しいエージェントコードを構築します。

  2. エージェントを実行のために AgentCore ランタイムにデプロイします。

  3. AgentCore Memory を使用して自動統合テストを実行し、実行間で状態を永続化して比較します。

  4. 検出とオーケストレーションのために AgentCore レジストリを更新しながら、ビルドの成功を本番環境に昇格させます。

AWS のサービス CI/CD ツール用

サーバーレス AI の CI/CD 実装を以下 AWS のサービス に示します。

  • AWS CodePipeline はend-to-endのパイプライン機能を提供します。

  • AWS CodeBuild はテスト、リンティング、検証を実行します。

  • AWS CDK および CloudFormation、および HashiCorp Terraform(サードパーティーのツール) は、インフラストラクチャ、エージェント、アクセス許可、ワークフローを定義します。

  • Amazon S3 は、バージョニングされたプロンプトファイルとエージェントテンプレートを保存します。

  • Amazon Bedrock API と CLI は、プロンプトとエージェント定義を動的に登録します。

  • CloudWatch Synthetics は、デプロイ後のプローブと信頼度検証を実行します。

  • Lambda@Edge と Amazon EventBridge は、ドリフトやデプロイの失敗などのモニタリング対象イベントから CI/CD をトリガーします。

CI/CD とオートメーションの概要

CI/CD は単なるベストプラクティスではなく、安全で信頼性の高い AI システムをスケーリングするために必要です。プロンプトの機密性、ツールの自律性、インフラストラクチャの複雑さにより、自動化にはいくつかの重要な利点があります。

  • リスクを軽減してイノベーションサイクルを高速化する

  • 管理可能な更新と監査可能な更新

  • チームやリージョン間で安定した環境

  • ロジックと言語の両方の統合テスト

AgentCore を CI/CD パイプラインに統合することで、エージェントのデプロイはコード配信から継続的な機能配信に進化します。推論、メモリ、状態は、最新のサーバーレス AI システムでファーストクラスのデプロイ可能なアセットになります。

AI ネイティブアーキテクチャに DevOps の原則を適用することで、企業は AI を責任を持って、迅速かつ大規模に本番環境に導入できます。