View a markdown version of this page

レイヤー 3: での生成 AI プラットフォームのセキュリティとガバナンス AWS - AWS 規範ガイダンス
コア分野推奨コントロールスコープマトリックス実装に関する推奨事項

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

レイヤー 3: での生成 AI プラットフォームのセキュリティとガバナンス AWS

生成 AI の導入を企業全体でスケーリングするには、堅牢なセキュリティとガバナンスのフレームワークが不可欠です。プラットフォーム中心のアプローチをお勧めします。このアプローチにより、どのチームがアプリケーションを構築するかに関係なく、すべての生成 AI を活用したアプリケーションが、デフォルトの一連のセキュリティと責任ある AI ガードレールの恩恵を受けることができます。

コアセキュリティ分野

LLM アプリケーション用の OWASP トップ 10 では、生成 AI ワークロードに関する追加のセキュリティ上の考慮事項について説明します。ただし、従来のセキュリティ分野の多くは依然として重要です。生成 AI ワークロードのセキュリティ上の考慮事項は次のとおりです。

  • ガバナンスとコンプライアンス – リスクを最小限に抑えながらビジネスを強化するために必要なポリシー、手順、レポートを作成します。生成 AI アプリケーションの場合、これにはモデルの選択、データ使用量、出力検証に関するガイドラインが含まれます。

  • 法律とプライバシー – 生成 AI ソリューションを使用または作成するための特定の規制、法律、プライバシー要件を満たします。組織は、生成 AI ソリューションを実装する際に、データ保護法、知的財産権、業界固有の規制を慎重に検討する必要があります。

  • リスク管理 – 生成 AI ソリューションに対する潜在的な脅威と推奨される緩和策を特定します。これには、データポイズニング、プロンプトインジェクション攻撃、モデル出力の意図しないバイアスなどのリスクへの対応が含まれます。

  • コントロール – リスクを軽減するセキュリティコントロールを実装します。生成 AI アプリケーションの場合、これには入力のサニタイズ、出力のフィルタリング、モデル使用のためのアクセスコントロールが含まれます。詳細については、このガイドの「推奨されるセキュリティコントロール」を参照してください。

  • 耐障害性 – 生成 AI ソリューションを設計して可用性を維持し、ビジネスサービスレベルアグリーメント (SLAs。これには、さまざまな負荷条件下でのモデルの冗長性、フォールバックメカニズム、スケーラビリティに関する考慮事項が含まれます。

Defense-in-depthは、セキュリティコントロールのレイヤーを使用してシステム、ネットワーク、またはワークロードを保護するサイバーセキュリティアプローチです。レイヤーが異なると、1 つのレイヤーに障害が発生した場合に攻撃を検出して停止するのに役立ちます。少なくとも、生成 AI ワークロードとその環境にdefense-in-depthアプローチを採用するには、次のコントロールをお勧めします。

  • ID とアクセスの管理 – Amazon Bedrock AWS のサービスや Amazon SageMaker AI を含む は、 AWS Identity and Access Management (IAM) とネイティブに統合されます。IAM は、基盤モデルのサブスクライブやモデルでの推論の実行など、 AWS アカウント および リソースでアクションを実行できるユーザーをきめ細かく制御します。詳細なアクセス許可を持つ複数の IAM ロールを作成することをお勧めします。たとえば、次のロールを作成できます。

    • 評価ロール – このロールを持つユーザーは、新しいモデルが Amazon Bedrock に追加されると、サンドボックス環境で基盤モデルを評価できます。これらのユーザーは、より広範なアクセスを許可するサブスクリプションをアクティブ化する前に、法務チームや調達チームと調整する必要があります。

    • 一般的なアクセスロール – このロールを持つユーザーは、標準使用の基盤モデルにアクセスできます。

    • 微調整されたモデルアクセスロール – このロールを持つユーザーは、独自のデータで微調整されたモデルにアクセスできます。

    • 専用モデルアクセスロール – このロールを持つユーザーは、特定のユースケースの最先端の高コストモデルにアクセスできます。

  • を介したプライベートネットワークアクセス AWS PrivateLink – Amazon Bedrock および Amazon SageMaker AI AWS PrivateLinkで を使用して、VPC およびオンプレミスネットワーク内からモデルを呼び出します。これにより、機密データをプライベートネットワーク内に保持できます。

  • Amazon Bedrock のガードレール – 基盤モデルとの間のリクエストとレスポンスを管理およびフィルタリングするガードレールを実装します。これにより、コントロールレイヤーが追加されます。

  • 呼び出しログを安全に保存 – の使用がコンプライアンスのニーズを満たすように、Amazon S3 バケットまたは Amazon CloudWatch Logs へのすべてのリクエストとレスポンスを保存できます。詳細については、Amazon Bedrock ドキュメントのCloudWatch Logs と Amazon S3 を使用してモデル呼び出しをモニタリングする」を参照してください。

  • 基盤モデルへのアクセスを監査および追跡する – ユーザー、ロール、または によって実行されたアクションを記録するサービスである Amazon CloudWatch を使用します AWS のサービス。CloudTrail は、Amazon Bedrock へのすべての API コールをイベントとしてキャプチャします。詳細については、CloudTrail を使用した Amazon Bedrock API コールのモニタリング」および「 を使用した Amazon SageMaker AI API コールのログ記録 AWS CloudTrail」を参照してください。

  • LLM セキュリティの OWASP トップ 10 に従う – LLM アプリケーションの OWASP のセキュリティリスクのトップ 10 に従い、レイヤード防御を設計するための戦略とセキュリティコントロールを明確に特定していることを確認します。詳細については、「Architect defense-in-depth security for generative AI applications using the OWASP Top 10 for LLMs」(AWS ブログ記事) を参照してください。

セキュリティスコープマトリックス

必要な特定のセキュリティコントロールは、生成 AI アプリケーションの性質によって異なります。AWS Generative AI Security Scoping Matrix (AWS ブログ記事) は、デプロイの範囲に基づいてセキュリティ要件を理解するためのフレームワークを提供します。次の図は、生成 AI セキュリティスコープマトリックスを示しています。これは、ユースケースを分類するためのメンタルモデルです。

生成 AI アプリケーションのセキュリティスコープマトリックス。

このマトリックスは、組織が次のような要因に基づいて適切なセキュリティコントロールを特定するのに役立ちます。

  • アプリケーションがコンシューマー向けか、エンタープライズの内部か

  • ファインチューニングと比較した事前トレーニング済みモデルの使用

  • 処理されるデータの機密性

  • 事業運営におけるアプリケーションの重要度

実装に関する推奨事項

生成 AI ワークロードに包括的なセキュリティとガバナンスのフレームワークを実装するには、次の推奨事項を検討してください。

  • モデルへのアクセスと使用に関する明確なポリシーと手順を確立します。

  • ネットワーク、アプリケーション、データレイヤーなど、複数のレイヤーにセキュリティコントロールを実装します。

  • セキュリティ評価とコンプライアンス監査を定期的に実行します。

  • セキュリティ対策とコントロールの詳細なドキュメントを維持します。

  • 生成 AI を使用するチームにセキュリティ意識向上トレーニングを提供します。

  • 脅威の進化に応じて、セキュリティコントロールを定期的に見直して更新します。