View a markdown version of this page

GuardDuty AI 保護 - Amazon GuardDuty
AI Protection の仕組みAI Protection の料金AI ワークロードに対する追加の脅威検出

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

GuardDuty AI 保護

GuardDuty AI Protection は、Amazon GuardDuty の脅威検出を 上に構築された AI ワークロードに拡張します AWS。AI Protection を有効にすると、GuardDuty は Amazon Bedrock、Amazon Bedrock AgentCore、Amazon SageMaker AI AWS CloudTrail のデータイベント AWS CloudTrail を管理イベントとともに分析します。GuardDuty はこのデータを使用して、基盤モデルとそのモデルを呼び出すアプリケーションを対象とする疑わしいアクティビティを検出します。GuardDuty が潜在的な脅威を特定すると、1 つ以上の が生成されますAI Protection の検出結果タイプ。

AI Protection を有効にすると、GuardDuty は次のタイプの脅威を検出できます。

  • 異常な IP アドレス、異常な API、異常なモデルからの呼び出しなど、ID またはアカウントの確立されたベースラインから逸脱する Amazon Bedrock または Amazon SageMaker AI モデルの異常な呼び出し。

  • コスト収集攻撃。脅威アクターが計算コストの高い入力を Amazon Bedrock または Amazon SageMaker AI モデルに送信して、アカウントのトークン消費と運用コストを増大させます。

  • 直接プロンプト挿入の試行。脅威アクターは、基盤モデルが元の指示を無視するように悪意のあるプロンプトを作成します。この検出には Amazon Bedrock ガードレールが必要で、Amazon Bedrock ワークロードにのみ適用されます。

注記

GuardDuty が で生成できる検出結果タイプは、そのリージョンで利用可能な AI サービス AWS リージョン によって異なります。

  • Impact:IAMUser/AnomalousModelInvocation および Impact:IAMUser/CostHarvestingの検出結果タイプには、Amazon Bedrock または Amazon SageMaker AI が必要です。Amazon Bedrock が利用できないリージョンでは、GuardDuty は Amazon SageMaker AI モデルの呼び出しからのみこれらの検出結果タイプを生成します。

  • Impact:IAMUser/PromptInjection.Direct 検出結果タイプには Amazon Bedrock ガードレールが必要です。Amazon Bedrock ガードレールがサポートされていないリージョンでは利用できません。

各検出結果タイプがサポートされているリージョンのリストについては、「」を参照してくださいリージョン固有機能の可用性。

ヒント

AI Protection から最大限のセキュリティ価値を得るには、 AWS 組織内のすべてのアカウントでプロンプト攻撃に Amazon Bedrock ガードレールを適用します。AWS Organizations Amazon Bedrock ポリシーを使用して、これらのガードレール設定を一元管理します。これにより、一元的な制御と管理により、すべてのアカウントで統一された保護が可能になります。プロンプト攻撃ガードレールが適用されると、GuardDuty はプロンプトインジェクションの検出結果を作成します。詳細については、「Impact:IAMUser/PromptInjection.Direct」を参照してください。

AI ワークロードへの脅威を検出するには、GuardDuty アカウントで AI Protection を有効にする必要があります。AI Protection を有効にする方法については、マルチアカウント環境マルチアカウント環境で AI Protection を有効にするの場合は「」、または「」を参照してくださいスタンドアロンアカウントの AI Protection の有効化。

トピック

AI Protection の仕組み

アカウントまたは組織全体で AI Protection を有効にすると、GuardDuty はモニタリング対象アカウントの AI サービスから AWS CloudTrail データイベントの収集を自動的に開始します。証跡の作成、データイベントのログ記録の有効化、AI アプリケーションの変更を行う必要はありません。

データイベントを収集するために、GuardDuty はモニタリング対象アカウントごとに AWS CloudTrail サービスにリンクされたチャネルを作成します。サービスにリンクされたチャネルは、Amazon Bedrock、Amazon Bedrock AgentCore、Amazon SageMaker AI、および関連する AI リソース AWS CloudTrail のデータイベントを分析のために GuardDuty にストリーミングします。GuardDuty はこのチャネルを作成および管理するため:

  • GuardDuty はチャネルのデータイベント設定を構成するため、アカウント所有者は変更できません。つまり、脅威の検出は、アカウント所有者が証跡を設定または維持することに依存しません。

  • モニタリング対象の各アカウントは、チャネルが CloudTrail コンソール (設定、サービスにリンクされたチャネルの下) でアクティブであることを確認するか、 API オペレーションを AWS CloudTrail ListChannels呼び出します。

GuardDuty は、検出結果のタイプに応じて、2 つの検出方法を使用して AI Protection の検出結果を生成します。

  • Impact:IAMUser/AnomalousModelInvocation および Impact:IAMUser/CostHarvesting検出結果タイプの場合、GuardDuty は異常検出機械学習 (ML) モデルを使用して、収集されたイベントを分析し、各 IAM ID および の通常のモデル呼び出しアクティビティのベースラインを確立します AWS アカウント。GuardDuty は、このベースラインから大幅に逸脱したアクティビティを検出すると、検出結果を生成します。

  • Impact:IAMUser/PromptInjection.Direct 検出結果タイプの場合、GuardDuty は Amazon Bedrock ガードレールが結果 AWS CloudTrail のデータイベントに基づいてプロンプトを評価し、プロンプト攻撃を検出したときに検出結果を生成します。

AWS CloudTrail データイベントの詳細については、「 AWS CloudTrail ユーザーガイド」の「データイベントのログ記録」を参照してください。

AI Protection の料金

GuardDuty AI Protection を有効にすると、GuardDuty は分析する AWS CloudTrail データイベントの量に対して課金し、GB 単位で測定されます。GuardDuty は、CloudTrail の追加料金なしでサービスにリンクされたチャネルを作成します。これらのデータイベントを収集するコストは、AI Protection の使用コストに含まれます。また、GuardDuty やその他の有効な保護プランの標準使用コストも引き続き発生します。現在の料金と例については、Amazon GuardDutyの料金」を参照してください。

AI ワークロードに対する追加の脅威検出

AI Protection プランに加えて、Amazon GuardDuty Foundational および Lambda Protection プランは、構築された AI ワークロードに対する脅威を保護および検出するのに役立つ検出を提供します AWS。

GuardDuty Foundational プランは AWS CloudTrail 、管理イベントをモニタリングして、Amazon Bedrock や Amazon SageMaker AI などの AWS サービスを使用して作成された AI ワークロードの疑わしいアクティビティや悪意のあるアクティビティを検出します。 Amazon SageMaker 例えば、GuardDuty は次のようなアクティビティを特定できます。

  • Amazon Bedrock セキュリティガードレールの異常な削除

  • データポイズニング攻撃につながる可能性のあるモデルトレーニングデータソースの変更

  • 検出を回避する試みを示す可能性のある Amazon Bedrock モデル呼び出しのログ記録を無効にしました

  • Amazon SageMaker AI での異常なノートブックインスタンスまたはトレーニングジョブの作成

  • Amazon Bedrock、Amazon SageMaker AI、または Amazon EC2 インスタンス、Amazon EKS クラスター、または Amazon ECS タスクのセルフマネージド AI ワークロードで APIs を呼び出すために使用された可能性のある Amazon Elastic Compute Cloud 認証情報を抽出しました。

GuardDuty Lambda Protection は、Amazon Bedrock エージェントに関連する潜在的な脅威を検出するのに役立ちます。これには、暗号化などの疑わしいネットワークアクティビティや、悪意のあるコマンドサーバーやコントロールサーバーとの通信が含まれる場合があります。これらの脅威は、サプライチェーン攻撃や複雑なプロンプトによって引き起こされる可能性があります。