View a markdown version of this page

GuardDuty AI 保護 - Amazon GuardDuty
AI 保護的運作方式AI 保護的定價AI 工作負載的其他威脅偵測

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

GuardDuty AI 保護

GuardDuty AI Protection 會將 Amazon GuardDuty 威脅偵測延伸至建置在 上的 AI 工作負載 AWS。當您啟用 AI 保護時，GuardDuty 會分析來自 Amazon Bedrock、Amazon Bedrock AgentCore 和 Amazon SageMaker AI AWS CloudTrail 的資料事件，以及 AWS CloudTrail 管理事件。GuardDuty 使用此資料來偵測以基礎模型和叫用它們的應用程式為目標的潛在可疑活動。當 GuardDuty 識別潛在威脅時，會產生一或多個 AI 保護調查結果類型。

當您啟用 AI 保護時，GuardDuty 可以偵測下列類型的威脅：

  • 異常叫用 Amazon Bedrock 或 Amazon SageMaker AI 模型，這些模型偏離了身分或帳戶的既定基準，例如從不尋常的 IP 地址、不尋常的 API 或不尋常的模型叫用。

  • 成本收集攻擊，其中威脅行為者將運算上昂貴的輸入傳送至 Amazon Bedrock 或 Amazon SageMaker AI 模型，以增加帳戶的字符消耗和操作成本。

  • 直接提示注入嘗試，其中威脅行為者製作惡意提示，讓基礎模型忽略其原始指示。此偵測需要 Amazon Bedrock Guardrails，且僅適用於 Amazon Bedrock 工作負載。

注意

GuardDuty 可在 中產生的調查結果類型 AWS 區域 取決於該區域中可用的 AI 服務：

如需支援每個調查結果類型的區域清單，請參閱 區域特定功能的可用性。

提示

若要從 AI 保護取得最高安全值，請針對 AWS 組織中所有帳戶的提示性攻擊強制執行 Amazon Bedrock Guardrails。使用 AWS Organizations Amazon Bedrock 政策集中管理這些護欄設定。這可透過集中式控制和管理，在所有帳戶中實現統一的保護。強制執行提示攻擊護欄時，GuardDuty 會建立提示注入問題清單。如需詳細資訊，請參閱Impact:IAMUser/PromptInjection.Direct。

若要偵測對 AI 工作負載的威脅，您必須在 GuardDuty 帳戶中啟用 AI 保護。如需啟用 AI 保護的資訊，請參閱在多帳戶環境中啟用 AI 保護適用於多帳戶環境的 或 啟用獨立帳戶的 AI 保護。

主題

AI 保護的運作方式

當您為帳戶或整個組織啟用 AI 保護時，GuardDuty 會自動開始從受監控帳戶中的 AI 服務收集 AWS CloudTrail 資料事件。您不需要建立線索、啟用資料事件記錄，或對 AI 應用程式進行任何變更。

若要收集資料事件，GuardDuty 會在每個受監控帳戶中建立 AWS CloudTrail 服務連結頻道。服務連結頻道會將 Amazon Bedrock、Amazon Bedrock AgentCore 和 Amazon SageMaker AI 以及相關 AI 資源 AWS CloudTrail 的資料事件串流至 GuardDuty 進行分析。由於 GuardDuty 會建立和管理此頻道：

  • GuardDuty 會設定頻道的資料事件設定，帳戶擁有者無法修改這些設定。這表示威脅偵測不取決於帳戶擁有者設定或維護線索。

  • 每個受監控帳戶都可以在 CloudTrail 主控台 （在設定、服務連結頻道下) 或呼叫 API 操作來 AWS CloudTrail ListChannels確認頻道處於作用中狀態。

GuardDuty 使用兩種偵測方法來產生 AI 保護調查結果，取決於調查結果類型：

  • 對於 Impact:IAMUser/AnomalousModelInvocation和 Impact:IAMUser/CostHarvesting調查結果類型，GuardDuty 使用異常偵測機器學習 (ML) 模型來分析所收集的事件，並為每個 IAM 身分和 建立正常模型調用活動的基準 AWS 帳戶。當 GuardDuty 偵測到明顯偏離此基準的活動時，會產生問題清單。

  • 對於Impact:IAMUser/PromptInjection.Direct調查結果類型，當 Amazon Bedrock Guardrails 根據產生的 AWS CloudTrail 資料事件評估提示並偵測提示攻擊時，GuardDuty 會產生調查結果。

如需 AWS CloudTrail 資料事件的詳細資訊，請參閱AWS CloudTrail 《 使用者指南》中的記錄資料事件。

AI 保護的定價

當您啟用 GuardDuty AI Protection 時，GuardDuty 會針對其分析 AWS CloudTrail 的資料事件量收費，以 GB 為單位。GuardDuty 會建立服務連結頻道，無需支付額外的 CloudTrail 費用。收集這些資料事件的成本包含在 AI 保護用量成本中。GuardDuty 和任何其他啟用的保護計畫也會持續產生標準使用成本。如需目前定價和範例，請參閱 Amazon GuardDuty 定價。

AI 工作負載的其他威脅偵測

除了 AI 保護計劃之外，Amazon GuardDuty Foundational 和 Lambda 保護計劃還提供偵測，協助您保護和偵測建置在 上的 AI 工作負載的威脅 AWS。

GuardDuty Foundational 計畫會監控 AWS CloudTrail 管理事件，以偵測使用 AWS 服務建立的 AI 工作負載中的可疑和惡意活動，包括 Amazon Bedrock 和 Amazon SageMaker AI。例如，GuardDuty 可以識別下列活動：

  • 異常移除 Amazon Bedrock 安全防護機制

  • 模型訓練資料來源的變更，可能導致資料中毒攻擊

  • 已停用 Amazon Bedrock 模型調用的記錄，這可能表示嘗試逃避偵測

  • 在 Amazon SageMaker AI 中建立異常筆記本執行個體或訓練任務

  • 滲透的 Amazon Elastic Compute Cloud 登入資料，可能已用於呼叫 Amazon Bedrock、Amazon SageMaker AI 中的 APIs，或 Amazon EC2 執行個體、Amazon EKS 叢集或 Amazon ECS 任務上的自我管理 AI 工作負載。

GuardDuty Lambda 保護可協助偵測與 Amazon Bedrock 代理程式相關的潛在威脅。這可能包括可疑的網路活動，例如加密挖掘，以及與惡意命令和控制伺服器的通訊。這些威脅可能是由供應鏈攻擊或複雜提示造成。