View a markdown version of this page

GuardDuty 人工智能保护 - Amazon GuardDuty
AI 保护的工作原理AI 保护的定价针对 AI 工作负载的其他威胁检测

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

GuardDuty 人工智能保护

GuardDuty AI Protection 将 Amazon GuardDuty 威胁检测扩展到基于 AWS此构建的 AI 工作负载 启用 AI 保护后， GuardDuty 会分析来自亚马逊 Bedrock、Amazon Bedrock 和 AgentCore Amazon SageMaker AI AWS CloudTrail 的数据事件以及 AWS CloudTrail 管理事件。 GuardDuty 使用这些数据来检测针对基础模型和调用这些模型的应用程序的潜在可疑活动。当 GuardDuty 识别出潜在威胁时，它会生成一个或多个威胁AI 保护发现类型。

启用 AI 防护后， GuardDuty 可以检测到以下类型的威胁：

  • 对偏离身份或账户既定基准的 Amazon Bedrock 或 A SageMaker mazon AI 模型的异常调用，例如从异常的 IP 地址、不寻常的 API 或不寻常的模型进行调用。

  • 成本收集攻击，在这种攻击中，威胁行为者向 Amazon Bedrock 或 Amazon A SageMaker I 模型发送计算成本高昂的输入，以夸大账户的代币消耗和运营成本。

  • 直接提示注入尝试，其中威胁行为者制作恶意提示，使基础模型忽略其原始指令。此检测需要使用 Amazon Bedrock Guardrails，并且仅适用于 Amazon Bedrock 工作负载。

注意

GuardDuty 可以在中生成的发现类型 AWS 区域 取决于该区域提供的 AI 服务：

有关支持每种查找类型的区域列表，请参阅Region-specific 功能可用性。

提示

要从 AI Protection 中获得最大的安全价值，请强制执行 Amazon Bedrock Guardrails，以便对组织中的所有账户进行即时攻击。 AWS 使用 AWS Organizations Amazon Bedrock 政策集中管理这些护栏设置。这样，通过集中控制和管理，可以对所有账户进行统一保护。当强制使用即时攻击护栏时， GuardDuty会立即生成注入结果。有关更多信息，请参阅 Impact:IAMUser/PromptInjection.Direct。

要检测对您的 AI 工作负载的威胁，您必须在您的 GuardDuty账户中启用 AI 保护。有关启用 AI 保护的信息，请参阅在多账户环境中启用 AI 保护适用于多账户环境或。为独立账户启用 AI 保护

主题

AI 保护的工作原理

当你为一个账户或整个组织启用 AI Protection 时， GuardDuty会自动开始从受监控账户中的 AI 服务收集 AWS CloudTrail 数据事件。您无需创建跟踪、启用数据事件记录或对 AI 应用程序进行任何更改。

要收集数据事件，请在每个受监控账户中 GuardDuty 创建一个 AWS CloudTrail 与服务相关的频道。与服务相关的频道将 Amazon Bedrock、Amazon Bedrock AgentCore 和 Amazon A SageMaker I AWS CloudTrail 的数据事件以及相关的 AI 资源传输到以 GuardDuty 供分析。因为 GuardDuty 创建和管理这个频道：

  • GuardDuty 配置频道的数据事件设置，账号所有者无法对其进行修改。这意味着威胁检测不依赖于账户所有者配置或维护跟踪。

  • 每个受监控的账户都可以在 CloudTrail控制台（在 “设置”、“频道” 下）或通过调用 AWS CloudTrail ListChannelsAPI 操作来确认Service-linked频道处于活动状态。

GuardDuty 根据发现类型，使用两种检测方法生成 AI Protection 结果：

  • 对于Impact:IAMUser/AnomalousModelInvocation和Impact:IAMUser/CostHarvesting查找类型， GuardDuty 使用异常检测机器学习 (ML) 模型来分析收集的事件，并为每个 IAM 身份和建立正常模型调用活动的基准。 AWS 账户 GuardDuty 当它检测到明显偏离该基线的活动时，就会生成调查结果。

  • 对于Impact:IAMUser/PromptInjection.Direct查找类型，当 Amazon Bedrock Guardrails 根据生成的数据事件评估提示并检测到即时攻击时， GuardDuty生成调查结果。 AWS CloudTrail

有关 AWS CloudTrail 数据事件的更多信息，请参阅AWS CloudTrail 用户指南中的记录数据事件。

AI 保护的定价

启用 GuardDuty AI Protection 时，会按其分析 AWS CloudTrail 的数据事件量 GuardDuty 收费，以 GB 为单位。 GuardDuty 创建与服务相关的频道，您无需支付任何 CloudTrail 额外费用。收集这些数据事件的费用包含在您的 AI Protection 使用成本中。对于任何其他已启用的保护计划 GuardDuty ，您还将继续承担标准使用费用。有关当前定价和示例，请参阅 Amazon GuardDuty 定价。

针对 AI 工作负载的其他威胁检测

除了 AI 保护计划外，Amazon GuardDuty Foundational 和 Lambda Protection 计划还提供检测功能，以帮助您保护和检测基于人工智能工作负载的威胁。 AWS

GuardDuty 基础计划监控 AWS CloudTrail 管理事件，以检测使用 AWS 服务（包括 Amazon B edrock 和 Amazon AI）创建的 AI 工作负载中的可疑和恶意活动。 SageMaker 例如， GuardDuty 可以识别以下活动：

  • Amazon Bedrock 安全护栏的不寻常移除

  • 对模型训练数据源的更改可能会导致数据中毒攻击

  • 禁用可能表明有人企图逃避检测的 Amazon Bedrock 模型调用的日志记录

  • 在 Amazon A SageMaker I 中创建不寻常的笔记本实例或训练就业机会

  • 泄露了亚马逊弹性计算云凭证，这些证书可能被用来调用亚马逊 Bedrock 中的 API、亚马逊 A SageMaker I 或亚马逊 EC2 实例、亚马逊 EKS 集群或亚马逊 ECS 任务上的自我管理的人工智能工作负载。

GuardDuty Lambda Protection 可以帮助检测与 Amazon Bedrock 代理相关的潜在威胁。这可能包括可疑的网络活动，例如加密挖矿，以及与恶意命令和控制服务器的通信。这些威胁可能是由供应链攻击或复杂的提示引起的。