View a markdown version of this page

GuardDuty 人工智能保护 - 亚马逊 GuardDuty
AI 保护的工作原理人工智能保护的定价针对 AI 工作负载的其他威胁检测

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

GuardDuty 人工智能保护

GuardDuty AI Protection 将亚马逊 GuardDuty 威胁检测扩展到基于人工智能工作负载 AWS。启用 AI 保护后， GuardDuty 会分析来自亚马逊 Bedrock、Amazon Bedrock AgentCore 和亚马逊 SageMaker AI AWS CloudTrail 的数据事件以及 AWS CloudTrail 管理事件。 GuardDuty 使用这些数据来检测针对基础模型和调用这些模型的应用程序的潜在可疑活动。当 GuardDuty 发现潜在威胁时，它会生成一个或多个威胁AI 保护发现类型。

启用 AI 保护后， GuardDuty 可以检测到以下类型的威胁：

  • Amazon Bedrock 或 Amazon SageMaker AI 模型的异常调用偏离既定身份或账户基准，例如来自不寻常的 IP 地址、不寻常的 API 或异常模型的调用。

  • 成本收集攻击，其中威胁行为者向亚马逊 Bedrock 或 Amazon SageMaker AI 模型发送计算成本高昂的输入，以增加账户的代币消耗和运营成本。

  • 直接即时注入尝试，其中威胁行为者制作恶意提示，使基础模型忽略其原始指令。此检测需要亚马逊基岩护栏，并且仅适用于亚马逊基岩工作负载。

注意

GuardDuty 可以在中生成的发现类型 AWS 区域 取决于该地区提供哪些 AI 服务：

有关支持每种查找类型的区域列表，请参阅Region-specific 功能可用性。

提示

要从 AI 保护中获得最大的安全价值，请强制执行 Amazon Bedrock Guardrails，以便对组织中的所有账户进行即时攻击。 AWS 使用AWS Organizations 亚马逊 Bedrock 政策集中管理这些护栏设置。这样就可以通过集中控制和管理对所有账户进行统一保护。强制执行即时攻击护栏时， GuardDuty会立即生成注入结果。有关更多信息，请参阅 Impact:IAMUser/PromptInjection.Direct。

要检测 AI 工作负载面临的威胁，必须在 GuardDuty账户中启用 AI 保护。有关启用 AI 保护的信息，在多账户环境中启用 AI 保护请参阅多账户环境或。为独立账户启用 AI 保护

主题

AI 保护的工作原理

当您为某个账户或整个组织启用 AI 保护时， GuardDuty会自动开始从受监控账户中的 AI 服务收集 AWS CloudTrail 数据事件。您无需创建跟踪、启用数据事件记录或对 AI 应用程序进行任何更改。

要收集数据事件，请在每个受监控的账户中 GuardDuty 创建一个 AWS CloudTrail服务关联频道。该服务相关渠道将亚马逊基岩、亚马逊基岩和亚马逊 SageMaker 人工智能 AWS CloudTrail 的数据事件以及相关的人工智能资源传输到进行 GuardDuty 分析。 AgentCore因为 GuardDuty 创建并管理这个频道：

  • GuardDuty 配置频道的数据事件设置，账户所有者无法对其进行修改。这意味着威胁检测不依赖于账户所有者配置或维护跟踪。

  • 每个受监控的账户都可以在 CloudTrail控制台（在 “设置、频道” 下）或通过调用 AWS CloudTrail ListChannels API 操作来确认该Service-linked频道是否处于活动状态。

GuardDuty 使用两种检测方法生成 AI 保护结果，具体取决于发现类型：

  • 对于Impact:IAMUser/AnomalousModelInvocation和Impact:IAMUser/CostHarvesting查找类型， GuardDuty 使用异常检测机器学习 (ML) 模型分析收集的事件并为每个 IAM 身份和建立正常模型调用活动的基准。 AWS 账户 GuardDuty 当它检测到活动明显偏离该基线时，会生成一个结果。

  • 对于Impact:IAMUser/PromptInjection.Direct查找结果类型，在 Amazon Bedrock Guardrails 评估提示并根据生成的数据事件检测到即时攻击时 GuardDuty生成搜索结果。 AWS CloudTrail

有关 AWS CloudTrail 数据事件的更多信息，请参阅《AWS CloudTrail 用户指南》中的记录数据事件。

人工智能保护的定价

启用 GuardDuty AI 保护时，将按其分析 AWS CloudTrail 的数据事件量 GuardDuty 收费，以 GB 为单位。 GuardDuty 创建服务相关频道，无需向您 CloudTrail 收取额外费用。收集这些数据事件的费用包含在您的 AI 保护使用成本中。您还会继续承担任何其他已启用的 GuardDuty 保护计划的标准使用费用。有关当前定价和示例，请参阅亚马逊 GuardDuty 定价。

针对 AI 工作负载的其他威胁检测

除人工智能保护计划外，亚马逊 GuardDuty 基础和 Lambda保护计划还提供检测功能，以帮助您保护和检测基于人工智能工作负载的威胁。 AWS

GuardDuty 基础计划监控 AWS CloudTrail 管理事件，以检测使用包括亚马逊 Bedrock 和 A mazon AI 在内的 AWS 服务创建的 AI 工作负载中的可疑和恶意活动。 SageMaker 例如， GuardDuty 可以识别以下活动：

  • Amazon Bedrock 安全护栏的不寻常移除

  • 对模型训练数据源的更改可能会导致数据中毒攻击

  • 禁用了对可能表示试图逃避检测的 Amazon Bedrock 模型调用的日志记录

  • SageMaker Amazon AI 中不寻常的笔记本电脑实例或训练创造就业机会

  • 泄露的亚马逊弹性计算云凭证，这些凭证可能用于在亚马逊 EC2 实例、亚马逊 EKS 集群或亚马逊 ECS 任务上调用 SageMaker Amazon Bedrock、Amazon AI 或自我管理的人工智能工作负载中的 API。

GuardDuty Lambda 保护可以帮助检测与亚马逊 Bedrock 代理相关的潜在威胁。这可能包括可疑的网络活动，例如加密挖矿以及与恶意命令和控制服务器的通信。这些威胁可能是由供应链攻击或复杂的提示引起的。