使用 GuardDuty 保护 AI 工作负载 - Amazon GuardDuty

使用 GuardDuty 保护 AI 工作负载

您可以借助 Amazon GuardDuty 基础威胁检测和 Lambda 防护来更好地保护和检测 AWS 上所构建人工智能（AI）工作负载面临的威胁。

GuardDuty 基础威胁检测可监控 AWS CloudTrail 管理事件，从而检测使用 AWS 服务（包括 Amazon Bedrock 和 Amazon SageMaker AI）所创建的生成式人工智能工作负载中的可疑活动和恶意活动。例如，GuardDuty 可以识别下列活动：

  • Amazon Bedrock 安全护栏的不寻常移除

  • 可能导致数据中毒攻击的模型训练数据来源更改

  • 对 Amazon Bedrock 模型的可疑调用

  • SageMaker AI 中的不寻常笔记本电脑实例或训练作业创建

  • 可能已在 Amazon Bedrock、Amazon SageMaker AI 中被用来调用 API，或在 EC2 实例、EKS 集群或 ECS 任务中用来调用自主管理型 AI 工作负载的已泄露 Amazon Elastic Compute Cloud 凭证。

GuardDuty Lambda 防护有助您检测与 Amazon Bedrock 代理相关的潜在威胁。这可能包括加密币挖矿等可疑的网络活动，以及与可能因供应链攻击或复杂提示导致的恶意命令和控制服务器之间的通信。

以下视频展示了相关调查发现的样子。