View a markdown version of this page

GuardDuty AI 보호 - Amazon GuardDuty
AI 보호 작동 방식AI 보호 요금AI 워크로드에 대한 추가 위협 탐지

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

GuardDuty AI 보호

GuardDuty AI 보호는 Amazon GuardDuty 위협 탐지를 기반 AI 워크로드로 확장합니다 AWS. AI 보호를 활성화하면 GuardDuty는 AWS CloudTrail 관리 이벤트와 함께 Amazon Bedrock, Amazon Bedrock AgentCore 및 Amazon SageMaker AI의 AWS CloudTrail 데이터 이벤트를 분석합니다. GuardDuty는이 데이터를 사용하여 파운데이션 모델과 파운데이션 모델을 호출하는 애플리케이션을 대상으로 하는 잠재적으로 의심스러운 활동을 탐지합니다. GuardDuty가 잠재적 위협을 식별하면 하나 이상의를 생성합니다AI 보호 결과 유형.

AI 보호를 활성화하면 GuardDuty는 다음과 같은 유형의 위협을 탐지할 수 있습니다.

  • 비정상적인 IP 주소, 비정상적인 API 또는 비정상적인 모델에서의 호출과 같이 자격 증명 또는 계정에 대해 설정된 기준에서 벗어나는 Amazon Bedrock 또는 Amazon SageMaker AI 모델의 이상 호출.

  • 공격자가 컴퓨팅 비용이 많이 드는 입력을 Amazon Bedrock 또는 Amazon SageMaker AI 모델에 전송하여 계정의 토큰 소비 및 운영 비용을 부풀리는 공격 수집 비용.

  • 직접 프롬프트 주입 시도 - 위협 행위자가 파운데이션 모델이 원래 지침을 무시하도록 악의적인 프롬프트를 생성합니다. 이 감지에는 Amazon Bedrock Guardrails가 필요하며 Amazon Bedrock 워크로드에만 적용됩니다.

참고

GuardDuty가에서 생성할 수 있는 결과 유형은 해당 리전에서 사용할 수 있는 AI 서비스에 AWS 리전 따라 다릅니다.

각 결과 유형이 지원되는 리전 목록은 섹션을 참조하세요리전별 기능 가용성.

작은 정보

AI 보호에서 보안 가치를 극대화하려면 AWS 조직의 모든 계정에 걸쳐 프롬프트 공격에 Amazon Bedrock Guardrails를 적용합니다. AWS Organizations Amazon Bedrock 정책을 사용하여 이러한 가드레일 설정을 중앙에서 관리합니다. 이를 통해 중앙 집중식 제어 및 관리를 통해 모든 계정에서 균일한 보호가 가능합니다. 프롬프트 공격 가드레일이 적용되면 GuardDuty는 프롬프트 주입 조사 결과를 생성합니다. 자세한 내용은 Impact:IAMUser/PromptInjection.Direct 단원을 참조하십시오.

AI 워크로드에 대한 위협을 탐지하려면 GuardDuty 계정에서 AI 보호를 활성화해야 합니다. AI 보호 활성화에 대한 자세한 내용은 다중 계정 환경다중 계정 환경에서 AI 보호 활성화의 경우 또는 섹션을 참조하세요독립 실행형 계정에 AI 보호 활성화.

주제

AI 보호 작동 방식

계정 또는 조직 전체에 AI 보호를 활성화하면 GuardDuty는 모니터링되는 계정의 AI 서비스에서 AWS CloudTrail 데이터 이벤트를 자동으로 수집하기 시작합니다. 추적을 생성하거나, 데이터 이벤트 로깅을 활성화하거나, AI 애플리케이션을 변경할 필요가 없습니다.

데이터 이벤트를 수집하기 위해 GuardDuty는 모니터링되는 각 계정에 AWS CloudTrail 서비스 연결 채널을 생성합니다. 서비스 연결 채널은 분석을 위해 Amazon Bedrock, Amazon Bedrock AgentCore, Amazon SageMaker AI 및 관련 AI 리소스에 대한 AWS CloudTrail 데이터 이벤트를 GuardDuty로 스트리밍합니다. GuardDuty가이 채널을 생성하고 관리하기 때문입니다.

  • GuardDuty는 채널의 데이터 이벤트 설정을 구성하며 계정 소유자는 이를 수정할 수 없습니다. 즉, 위협 탐지는 계정 소유자가 추적을 구성하거나 유지 관리하는 데 의존하지 않습니다.

  • 모니터링되는 각 계정은 CloudTrail 콘솔(설정, 서비스 연결 채널 아래)에서 또는 API 작업을 호출하여 채널이 활성 상태인지 확인할 수 있습니다 AWS CloudTrail ListChannels.

GuardDuty는 결과 유형에 따라 두 가지 탐지 방법을 사용하여 AI 보호 결과를 생성합니다.

  • Impact:IAMUser/AnomalousModelInvocation 및 Impact:IAMUser/CostHarvesting 결과 유형의 경우 GuardDuty는 이상 탐지 기계 학습(ML) 모델을 사용하여 수집된 이벤트를 분석하고 각 IAM 자격 증명 및에 대한 정상 모델 호출 활동의 기준을 설정합니다 AWS 계정. GuardDuty는이 기준에서 크게 벗어나는 활동을 감지하면 결과를 생성합니다.

  • Impact:IAMUser/PromptInjection.Direct 결과 유형의 경우 GuardDuty는 Amazon Bedrock Guardrails가 결과 AWS CloudTrail 데이터 이벤트를 기반으로 프롬프트를 평가하고 프롬프트 공격을 탐지할 때 결과를 생성합니다.

AWS CloudTrail 데이터 이벤트에 대한 자세한 내용은 AWS CloudTrail 사용 설명서의 데이터 이벤트 로깅을 참조하세요.

AI 보호 요금

GuardDuty AI 보호를 활성화하면 GuardDuty는 GB 단위로 측정하여 분석하는 AWS CloudTrail 데이터 이벤트의 양에 대해 요금을 부과합니다. GuardDuty는 추가 CloudTrail 요금 없이 서비스 연결 채널을 생성합니다. 이러한 데이터 이벤트 수집 비용은 AI 보호 사용 비용에 포함됩니다. 또한 GuardDuty 및 기타 활성화된 보호 플랜에 대한 표준 사용 비용이 계속 발생합니다. 현재 요금 및 예제는 Amazon GuardDuty 요금을 참조하세요.

AI 워크로드에 대한 추가 위협 탐지

AI 보호 계획 외에도 Amazon GuardDuty Foundational 및 Lambda 보호 계획은 기반 AI 워크로드에 대한 위협을 보호하고 탐지하는 데 도움이 되는 탐지 기능을 제공합니다 AWS.

GuardDuty Foundational 계획은 AWS CloudTrail 관리 이벤트를 모니터링하여 Amazon Bedrock 및 Amazon SageMaker AI와 같은 AWS 서비스를 사용하여 생성된 AI 워크로드에서 의심스럽고 악의적인 활동을 탐지합니다. 예를 들어 GuardDuty는 다음과 같은 활동을 식별할 수 있습니다.

  • Amazon Bedrock 보안 가드레일의 비정상적인 철거

  • 잠재적으로 데이터 중독 공격으로 이어질 수 있는 모델 훈련 데이터 소스 변경

  • 탐지 회피 시도를 나타낼 수 있는 Amazon Bedrock 모델 호출에 대한 로깅 비활성화

  • Amazon SageMaker AI에서 비정상적인 노트북 인스턴스 또는 훈련 작업 생성

  • Amazon EC2 인스턴스, Amazon EKS 클러스터 또는 Amazon ECS 태스크에서 Amazon Bedrock, Amazon SageMaker AI 또는 자체 관리형 AI 워크로드의 APIs를 호출하는 데 사용되었을 수 있는 유출된 Amazon Elastic Compute Cloud 자격 증명입니다.

GuardDuty Lambda 보호는 Amazon Bedrock 에이전트와 관련된 잠재적 위협을 탐지하는 데 도움이 될 수 있습니다. 여기에는 암호화, 악성 명령 및 제어 서버와의 통신과 같은 의심스러운 네트워크 활동이 포함될 수 있습니다. 이러한 위협은 공급망 공격 또는 복잡한 프롬프트로 인해 발생할 수 있습니다.