View a markdown version of this page

계층 3:의 생성형 AI 플랫폼을 위한 보안 및 거버넌스 AWS - AWS 권장 가이드
핵심 원칙권장 제어 조치행렬 범위 지정구현 권장 사항

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

계층 3:의 생성형 AI 플랫폼을 위한 보안 및 거버넌스 AWS

강력한 보안 및 거버넌스 프레임워크는 전사적으로 생성형 AI 채택을 확장하는 데 필수적입니다. 플랫폼 중심 접근 방식을 사용하는 것이 좋습니다. 이 접근 방식을 사용하면 모든 생성형 AI 기반 애플리케이션이 구축하는 팀에 관계없이 기본 보안 및 책임 있는 AI 가드레일의 이점을 누릴 수 있습니다.

핵심 보안 원칙

LLM 애플리케이션용 OWASP 상위 10개에서는 생성형 AI 워크로드에 대한 추가 보안 고려 사항을 설명합니다. 그러나 많은 기존 보안 원칙이 여전히 중요합니다. 생성형 AI 워크로드의 보안 고려 사항은 다음과 같습니다.

  • 거버넌스 및 규정 준수 - 위험을 최소화하면서 비즈니스를 강화하는 데 필요한 정책, 절차 및 보고를 생성합니다. 생성형 AI 애플리케이션의 경우 모델 선택, 데이터 사용 및 출력 검증에 대한 지침이 포함됩니다.

  • 법률 및 개인 정보 보호 - 생성형 AI 솔루션을 사용하거나 생성하기 위한 특정 규제, 법률 및 개인 정보 보호 요구 사항을 충족합니다. 조직은 생성형 AI 솔루션을 구현할 때 데이터 보호 법률, 지적 재산권 및 업계별 규정을 신중하게 고려해야 합니다.

  • 위험 관리 - 생성형 AI 솔루션 및 권장 완화 조치에 대한 잠재적 위협을 식별합니다. 여기에는 데이터 중독, 프롬프트 주입 공격 또는 모델 출력의 의도하지 않은 편향과 같은 위험 해결이 포함됩니다.

  • 제어 - 위험을 완화하는 보안 제어를 구현합니다. 생성형 AI 애플리케이션의 경우 여기에는 입력 삭제, 출력 필터링 및 모델 사용에 대한 액세스 제어가 포함됩니다. 자세한 내용은이 가이드의 권장 보안 제어를 참조하세요.

  • 복원력 - 가용성을 유지하고 비즈니스 서비스 수준 계약(SLAs)을 충족하기 위한 생성형 AI 솔루션을 설계합니다. 여기에는 다양한 로드 조건에서 모델 중복성, 대체 메커니즘 및 확장성에 대한 고려 사항이 포함됩니다.

Defense-in-depth는 보안 제어 계층을 사용하여 시스템, 네트워크 또는 워크로드를 보호하는 사이버 보안 접근 방식입니다. 여러 계층은 한 계층이 실패할 경우 공격을 탐지하고 중지하는 데 도움이 됩니다. 생성형 AI 워크로드 및 환경에 대한 defense-in-depth 접근 방식을 채택하려면 최소한 다음 제어를 사용하는 것이 좋습니다.

  • ID 및 액세스 관리 - Amazon Bedrock 및 Amazon SageMaker AI를 AWS 서비스포함한는 기본적으로 AWS Identity and Access Management (IAM)과 통합됩니다. IAM은 파운데이션 모델 구독 또는 모델에서 추론 실행과 같은 AWS 계정 및 리소스에 대한 작업을 수행할 수 있는 사용자를 세부적으로 제어합니다. 세분화된 권한으로 여러 IAM 역할을 생성하는 것이 좋습니다. 예를 들어 다음 역할을 생성할 수 있습니다.

    • 평가 역할 -이 역할을 가진 사용자는 Amazon Bedrock에 새 모델이 추가될 때 샌드박스 환경에서 파운데이션 모델을 평가할 수 있습니다. 이러한 사용자는 더 광범위한 액세스를 허용하는 구독을 활성화하기 전에 법률 및 조달 팀과 협력해야 합니다.

    • 일반 액세스 역할 -이 역할을 가진 사용자는 표준 사용을 위해 기본 모델에 액세스할 수 있습니다.

    • 미세 조정된 모델 액세스 역할 -이 역할을 가진 사용자는 독점 데이터로 미세 조정된 모델에 액세스할 수 있습니다.

    • 특수 모델 액세스 역할 -이 역할을 가진 사용자는 특정 사용 사례에 맞는 최첨단 고비용 모델에 액세스할 수 있습니다.

  • 를 통한 프라이빗 네트워크 액세스 AWS PrivateLink - Amazon Bedrock 및 Amazon SageMaker AI와 AWS PrivateLink 함께 사용하여 VPC 및 온프레미스 네트워크 내에서 모델을 호출합니다. 이렇게 하면 민감한 데이터를 프라이빗 네트워크 내에 유지할 수 있습니다.

  • Amazon Bedrock용 가드레일 - 파운데이션 모델에 대한 요청 및 응답을 관리하고 필터링하는 가드레일을 구현합니다. 이렇게 하면 제어 계층이 추가됩니다.

  • 호출 로그 보안 저장 -를 사용하여 규정 준수 요구 사항을 충족하는지 확인하기 위해 모든 요청 및 응답을 Amazon S3 버킷 또는 Amazon CloudWatch Logs에 저장할 수 있습니다. 자세한 내용은 Amazon Bedrock 설명서의 CloudWatch Logs 및 Amazon S3를 사용하여 모델 호출 모니터링을 참조하세요.

  • 파운데이션 모델에 대한 액세스 감사 및 추적 - 사용자, 역할 또는가 수행한 작업을 기록하는 서비스인 Amazon CloudWatch를 사용합니다 AWS 서비스. CloudTrail은 Amazon Bedrock에 대한 모든 API 직접 호출을 이벤트로 캡처합니다. 자세한 내용은 CloudTrail을 사용하여 Amazon Bedrock API 호출 모니터링 및 를 사용하여 Amazon SageMaker AI API 호출 로깅 AWS CloudTrail을 참조하세요.

  • LLM 보안에 대한 OWASP 상위 10개 준수 - LLM 애플리케이션에 대한 OWASP의 상위 10개 보안 위험을 준수하고 계층형 방어를 설계하기 위한 전략과 보안 제어를 명확하게 식별했는지 확인합니다. 자세한 내용은 LLM용 OWASP 상위 10개(블로그 게시물)를 사용하여 생성형 AI 애플리케이션에 대한 defense-in-depth 보안 설계자를 참조하세요 LLMs.AWS

보안 범위 조정 매트릭스

필요한 특정 보안 제어는 생성형 AI 애플리케이션의 특성에 따라 달라집니다. AWS 생성형 AI 보안 검사 매트릭스(AWS 블로그 게시물)는 배포 범위에 따른 보안 요구 사항을 이해하기 위한 프레임워크를 제공합니다. 다음 이미지는 사용 사례를 분류하는 멘탈 모델인 생성형 AI 보안 범위 조정 매트릭스를 보여줍니다.

생성형 AI 애플리케이션을 위한 보안 범위 조정 매트릭스입니다.

매트릭스는 조직이 다음과 같은 요소를 기반으로 적절한 보안 제어를 식별하는 데 도움이 됩니다.

  • 애플리케이션이 소비자 대상인지 아니면 엔터프라이즈 내부용인지 여부

  • 미세 조정과 비교한 사전 훈련된 모델 사용

  • 처리 중인 데이터의 민감도

  • 비즈니스 운영에 대한 애플리케이션의 중요도

구현 권장 사항

생성형 AI 워크로드에 대한 포괄적인 보안 및 거버넌스 프레임워크를 구현하려면 다음 권장 사항을 고려하세요.

  • 모델 액세스 및 사용에 대한 명확한 정책 및 절차를 수립합니다.

  • 네트워크, 애플리케이션 및 데이터 계층과 같은 여러 계층에서 보안 제어를 구현합니다.

  • 정기적인 보안 평가 및 규정 준수 감사를 수행합니다.

  • 보안 조치 및 제어에 대한 자세한 문서를 유지 관리합니다.

  • 생성형 AI로 작업하는 팀에 보안 인식 교육을 제공합니다.

  • 위협이 진화함에 따라 보안 제어를 정기적으로 검토하고 업데이트합니다.