기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다. # 계층 3:의 생성형 AI 플랫폼을 위한 보안 및 거버넌스 AWS 강력한 보안 및 거버넌스 프레임워크는 전사적으로 생성형 AI 채택을 확장하는 데 필수적입니다. 플랫폼 중심 접근 방식을 사용하는 것이 좋습니다. 이 접근 방식을 사용하면 모든 생성형 AI 기반 애플리케이션이 구축하는 팀에 관계없이 기본 보안 및 책임 있는 AI 가드레일의 이점을 누릴 수 있습니다. **Topics** + [핵심 보안 원칙](#security-disciplines) + [권장 보안 제어](#security-recommended-controls) + [보안 범위 조정 매트릭스](#security-scoping-matrix) + [구현 권장 사항](#security-implementation-recs) ## 핵심 보안 원칙 [LLM 애플리케이션용 OWASP 상위 10](https://owasp.org/www-project-top-10-for-large-language-model-applications/)개에서는 생성형 AI 워크로드에 대한 추가 보안 고려 사항을 설명합니다. 그러나 많은 기존 보안 원칙이 여전히 중요합니다. 생성형 AI 워크로드의 보안 고려 사항은 다음과 같습니다. + **거버넌스 및 규정 준수** - 위험을 최소화하면서 비즈니스를 강화하는 데 필요한 정책, 절차 및 보고를 생성합니다. 생성형 AI 애플리케이션의 경우 모델 선택, 데이터 사용 및 출력 검증에 대한 지침이 포함됩니다. + **법률 및 개인 정보 보호** - 생성형 AI 솔루션을 사용하거나 생성하기 위한 특정 규제, 법률 및 개인 정보 보호 요구 사항을 충족합니다. 조직은 생성형 AI 솔루션을 구현할 때 데이터 보호 법률, 지적 재산권 및 업계별 규정을 신중하게 고려해야 합니다. + **위험 관리** - 생성형 AI 솔루션 및 권장 완화 조치에 대한 잠재적 위협을 식별합니다. 여기에는 데이터 중독, 프롬프트 주입 공격 또는 모델 출력의 의도하지 않은 편향과 같은 위험 해결이 포함됩니다. + **제어** - 위험을 완화하는 보안 제어를 구현합니다. 생성형 AI 애플리케이션의 경우 여기에는 입력 삭제, 출력 필터링 및 모델 사용에 대한 액세스 제어가 포함됩니다. 자세한 내용은이 가이드의 권장 보안 제어를 참조하세요. + **복원력** - 가용성을 유지하고 비즈니스 서비스 수준 계약(SLAs)을 충족하기 위한 생성형 AI 솔루션을 설계합니다. 여기에는 다양한 로드 조건에서 모델 중복성, 대체 메커니즘 및 확장성에 대한 고려 사항이 포함됩니다. ## 권장 보안 제어 Defense-in-depth는 보안 제어 계층을 사용하여 시스템, 네트워크 또는 워크로드를 보호하는 사이버 보안 접근 방식입니다. 여러 계층은 한 계층이 실패할 경우 공격을 탐지하고 중지하는 데 도움이 됩니다. 생성형 AI 워크로드 및 환경에 대한 defense-in-depth 접근 방식을 채택하려면 최소한 다음 제어를 사용하는 것이 좋습니다. + **ID 및 액세스 관리** - Amazon Bedrock 및 Amazon SageMaker AI를 AWS 서비스포함한는 기본적으로 AWS Identity and Access Management (IAM)과 통합됩니다. IAM은 파운데이션 모델 구독 또는 모델에서 추론 실행과 같은 AWS 계정 및 리소스에 대한 작업을 수행할 수 있는 사용자를 세부적으로 제어합니다. 세분화된 권한으로 여러 IAM [역할을](https://docs.aws.amazon.com/IAM/latest/UserGuide/id_roles.html) 생성하는 것이 좋습니다. 예를 들어 다음 역할을 생성할 수 있습니다. + *평가 역할* -이 역할을 가진 사용자는 Amazon Bedrock에 새 모델이 추가될 때 샌드박스 환경에서 파운데이션 모델을 평가할 수 있습니다. 이러한 사용자는 더 광범위한 액세스를 허용하는 구독을 활성화하기 전에 법률 및 조달 팀과 협력해야 합니다. + *일반 액세스 역할* -이 역할을 가진 사용자는 표준 사용을 위해 기본 모델에 액세스할 수 있습니다. + *미세 조정된 모델 액세스 역할 -*이 역할을 가진 사용자는 독점 데이터로 미세 조정된 모델에 액세스할 수 있습니다. + *특수 모델 액세스 역할* -이 역할을 가진 사용자는 특정 사용 사례에 맞는 최첨단 고비용 모델에 액세스할 수 있습니다. + 를 **통한 프라이빗 네트워크 액세스 AWS PrivateLink** - Amazon Bedrock 및 Amazon SageMaker AI와 [AWS PrivateLink](https://docs.aws.amazon.com/vpc/latest/privatelink/what-is-privatelink.html) 함께 사용하여 VPC 및 온프레미스 네트워크 내에서 모델을 호출합니다. 이렇게 하면 민감한 데이터를 프라이빗 네트워크 내에 유지할 수 있습니다. + **Amazon Bedrock용 가드레일 **- 파운데이션 모델에 대한 요청 및 응답을 관리하고 필터링하는 [가드레일을](https://docs.aws.amazon.com/bedrock/latest/userguide/agents-guardrail.html) 구현합니다. 이렇게 하면 제어 계층이 추가됩니다. + **호출 로그 보안 저장 **-를 사용하여 규정 준수 요구 사항을 충족하는지 확인하기 위해 모든 요청 및 응답을 Amazon S3 버킷 또는 Amazon CloudWatch Logs에 저장할 수 있습니다. 자세한 내용은 Amazon Bedrock 설명서의 [ CloudWatch Logs 및 Amazon S3를 사용하여 모델 호출 모니터링을](https://docs.aws.amazon.com/bedrock/latest/userguide/model-invocation-logging.html) 참조하세요. + **파운데이션 모델에 대한 액세스 감사 및 추적** - 사용자, 역할 또는가 수행한 작업을 기록하는 서비스인 Amazon CloudWatch를 사용합니다 AWS 서비스. CloudTrail은 Amazon Bedrock에 대한 모든 API 직접 호출을 이벤트로 캡처합니다. 자세한 내용은 [ CloudTrail을 사용하여 Amazon Bedrock API 호출 모니터링](https://docs.aws.amazon.com/bedrock/latest/userguide/logging-using-cloudtrail.html) 및 [를 사용하여 Amazon SageMaker AI API 호출 로깅 AWS CloudTrail](https://docs.aws.amazon.com/sagemaker/latest/dg/logging-using-cloudtrail.html)을 참조하세요. + **LLM 보안에 대한 OWASP 상위 10개 준수** - LLM 애플리케이션에 대한 OWASP의 상위 10개 보안 위험을 준수하고 계층형 방어를 설계하기 위한 전략과 보안 제어를 명확하게 식별했는지 확인합니다. 자세한 내용은 [LLM용 OWASP 상위 10개(블로그 게시물)를 사용하여 생성형 AI 애플리케이션에 대한 defense-in-depth 보안 설계자를 참조하세요 LLMs](https://aws.amazon.com/blogs/machine-learning/architect-defense-in-depth-security-for-generative-ai-applications-using-the-owasp-top-10-for-llms/).AWS ## 보안 범위 조정 매트릭스 필요한 특정 보안 제어는 생성형 AI 애플리케이션의 특성에 따라 달라집니다. [AWS 생성형 AI 보안 검사 매트릭스](https://aws.amazon.com/blogs/security/securing-generative-ai-an-introduction-to-the-generative-ai-security-scoping-matrix/)(AWS 블로그 게시물)는 배포 범위에 따른 보안 요구 사항을 이해하기 위한 프레임워크를 제공합니다. 다음 이미지는 사용 사례를 분류하는 멘탈 모델인 생성형 AI 보안 범위 조정 매트릭스를 보여줍니다. ![생성형 AI 애플리케이션을 위한 보안 범위 조정 매트릭스입니다.](http://docs.aws.amazon.com/ko_kr/prescriptive-guidance/latest/strategy-enterprise-ready-gen-ai-platform/images/gen-ai-security-scoping-matrix.png) 매트릭스는 조직이 다음과 같은 요소를 기반으로 적절한 보안 제어를 식별하는 데 도움이 됩니다. + 애플리케이션이 소비자 대상인지 아니면 엔터프라이즈 내부용인지 여부 + 미세 조정과 비교한 사전 훈련된 모델 사용 + 처리 중인 데이터의 민감도 + 비즈니스 운영에 대한 애플리케이션의 중요도 ## 구현 권장 사항 생성형 AI 워크로드에 대한 포괄적인 보안 및 거버넌스 프레임워크를 구현하려면 다음 권장 사항을 고려하세요. + 모델 액세스 및 사용에 대한 명확한 정책 및 절차를 수립합니다. + 네트워크, 애플리케이션 및 데이터 계층과 같은 여러 계층에서 보안 제어를 구현합니다. + 정기적인 보안 평가 및 규정 준수 감사를 수행합니다. + 보안 조치 및 제어에 대한 자세한 문서를 유지 관리합니다. + 생성형 AI로 작업하는 팀에 보안 인식 교육을 제공합니다. + 위협이 진화함에 따라 보안 제어를 정기적으로 검토하고 업데이트합니다.