View a markdown version of this page

Amazon SageMaker AI 추론 최적화의 보안 - Amazon SageMaker AI
데이터 보호자격 증명 및 액세스 관리보안 모범 사례

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon SageMaker AI 추론 최적화의 보안

의 클라우드 보안 AWS 이 최우선 순위입니다. AWS 고객은 보안에 가장 민감한 조직의 요구 사항을 충족하도록 구축된 데이터 센터 및 네트워크 아키텍처의 이점을 누릴 수 있습니다.

보안은 AWS 와 사용자 간의 공동 책임입니다. 공동 책임 모델은 이를 클라우드의 보안과 클라우드 내 보안으로 설명합니다.

  • 클라우드 보안 - AWS 는 AWS 클라우드에서 AWS 서비스를 실행하는 인프라를 보호할 책임이 있습니다. AWS 또한는 안전하게 사용할 수 있는 서비스를 제공합니다. 서드 파티 감사원은 정기적으로 AWS 규정 준수 프로그램의 일환으로 보안 효과를 테스트하고 검증합니다. Amazon SageMaker AI에 적용되는 규정 준수 프로그램에 대한 자세한 내용은 AWS Services in Scope by Compliance Program을 참조하세요.

  • 클라우드의 보안 - 사용자의 책임은 사용하는 AWS 서비스에 따라 결정됩니다. 또한 귀하는 데이터의 민감도, 회사 요구 사항, 관련 법률 및 규정을 비롯한 기타 요소에 대해서도 책임이 있습니다.

이 설명서는 AI 벤치마킹 작업, AI 권장 작업, AI 워크로드 구성을 포함한 SageMaker AI 추론 최적화 기능을 사용할 때 공동 책임 모델을 적용하는 방법을 이해하는 데 도움이 됩니다.

데이터 보호

AWS 공동 책임 모델은 Amazon SageMaker AI 추론 최적화의 데이터 보호에 적용됩니다. 이 모델에 설명된 대로 AWS 는 모든 AWS 클라우드를 실행하는 글로벌 인프라를 보호할 책임이 있습니다. 사용자는 이 인프라에 호스팅되는 콘텐츠에 대한 통제 권한을 유지할 책임이 있습니다.

데이터 보호를 위해 AWS 계정 자격 증명을 보호하고 AWS IAM Identity Center 또는 AWS Identity and Access Management(IAM)를 사용하여 개별 사용자를 설정하는 것이 좋습니다. 이렇게 하면 개별 사용자에게 자신의 직무를 충실히 이행하는 데 필요한 권한만 부여됩니다. 또한 다음과 같은 방법으로 데이터를 보호하는 것이 좋습니다.

  • 각 계정에 다중 인증(MFA)을 사용합니다.

  • SSL/TLS를 사용하여 AWS 리소스와 통신합니다. TLS 1.2는 필수이며 TLS 1.3을 권장합니다.

  • AWS CloudTrail을 사용하여 API 및 사용자 활동 로깅을 설정합니다.

  • AWS 서비스 내의 모든 기본 보안 제어와 함께 AWS 암호화 솔루션을 사용합니다.

  • Amazon S3에 저장된 민감한 데이터를 검색하고 보호하는 데 도움이 되는 Amazon Macie와 같은 고급 관리형 보안 서비스를 사용합니다.

고객의 이메일 주소와 같은 기밀 정보나 중요한 정보는 태그나 이름 필드와 같은 자유 형식 텍스트 필드에 입력하지 않는 것이 좋습니다.

SageMaker AI 추론 최적화가 저장하는 데이터

SageMaker AI 추론 최적화는 다음 유형의 데이터를 저장합니다.

  • 작업 메타데이터 - AI 벤치마크 작업 또는 AI 권장 작업을 생성할 때 서비스는 작업 이름, 상태, 생성 타임스탬프 및 리소스 구성 파라미터와 같은 작업 구성 메타데이터를 저장합니다.

  • 워크로드 구성 - AI 워크로드 구성을 생성하면 서비스는 벤치마크 파라미터, 데이터 세트 구성 및 태그를 포함하여 사용자가 제공하는 구성 파라미터를 저장합니다.

  • 벤치마크 결과 및 권장 사항 - 성능 지표, 비용 견적 및 배포 권장 사항과 같은 작업 출력은 서비스 내에 작업 메타데이터로 저장됩니다.

SageMaker AI 추론 최적화는 모델 가중치, 훈련 데이터 또는 추론 결과를 저장하지 않습니다. 모델 아티팩트와 벤치마크 출력 파일은 AWS 계정 내 Amazon S3 버킷에 남아 있습니다.

저장 시 암호화

SageMaker AI 추론 최적화는 기본적으로 저장된 모든 데이터를 암호화합니다. 작업 메타데이터 및 워크로드 구성은 저장 시 암호화와 함께 Amazon DynamoDB에 저장됩니다. 저장 시 암호화를 활성화하기 위해 어떤 조치도 취할 필요가 없습니다.

전송 중 암호화

SageMaker AI 추론 최적화는 TLS를 사용하여 전송 중인 모든 데이터를 암호화합니다. 서비스에 대한 API 요청은 TLS 1.2 이상을 사용하여 HTTPS를 통해 이루어집니다.

SageMaker AI 추론 최적화와 기타 AWS 서비스(예: Amazon DynamoDB, AWS Lambda, Amazon S3, AWS Secrets Manager) 간의 모든 통신은 TLS 암호화 연결을 사용합니다.

인터네트워크 트래픽 개인 정보

SageMaker AI 추론 최적화 API 엔드포인트는 HTTPS를 사용하여 퍼블릭 인터넷을 통해 액세스할 수 있습니다. SageMaker AI API용 VPC 엔드포인트를 사용하여 퍼블릭 인터넷을 통과하지 않고도 AWS 네트워크 내에서 VPC와 SageMaker AI API 간의 트래픽을 유지할 수 있습니다.

AI 벤치마크 작업에 VPC 구성을 제공하면 서비스는 지정된 VPC 서브넷 및 보안 그룹 내에 리소스를 생성합니다.

자격 증명 및 액세스 관리

Amazon SageMaker AI 추론 최적화는 AWS Identity and Access Management(IAM)를 사용하여 리소스 및 작업에 대한 액세스를 제어합니다.

SageMaker AI 추론 최적화가 IAM과 작동하는 방식

SageMaker AI 추론 최적화는 SageMaker AI API를 통해 액세스됩니다. 모든 API 호출은 IAM을 사용하여 인증되고 승인됩니다.

추론 최적화 APIs 사용합니다.

  • sagemaker:CreateAIWorkloadConfig

  • sagemaker:DescribeAIWorkloadConfig

  • sagemaker:ListAIWorkloadConfigs

  • sagemaker:DeleteAIWorkloadConfig

  • sagemaker:CreateAIBenchmarkJob

  • sagemaker:DescribeAIBenchmarkJob

  • sagemaker:ListAIBenchmarkJobs

  • sagemaker:StopAIBenchmarkJob

  • sagemaker:DeleteAIBenchmarkJob

  • sagemaker:CreateAIRecommendationJob

  • sagemaker:DescribeAIRecommendationJob

  • sagemaker:ListAIRecommendationJobs

  • sagemaker:StopAIRecommendationJob

  • sagemaker:DeleteAIRecommendationJob

실행 역할

AI 벤치마크 작업 또는 AI 권장 작업을 생성할 때 IAM 실행 역할()을 제공합니다RoleArn. 서비스는이 역할을 수임하여 AWS 계정에서 다음과 같은 작업을 수행합니다.

  • SageMaker AI 훈련 작업, 엔드포인트 및 최적화 작업 생성 및 관리

  • Amazon S3에서 모델 아티팩트 읽기

  • Amazon S3에 벤치마크 결과 작성

  • AWS Secrets Manager에서 보안 암호 액세스

실행 역할에는 SageMaker AI 서비스가 이를 수임하도록 허용하는 신뢰 정책이 있어야 합니다. SageMaker AI 실행 역할 생성에 대한 자세한 내용은 SageMaker AI 역할을 참조하세요.

리소스 격리

SageMaker AI 추론 최적화는 계정 수준 격리를 적용합니다. 각 작업 및 워크로드 구성은 해당 구성을 생성한 AWS 계정으로 범위가 지정됩니다. 다른 AWS 계정에 속한 리소스에는 액세스하거나 수정할 수 없습니다.

서비스에서 생성한 모든 SageMaker AI 리소스(훈련 작업, 엔드포인트, 최적화 작업)는 실행 역할을 사용하여 AWS 계정에 생성되며 계정의 IAM 정책 및 서비스 할당량이 적용됩니다.

보안 모범 사례

다음 모범 사례는 일반적인 지침이며 완벽한 보안 솔루션을 나타내지는 않습니다. 이러한 모범 사례는 환경에 적절하지 않거나 충분하지 않을 수 있으므로 참고용으로만 사용하세요.

예방적 모범 사례

  • IAM 정책에 최소 권한을 사용합니다. 사용자 및 실행 역할에 필요한 최소 권한만 부여합니다. IAM 정책에서 와일드카드(*) 작업 또는 리소스를 사용하지 마세요.

  • 워크로드마다 별도의 실행 역할을 사용합니다. 모든 워크로드에서 단일 역할을 공유하는 대신 벤치마크 작업 및 권장 작업에 대한 전용 IAM 실행 역할을 생성합니다.

  • 민감한 값에는 AWS Secrets Manager를 사용합니다. 워크로드 사양에 Hugging Face 액세스 토큰과 같은 민감한 값이 필요한 경우 secrets 필드를 사용하여 AWS Secrets Manager 보안 암호를 일반 텍스트 파라미터로 전달하는 대신 ARN별로 참조합니다.

  • 실행 역할 신뢰 정책을 제한합니다. 실행 역할 신뢰 정책에서 aws:SourceAccount 및 aws:SourceArn 조건을 사용하여 혼동된 대리자 문제를 방지합니다.

  • Amazon S3 권한 범위를 특정 버킷으로 지정합니다. 모델 아티팩트 및 벤치마크 출력에 사용되는 특정 Amazon S3 버킷 및 접두사에 대한 및 s3:GetObject s3:PutObject 권한을 제한합니다.

  • Amazon S3 버킷 암호화를 활성화합니다. 모델 아티팩트 및 벤치마크 결과에 사용되는 Amazon S3 버킷에 서버 측 암호화가 활성화되어 있는지 확인합니다.

  • 액세스 제어에 태그를 사용합니다. AI 워크로드 구성, 벤치마크 작업 및 권장 작업에 태그를 적용합니다. IAM 정책에서 태그 기반 조건을 사용하여 특정 리소스에 대한 액세스를 제어할 수 있습니다.

탐지 모범 사례

  • CloudTrail을 활성화합니다 AWS . CloudTrail은 추론 최적화 작업을 포함하여 계정에서 수행된 모든 SageMaker AI API 호출의 레코드를 제공합니다.

  • Amazon CloudWatch로 모니터링합니다. Amazon CloudWatch 지표 및 경보를 사용하여 벤치마크 및 권장 사항 작업의 상태와 성능을 모니터링합니다.

  • IAM Access Analyzer 조사 결과를 검토합니다. IAM Access Analyzer를 사용하여 SageMaker AI 리소스에 대한 지나치게 광범위한 액세스 권한을 부여하는 IAM 정책을 식별합니다.

  • Amazon S3 액세스 로깅을 활성화합니다. 모델 아티팩트 및 벤치마크 결과에 사용되는 Amazon S3 버킷에서 서버 액세스 로깅을 활성화하여 액세스 패턴을 추적합니다.