SageMaker AI에서 Amazon Nova 모델 사용자 지정
참고
이 설명서는 Amazon Nova 버전 1용입니다. 이제 새로운 모델과 향상된 기능을 지닌 Amazon Nova 2를 사용할 수 있습니다. Amazon Nova 2를 사용자 지정하는 방법에 대한 자세한 내용은 Amazon Nova 2 모델 사용자 지정을 참조하세요.
Amazon Nova 모델은 레시피를 통해 사용자 지정하고 SageMaker에서 훈련시킬 수 있습니다. 이러한 레시피는 지도 미세 조정(SFT)과 지속적 사전 훈련(CPT)을 지원하며, 적용 가능한 경우 전체 랭크 및 저랭크 적응(LoRA) 옵션을 제공합니다.
엔드 투 엔드 사용자 지정 워크플로에는 추론을 위한 모델 훈련, 모델 평가 및 배포와 같은 단계가 포함됩니다. SageMaker의 이 모델 사용자 지정 방식은 더 높은 유연성과 제어 기능을 제공하므로, 지원되는 Amazon Nova 모델을 미세 조정하고, 하이퍼파라미터를 정밀하게 최적화하며, LoRA를 활용한 파라미터 효율적 미세 조정(PEFT), 전체 랭크 SFT, 지속적 사전 훈련(CPT) 등의 기법을 적용할 수 있습니다.
SageMaker는 Amazon Nova 모델을 사용자 지정하기 위한 두 가지 환경을 제공합니다.
-
SageMaker Training Jobs는 클러스터를 생성하거나 유지 관리할 필요가 없는 Amazon Nova 모델을 사용자 지정하기 위한 완전관리형 환경을 제공합니다. 서비스가 모든 인프라 프로비저닝, 확장 및 리소스 관리를 자동으로 처리하므로 훈련 파라미터를 구성하고 작업을 제출하는 데만 집중할 수 있습니다. SageMaker 훈련 작업에서 파라미터 효율적 미세 조정(PEFT)과 전체 랭크 미세 조정을 사용하여 Amazon Nova 모델을 사용자 지정할 수 있습니다. 자세한 내용은 섹션을 참조하세요SageMaker Training Jobs에서 Amazon Nova 사용자 지정
참고
Amazon 소유 출력 S3 버킷에서 암호화를 위해 Amazon Nova 모델 사용자 지정 훈련 작업에 KMS 키를 제공하는 경우:
-
후속 반복 훈련 작업을 직접 호출하거나 암호화된 모델을 활용하여 Amazon Bedrock CreateCustomModel API를 직접 호출할 때 동일한 KMS 키를 제공해야 합니다.
-
CreateTrainingJobAPI를 직접 호출하는 ID(실행 역할이 아님)에는 KMS 키 정책에 정의된 대로CreateGrant,RetireGrant,Encrypt,GenerateDataKey에 대한 권한이 있어야 합니다.
-
-
SageMaker HyperPod는 제한된 인스턴스 그룹(RIG)으로 SageMaker HyperPod EKS 클러스터를 생성하고 관리해야 하므로 Amazon Nova 모델을 훈련할 수 있는 특수한 환경을 제공합니다. 이 환경을 사용하면 특수 GPU 인스턴스와 통합 Amazon FSx for Lustre 스토리지로 훈련 환경을 유연하게 구성할 수 있으므로 고급 분산 훈련 시나리오와 지속적인 모델 개발에 특히 적합합니다. 자세한 내용은 섹션을 참조하세요SageMaker HyperPod에서 Amazon Nova 사용자 지정
이 장의 주제
