SageMaker AI에서 Amazon Nova 모델 사용자 지정 - Amazon Nova

SageMaker AI에서 Amazon Nova 모델 사용자 지정

참고

이 설명서는 Amazon Nova 버전 1용입니다. 이제 새로운 모델과 향상된 기능을 지닌 Amazon Nova 2를 사용할 수 있습니다. Amazon Nova 2를 사용자 지정하는 방법에 대한 자세한 내용은 Amazon Nova 2 모델 사용자 지정을 참조하세요.

레시피를 사용하여 향상된 Nova 2.0 모델을 포함한 Amazon Nova 모델을 사용자 지정하고 SageMaker에서 훈련할 수 있습니다. 이러한 레시피는 지도 미세 조정(SFT), 직접 선호 최적화(DPO), 강화 미세 조정(RFT)과 같은 기법을 지원하며, 이와 함께 전체 순위 및 저순위 적응(LoRA) 옵션을 모두 제공합니다.

엔드 투 엔드 사용자 지정 워크플로에는 추론을 위한 모델 훈련, 모델 평가 및 배포와 같은 단계가 포함됩니다. SageMaker에 대한 이 모델 사용자 지정 접근 방식은 지원되는 Amazon Nova 모델을 미세 조정하고, 하이퍼파라미터를 정밀하게 최적화하며, LoRA 기반 파라미터 효율적 미세 조정(PEFT), 전체 순위 SFT, DPO, 지속적인 사전 훈련(CPT), 근접 정책 최적화(PPO) 등과 같은 기술을 구현할 수 있는 높은 유연성과 제어를 제공합니다.

SageMaker는 Amazon Nova 모델을 사용자 지정하기 위한 두 가지 환경을 제공합니다.

  • SageMaker 훈련 작업은 클러스터를 생성하거나 유지 관리할 필요가 없는 Amazon Nova 모델을 사용자 지정하기 위한 완전관리형 환경을 제공합니다. 서비스가 모든 인프라 프로비저닝, 확장 및 리소스 관리를 자동으로 처리하므로 훈련 파라미터를 구성하고 작업을 제출하는 데만 집중할 수 있습니다. 파라미터 효율적 미세 조정(PEFT), 전체 순위 미세 조정, 직접 선호 최적화(DPO), 강화 미세 조정(RFT)과 같은 기법을 사용하여 SageMaker 훈련 작업에서 Nova 모델을 사용자 지정할 수 있습니다. 자세한 내용은 SageMaker 훈련 작업에서 Amazon Nova 사용자 지정 섹션을 참조하세요.

    참고

    Amazon 소유 출력 S3 버킷에서 암호화를 위해 Amazon Nova 모델 사용자 지정 훈련 작업에 KMS 키를 제공하는 경우:

    • 후속 반복 훈련 작업을 직접 호출하거나 암호화된 모델을 활용하여 Amazon Bedrock CreateCustomModel API를 직접 호출할 때 동일한 KMS 키를 제공해야 합니다.

    • CreateTrainingJob API를 직접 호출하는 ID(실행 역할이 아님)에는 KMS 키 정책에 정의된 대로 CreateGrant, RetireGrant, Encrypt, GenerateDataKey에 대한 권한이 있어야 합니다.

  • SageMaker HyperPod는 제한된 인스턴스 그룹(RIG)으로 EKS 클러스터를 생성하고 관리해야 하므로 Nova 모델을 훈련시킬 특수한 환경을 제공합니다. 이 환경을 사용하면 특수 GPU 인스턴스와 통합 Amazon FSx for Lustre 스토리지로 훈련 환경을 유연하게 구성할 수 있으므로 고급 분산 훈련 시나리오와 지속적인 모델 개발에 특히 적합합니다. 자세한 내용은 SageMaker HyperPod에서 Amazon Nova 사용자 지정 섹션을 참조하세요.

이 장의 주제