Amazon SageMaker AI에서 Amazon Nova 모델 사용자 지정 - Amazon SageMaker AI

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon SageMaker AI에서 Amazon Nova 모델 사용자 지정

레시피를 통해 Amazon Nova 모델을 사용자 지정하고 SageMaker AI에서 모델을 훈련할 수 있습니다. 이러한 레시피는 전체 순위 및 하위 순위 적응(LoRA) 옵션을 모두 사용하여 지도 미세 조정(SFT) 및 직접 선호 최적화(DPO)와 같은 기술을 지원합니다.

end-to-end 사용자 지정 워크플로에는 추론을 위한 모델 훈련, 모델 평가 및 배포와 같은 단계가 포함됩니다. SageMaker AI에 대한이 모델 사용자 지정 접근 방식은 지원되는 Amazon Nova 모델을 미세 조정하고, 하이퍼파라미터를 정밀도로 최적화하고, LoRA 파라미터 효율적인 미세 조정(PEFT), 전체 순위 SFT, DPO, 지속적인 사전 훈련(CPT), 근접 정책 최적화(PPO) 등과 같은 기술을 구현할 수 있는 더 큰 유연성과 제어를 제공합니다.

SageMaker AI는 Amazon Nova 모델을 사용자 지정하기 위한 두 가지 환경을 제공합니다.

  • Amazon SageMaker 훈련 작업은 클러스터를 생성하거나 유지 관리할 필요가 없는 Nova 모델을 사용자 지정하기 위한 완전 관리형 환경을 제공합니다. 서비스는 모든 인프라 프로비저닝, 규모 조정 및 리소스 관리를 자동으로 처리하므로 훈련 파라미터를 구성하고 작업을 제출하는 데만 집중할 수 있습니다. Parameter Efficient Fine-tuning(PEFT), 전체 순위 미세 조정, Direct Preference Optimization(DPO)과 같은 기술을 사용하여 SageMaker 훈련 작업에서 Nova 모델을 사용자 지정할 수 있습니다. 자세한 내용은 SageMaker 훈련 작업에 대한 Amazon Nova 사용자 지정 단원을 참조하십시오.

  • Amazon SageMaker HyperPod는 제한된 인스턴스 그룹(RIGs)으로 SageMaker HyperPod EKS 클러스터를 생성하고 관리해야 하므로 Nova 모델을 훈련할 수 있는 특수 환경을 제공합니다. 이 환경을 사용하면 특수 GPU 인스턴스와 통합 Amazon FSx for Lustre 스토리지로 훈련 환경을 유연하게 구성할 수 있으므로 고급 분산 훈련 시나리오와 지속적인 모델 개발에 특히 적합합니다. 자세한 내용은 Amazon SageMaker HyperPod의 Amazon Nova 사용자 지정 HyperPod 단원을 참조하십시오.