Amazon Nova 레시피
SageMaker HyperPod 레시피
Amazon SageMaker Studio 및 Amazon SageMaker Unified Studio에서도 Nova 레시피에 액세스할 수 있습니다. 모델 허브로 이동하여 AWS를 선택하고 Amazon Nova 모델을 검색하여 관련 레시피를 찾으면 됩니다. Amazon SageMaker Studio와 Amazon SageMaker Unified Studio 모두 각 레시피에 대한 샘플 노트북을 제공합니다. 이 노트북에는 레시피를 수정하고 SageMaker AI 훈련 작업 또는 Amazon SageMaker HyperPod 환경을 사용하여 사용자 지정 작업을 실행하는 데 필요한 모든 단계가 포함되어 있습니다.
Amazon SageMaker Studio의 레시피 페이지에 액세스하려면 실행 역할에 다음 권한이 있어야 합니다.
SageMaker 훈련 작업 및 SageMaker HyperPod에서 샘플 노트북을 실행하려면 SageMaker 배포 이미지 버전 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+ 중 하나를 사용하세요. 이는 Amazon SageMaker Studio와 Amazon SageMaker Unified Studio 모두에 적용됩니다.
주제
Amazon Nova 레시피 가져오기
기본 Amazon Nova 레시피를 가져오려면 다음 명령을 실행하여 SageMaker HyperPod 레시피
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
기본 레시피는 recipes_collection/recipes/
cd recipes_collection/recipes/
Amazon Nova 사용자 지정 레시피는 다음 폴더에 있습니다.
| 레시피 유형 | 폴더 |
|---|---|
| SFT(전체 순위 및 PEFT), PPO, DPO(전체 순위 및 PEFT) | fine-tuning/nova |
| 평가 | evaluation/nova |
| CPT | training/nova |
Amazon Nova Forge 레시피 가져오기
작업을 위한 특수 Amazon Nova Forge 레시피에 액세스하려면 Amazon Nova Forge에 대한 액세스를 설정한 다음, 이 워크숍
사용 가능한 모델 및 알고리즘
다음 표에는 SageMaker를 사용한 Amazon Nova 모델 및 지원되는 알고리즘에 대한 사용자 지정 가용성이 요약되어 있습니다.
모델 이름 |
모델 ID |
미세 조정 |
참고 |
|---|---|---|---|
Amazon Nova Lite 2.0 |
amazon.nova-2-lite-v1:0:256k |
예 |
|
Amazon Nova Lite
아래 표에는 Amazon Nova Lite 레시피 참조에 대한 자세한 정보가 나와 있습니다.
| 모델 | 범주/하위 범주 | 기술 | 레시피 이름 | 이미지 URI(훈련 작업) | 이미지 URI(SageMaker HyperPod) | 컴퓨팅 인스턴스 |
|---|---|---|---|---|---|---|
| Nova Lite | 훈련/미세 조정 | 지도 미세 조정(LoRA) |
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
|
| Nova Lite | 훈련/미세 조정 | 지도 미세 조정(Full) | nova_lite_1_0_p5_p4d_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Lite | 훈련/미세 조정 | 직접 선호 최적화(Full) | nova_lite_1_0_p5_p4d_gpu_dpo.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Lite | 훈련/미세 조정 | 직접 선호 최적화(LoRA) |
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest |
|
| Nova Lite | 훈련/강화 학습 | 강화 미세 조정(RFT) | nova_lite_1_0_p5_gpu_ppo.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Lite | 훈련/지속적인 사전 훈련 | 지속적인 사전 훈련(기본 모델) | nova_lite_gpu_p5x16_pretrain.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest |
ml.p5.48xlarge |
| Nova Lite | 평가/평가 | 표준 텍스트 벤치마크 | nova_lite_p5_48xl_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Lite | 평가/평가 | 사용자 지정 데이터세트 평가 | nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Lite | 평가/평가 | 멀티모달 벤치마크 | nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Lite | 평가/평가 | 평가형 LLM | nova_lite_p5_48xl_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
Amazon Nova Micro
아래 표에는 Amazon Nova Micro 레시피 참조에 대한 자세한 정보가 나와 있습니다.
| 모델 | 범주/하위 범주 | 기술 | 레시피 이름 | 이미지 URI(훈련 작업) | 이미지 URI(SageMaker HyperPod) | 컴퓨팅 인스턴스 |
|---|---|---|---|---|---|---|
| Nova Micro | 훈련/미세 조정 | 지도 미세 조정(LoRA) |
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
|
| Nova Micro | 훈련/미세 조정 | 지도 미세 조정(Full) |
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
|
| Nova Micro | 훈련/미세 조정 | 직접 선호 최적화(LoRA) |
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest |
|
| Nova Micro | 훈련/미세 조정 | 직접 선호 최적화(Full) | nova_micro_1_0_p5_p4d_gpu_dpo.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest |
ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge |
| Nova Micro | 훈련/강화 학습 | 강화 미세 조정(RFT) | nova_micro_1_0_p5_gpu_ppo.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Micro | 훈련/지속적인 사전 훈련 | 지속적인 사전 훈련(기본 모델) | nova_micro_gpu_p5x8_pretrain.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest |
ml.p5.48xlarge |
| Nova Micro | 평가/평가 | 일반 텍스트 벤치마크 | nova_micro_p5_48xl_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Micro | 평가/평가 | 사용자 제공 데이터세트(gen_qa) 벤치마크 | nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Micro | 평가/평가 | 평가형 LLM | nova_micro_p5_48xl_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
Amazon Nova Pro
아래 표에는 Amazon Nova Pro 레시피 참조에 대한 자세한 정보가 나와 있습니다.
| 모델 | 범주/하위 범주 | 기술 | 레시피 이름 | 이미지 URI(훈련 작업) | 이미지 URI(SageMaker HyperPod) | 컴퓨팅 인스턴스 |
|---|---|---|---|---|---|---|
| Nova Pro | 훈련/미세 조정 | 지도 미세 조정(LoRA) | nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge |
| Nova Pro | 훈련/미세 조정 | 지도 미세 조정(Full) | nova_pro_1_0_p5_p4d_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Pro | 훈련/미세 조정 | 직접 선호 최적화(Full) | nova_pro_1_0_p5_gpu_dpo.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Pro | 훈련/미세 조정 | 직접 선호 최적화(LoRA) | nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest |
ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge |
| Nova Pro | 훈련/강화 학습 | 강화 미세 조정(RFT) | nova_pro_1_0_p5_gpu_ppo.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova Pro | 훈련/지속적인 사전 훈련 | 지속적인 사전 훈련(기본 모델) | nova_pro_gpu_p5x24_pretrain.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest |
ml.p5.48xlarge |
| Nova Pro | 훈련/데이터 증강 | 훈련 후 모델 증류 | nova_pro_r5_cpu_distill.yaml |
해당 사항 없음 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST |
ml.r5.24xlarge |
| Nova Pro | 평가/평가 | 표준 텍스트 벤치마크 | nova_pro_p5_48xl_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Pro | 평가/평가 | 사용자 지정 데이터세트 평가 | nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Pro | 평가/평가 | 멀티모달 벤치마크 | nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |
| Nova Pro | 평가/평가 | 평가형 LLM | nova_pro_p5_48xl_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest |
ml.p5.48xlarge |