Amazon Nova 레시피 - Amazon Nova

Amazon Nova 레시피

SageMaker HyperPod 레시피 리포지토리에서 Amazon Nova 레시피를 가져올 수 있습니다. Amazon Nova 레시피는 SageMaker가 모델 사용자 지정 작업을 수행하는 방법에 대한 세부 정보를 제공하는 YAML 구성 파일입니다. 이 레시피는 기본 모델 이름을 제공하고, 훈련 하이퍼파라미터를 설정하고, 최적화 설정을 정의하고, 모델을 성공적으로 미세 조정하거나 훈련하는 데 필요한 추가 옵션을 포함합니다.

Amazon SageMaker Studio 및 Amazon SageMaker Unified Studio에서도 Nova 레시피에 액세스할 수 있습니다. 모델 허브로 이동하여 AWS를 선택하고 Amazon Nova 모델을 검색하여 관련 레시피를 찾으면 됩니다. Amazon SageMaker Studio와 Amazon SageMaker Unified Studio 모두 각 레시피에 대한 샘플 노트북을 제공합니다. 이 노트북에는 레시피를 수정하고 SageMaker AI 훈련 작업 또는 Amazon SageMaker HyperPod 환경을 사용하여 사용자 지정 작업을 실행하는 데 필요한 모든 단계가 포함되어 있습니다.

Amazon SageMaker Studio의 레시피 페이지에 액세스하려면 실행 역할에 다음 권한이 있어야 합니다.

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

SageMaker 훈련 작업 및 SageMaker HyperPod에서 샘플 노트북을 실행하려면 SageMaker 배포 이미지 버전 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+ 중 하나를 사용하세요. 이는 Amazon SageMaker Studio와 Amazon SageMaker Unified Studio 모두에 적용됩니다.

Amazon Nova 레시피 가져오기

기본 Amazon Nova 레시피를 가져오려면 다음 명령을 실행하여 SageMaker HyperPod 레시피 리포지토리를 복제합니다.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

기본 레시피는 recipes_collection/recipes/에서 사용할 수 있습니다.

cd recipes_collection/recipes/

Amazon Nova 사용자 지정 레시피는 다음 폴더에 있습니다.

레시피 유형 폴더
SFT(전체 순위 및 PEFT), PPO, DPO(전체 순위 및 PEFT) fine-tuning/nova
평가 evaluation/nova
CPT training/nova

Amazon Nova Forge 레시피 가져오기

작업을 위한 특수 Amazon Nova Forge 레시피에 액세스하려면 Amazon Nova Forge에 대한 액세스를 설정한 다음, 이 워크숍에 따라 CLI의 Forge 버전을 설정합니다. SageMaker 훈련 작업의 경우 AWS 콘솔 및 Nova 사용자 지정 SDK는 Forge 레시피에 자동으로 액세스합니다.

사용 가능한 모델 및 알고리즘

다음 표에는 SageMaker를 사용한 Amazon Nova 모델 및 지원되는 알고리즘에 대한 사용자 지정 가용성이 요약되어 있습니다.

모델 이름

모델 ID

미세 조정

참고

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

  • SFT - 텍스트 및/또는 이미지, 또는 텍스트 및/또는 비디오를 입력으로 받아 텍스트를 출력합니다. 단일 작업의 동일한 실행에서 텍스트, 이미지 및 비디오를 결합할 수 없습니다.

  • DPO - 텍스트와 이미지를 입력으로 받아 텍스트를 출력합니다.

  • RFT - 텍스트와 이미지를 싱글턴 대화의 입력으로 수락하고 출력으로 텍스트를 생성합니다. 보상 최적화 기능을 개선했습니다.

Amazon Nova Lite

아래 표에는 Amazon Nova Lite 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Lite 훈련/미세 조정 지도 미세 조정(LoRA)

nova_lite_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_sft.yaml

nova_lite_1_0_p5_p4d_gpu_lora_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Lite 훈련/미세 조정 지도 미세 조정(Full) nova_lite_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite 훈련/미세 조정 직접 선호 최적화(Full) nova_lite_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite 훈련/미세 조정 직접 선호 최적화(LoRA)

nova_lite_1_0_p5_p4d_gpu_lora_dpo.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_dpo.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Lite 훈련/강화 학습 강화 미세 조정(RFT) nova_lite_1_0_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_lite_gpu_p5x16_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite 평가/평가 표준 텍스트 벤치마크 nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가 사용자 지정 데이터세트 평가 nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가 멀티모달 벤치마크 nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가 평가형 LLM nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Micro

아래 표에는 Amazon Nova Micro 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Micro 훈련/미세 조정 지도 미세 조정(LoRA)

nova_micro_1_0_p5_p4d_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro 훈련/미세 조정 지도 미세 조정(Full)

nova_micro_1_0_p5_p4d_gpu_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro 훈련/미세 조정 직접 선호 최적화(LoRA)

nova_micro_1_0_g5_g6_12x_gpu_lora_dpo.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_dpo.yaml

nova_micro_1_0_p5_p4d_gpu_lora_dpo.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro 훈련/미세 조정 직접 선호 최적화(Full) nova_micro_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Micro 훈련/강화 학습 강화 미세 조정(RFT) nova_micro_1_0_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Micro 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_micro_gpu_p5x8_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro 평가/평가 일반 텍스트 벤치마크 nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 평가/평가 사용자 제공 데이터세트(gen_qa) 벤치마크 nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 평가/평가 평가형 LLM nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Pro

아래 표에는 Amazon Nova Pro 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Pro 훈련/미세 조정 지도 미세 조정(LoRA) nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro 훈련/미세 조정 지도 미세 조정(Full) nova_pro_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro 훈련/미세 조정 직접 선호 최적화(Full) nova_pro_1_0_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro 훈련/미세 조정 직접 선호 최적화(LoRA) nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro 훈련/강화 학습 강화 미세 조정(RFT) nova_pro_1_0_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_pro_gpu_p5x24_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro 훈련/데이터 증강 훈련 후 모델 증류 nova_pro_r5_cpu_distill.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro 평가/평가 표준 텍스트 벤치마크 nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 사용자 지정 데이터세트 평가 nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 멀티모달 벤치마크 nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 평가형 LLM nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge