Fórmulas de Amazon Nova
Puede obtener una fórmula de Amazon Nova en el repositorio de fórmulas de SageMaker HyperPod
También puede acceder a las fórmulas de Amazon Nova a través de Amazon SageMaker AI Monarch y JumpStart navegando hasta el centro de modelos de SageMaker JumpStart, seleccionando AWS y explorando los modelos de Amazon Nova para encontrar sus fórmulas asociadas. Tanto SageMaker AI Monarch como JumpStart proporcionan cuadernos de muestra para cada fórmula, que incluyen todos los pasos necesarios para modificar las fórmulas y ejecutar trabajos de personalización mediante trabajos de entrenamiento de SageMaker o entornos de SageMaker HyperPod.
Para acceder a las páginas de fórmulas de Amazon SageMaker Studio, el rol de ejecución debe tener los siguientes permisos.
Para ejecutar los cuadernos de muestra en los trabajos de entrenamiento de SageMaker y en SageMaker HyperPod, utilice una de las siguientes versiones de imágenes de distribución de SageMaker: 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+. Esto se aplica a SageMaker AI Monarch y a JumpStart.
Temas
Obtención de fórmulas de Amazon Nova
Para obtener una fórmula básica de Amazon Nova, clone el repositorio de fórmulas de HyperPod de SageMaker
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
Las fórmulas básicas están disponibles en recipes_collection/recipes/
cd recipes_collection/recipes/
Las fórmulas de personalización de Amazon Nova se encuentran en las siguientes carpetas.
| Tipo de fórmula | Folder |
|---|---|
| SFT (rango completo y PEFT) | fine-tuning/nova |
| Evaluación | evaluation/nova |
| CPT | training/nova |
Obtención de fórmulas de Amazon Nova Forge
Para acceder a fórmulas especializadas de Amazon Nova Forge para trabajos de SageMaker HyperPod, configure su acceso a Amazon Nova Forge y, a continuación, siga este taller
Modelos y algoritmos disponibles
En la siguiente tabla se resume la disponibilidad de personalización para los modelos de Amazon Nova 2.0 y los algoritmos compatibles con SageMaker. Para personalizar el modelo Amazon Nova 1.0, consulte las fórmulas de Amazon Nova 1.0.
Nombre de modelo |
ID del modelo |
Microajuste |
Notas |
|---|---|---|---|
Amazon Nova Lite 2.0 |
amazon.nova-2-lite-v1:0:256k |
Sí |
|
Amazon Nova 2.0 Lite
En la siguiente tabla, se muestra información detallada de la referencia de fórmulas de Amazon Nova 2.0 Lite. Desplácese horizontalmente para ver la tabla completa, incluidos los URI de imagen y los tipos de instancias de procesamiento.
| Modelo | Categoría/subcategoría | Técnica | Nombre de la fórmula | URI de la imagen (trabajos de entrenamiento) | URI de imagen (SageMaker HyperPod) | Instancia de computación |
|---|---|---|---|---|---|---|
| Nova 2.0 Lite | Formación | Entrenamiento previo continuo | nova_lite_2_0_p5x8_gpu_pretrain.yaml |
N/A | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Refinamiento eficiente de parámetros | Afinamiento | nova_lite_2_0_p5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Refinamiento de rango completo | Afinamiento | nova_lite_2_0_p5_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT eficiente de parámetros | Afinamiento | nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT de rango completo | Afinamiento | nova_lite_v2_smtj_p5en_gpu_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Uso de sus propios datos | Evaluación | nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Referencia de texto general | Evaluación | nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Evaluación del RFT | Evaluación | nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | LLM como juez basado en rúbricas | Evaluación | nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |