View a markdown version of this page

Fórmulas de Amazon Nova - Amazon Nova

Fórmulas de Amazon Nova

Puede obtener una fórmula de Amazon Nova en el repositorio de fórmulas. Una fórmula de Amazon Nova es un archivo de configuración YAML que proporciona detalles a SageMaker sobre cómo poner en marcha el trabajo de personalización de modelos. Proporciona el nombre del modelo base, establece los hiperparámetros de entrenamiento, define la configuración de optimización e incluye todas las opciones adicionales necesarias para refinar o entrenar el modelo correctamente.

También puede acceder a las fórmulas de Amazon Nova a través de SageMaker AI Monarch y desde el centro de modelos. Para ello, seleccione AWS y explore los modelos de Amazon Nova para ver las fórmulas asociadas. SageMaker AI Monarch proporciona cuadernos de muestra para cada fórmula, que incluyen todos los pasos necesarios para modificar las fórmulas y ejecutar trabajos de personalización mediante trabajos de entrenamiento de SageMaker o entornos de SageMaker HyperPod.

Para acceder a las páginas de fórmulas de Amazon SageMaker Studio, el rol de ejecución debe tener los siguientes permisos.

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

Para poner en marcha los cuadernos de muestra en los trabajos de entrenamiento de SageMaker y en SageMaker HyperPod, utilice una de las siguientes versiones de imágenes de distribución de SageMaker: 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+. Esto se aplica a SageMaker AI Monarch.

Obtención de fórmulas de Amazon Nova

Para obtener una fórmula básica de Amazon Nova, clone el repositorio de fórmulas con el siguiente comando:

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

Las fórmulas básicas están disponibles en recipes_collection/recipes/.

cd recipes_collection/recipes/

Las fórmulas de personalización de Amazon Nova se encuentran en las siguientes carpetas.

Tipo de fórmula Folder
SFT (rango completo y PEFT) fine-tuning/nova
Evaluación evaluation/nova
CPT training/nova

Obtención de fórmulas de Amazon Nova Forge

Para acceder a fórmulas de trabajo especializadas de Amazon Nova Forge, configure su acceso a Amazon Nova Forge y, a continuación, siga este taller para configurar la versión de Forge de la CLI. En el caso de Trabajos de entrenamiento de SageMaker, la consola de AWS y el SDK de Nova Forge accederán automáticamente a las fórmulas de Forge.

Modelos y algoritmos disponibles

En la siguiente tabla se resume la disponibilidad de personalización para los modelos de Amazon Nova y los algoritmos compatibles con SageMaker.

Nombre de modelo

ID del modelo

Microajuste

Notas

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

  • SFT: acepta texto o imagen, o texto o vídeo como entrada y produce texto como salida. Un único trabajo no puede combinar texto, imagen y vídeo en la misma ejecución.

  • RFT: acepta texto e imagen como entrada para conversaciones de un solo turno y produce texto como salida. Capacidades mejoradas de optimización de recompensas.

  • CPT

Amazon Nova 2.0 Lite

En la siguiente tabla, se muestra información detallada de la referencia de fórmulas de Amazon Nova 2.0 Lite.

Modelo Categoría/subcategoría Técnica Nombre de la fórmula URI de la imagen (trabajos de entrenamiento) URI de imagen (SageMaker HyperPod) Instancia de computación
Nova 2.0 Lite Formación Entrenamiento previo continuo nova_lite_2_0_p5x8_gpu_pretrain.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Refinamiento eficiente de parámetros Afinamiento nova_lite_2_0_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Refinamiento de rango completo Afinamiento nova_lite_2_0_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite RFT eficiente de parámetros Afinamiento nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite RFT de rango completo Afinamiento nova_lite_v2_smtj_p5en_gpu_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Uso de sus propios datos Evaluación nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Referencia de texto general Evaluación nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite Evaluación del RFT Evaluación nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite LLM como juez basado en rúbricas Evaluación nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge