Fórmulas do Amazon Nova
Você pode obter uma fórmula do Amazon Nova no repositório de fórmulas
Você também pode acessar as fórmulas do Amazon Nova por meio do SageMaker AI Monarch, navegando até o hub de modelos, selecionando AWS e explorando os modelos do Amazon Nova para encontrar suas fórmulas correspondentes. O SageMaker AI Monarch e fornecem exemplos de caderno para cada fórmula, que incluem todas as etapas necessárias para modificar as fórmulas e executar tarefas de personalização usando tarefas de treinamento do SageMaker ou ambientes do SageMaker HyperPod.
Para acessar as páginas de fórmulas do Amazon SageMaker Studio, o perfil de execução deve ter as permissões a seguir.
Para executar os cadernos de exemplo nas tarefas de treinamento do SageMaker e no SageMaker HyperPod, use uma das seguintes versões de imagem de distribuição do SageMaker: 2.7.1+, 2.8.0+, 3.2.1+ e 3.3.0+. Isso se aplica tanto ao SageMaker AI Monarch quanto ao .
Tópicos
Obter fórmulas do Amazon Nova
Para obter uma fórmula básica do Amazon Nova, clone o repositório de fórmulas
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
As fórmulas básicas estão disponíveis em recipes_collection/recipes/
cd recipes_collection/recipes/
As fórmulas de personalização do Amazon Nova estão nas pastas a seguir.
| Tipo de fórmula | Pasta |
|---|---|
| SFT (full-rank e PEFT) | fine-tuning/nova |
| Avaliação | evaluation/nova |
| CPT | training/nova |
Obtenção de fórmulas do Amazon Nova Forge
Para acessar fórmulas especializadas do Amazon Nova Forge para tarefas, configure seu acesso ao Amazon Nova Forge e, em seguida, assista a este workshop
Modelos e algoritmos disponíveis
A tabela a seguir resume a disponibilidade de personalização de modelos do Amazon Nova e de algoritmos compatíveis usando o SageMaker.
Nome do modelo |
ID do modelo |
Ajustar |
Observações |
|---|---|---|---|
Amazon Nova Lite 2.0 |
amazon.nova-2-lite-v1:0:256k |
Sim |
|
Amazon Nova 2.0 Lite
A tabela abaixo lista informações detalhadas das fórmulas de referência do Amazon Nova 2.0 Lite.
| Modelo | Categoria/subcategoria | Técnica | Nome da fórmula | URI da imagem (tarefas de treinamento) | URI da imagem (SageMaker HyperPod) | Instância de computação |
|---|---|---|---|---|---|---|
| Nova 2.0 Lite | Treinamento | Pré-treinamento contínuo | nova_lite_2_0_p5x8_gpu_pretrain.yaml |
N/D | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Ajuste fino com eficiência de parâmetros | Ajuste | nova_lite_2_0_p5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Ajuste fino de full-rank | Ajuste | nova_lite_2_0_p5_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT com eficiência de parâmetros | Ajuste | nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT de full-rank | Ajuste | nova_lite_v2_smtj_p5en_gpu_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Traga seus próprios dados | Avaliação | nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Benchmark geral de texto | Avaliação | nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | Avaliação de RFT | Avaliação | nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | LLM como avaliador baseado em critérios | Avaliação | nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |