Personalização de modelos do Amazon Nova no SageMaker AI
nota
Esta documentação é para o Amazon Nova versão 1. O Amazon Nova 2 agora está disponível com novos modelos e recursos aprimorados. Para obter informações sobre como personalizar o Amazon Nova 2, acesse Como personalizar modelos do Amazon Nova 2.
Você pode personalizar modelos do Amazon Nova por meio de fórmulas e treiná-los no SageMaker. Essas fórmulas permitem ajuste fino supervisionado (SFT) e pré-treinamento contínuo (CPT), com opções de adaptação de classificação completa e de baixa classificação (LoRA), quando aplicáveis.
O fluxo de trabalho completo de personalização envolve etapas como treinamento de modelo, avaliação de modelo e implantação para inferência. Essa abordagem de personalização de modelos no SageMaker oferece maior flexibilidade e controle para ajustar modelos do Amazon Nova compatíveis, otimizar hiperparâmetros com precisão e implementar técnicas como ajuste fino eficiente em parâmetros LoRA (PEFT), SFT de classificação completa e pré-treinamento contínuo (CPT).
O SageMaker oferece dois ambientes para personalizar os modelos do Amazon Nova.
-
As tarefas de treinamento do SageMaker oferecem um ambiente totalmente gerenciado para personalizar modelos do Amazon Nova, em que você não precisa criar nem manter nenhum cluster. O serviço gerencia automaticamente todo o provisionamento, o ajuste de escala e o gerenciamento de recursos de infraestrutura, permitindo que você se concentre exclusivamente na configuração dos parâmetros de treinamento e no envio da tarefa. Você pode personalizar modelos do Amazon Nova em tarefas de treinamento do SageMaker com ajuste fino com eficiência de parâmetros (PEFT) e ajuste fino de classificação completa. Para obter mais informações, consulte Personalização do Amazon Nova em tarefas de treinamento do SageMaker.
nota
Se você fornecer uma chave do KMS para sua tarefa de treinamento de personalização de modelos do Amazon Nova para criptografia no bucket do S3 de saída de propriedade da Amazon:
-
Você deve fornecer a mesma chave do KMS ao chamar tarefas de treinamento iterativas subsequentes ou ao chamar a API CreateCustomModel do Amazon Bedrock usando o modelo criptografado.
-
A identidade que chama a API
CreateTrainingJob(em vez do perfil de execução) deve ter permissões paraCreateGrant,RetireGrant,EncrypteGenerateDataKey, conforme definido na política de chave do KMS.
-
-
O SageMaker HyperPod oferece um ambiente especializado para treinar modelos do Amazon Nova, exigindo que você crie e gerencie clusters do SageMaker HyperPod EKS com grupos de instâncias restritas (RIGs). Esse ambiente oferece flexibilidade na configuração do ambiente de treinamento com instâncias de GPU especializadas e armazenamento integrado do Amazon FSx para Lustre, o que o torna particularmente adequado para cenários avançados de treinamento distribuído e desenvolvimento contínuo de modelos. Para obter mais informações, consulte Personalização do Amazon Nova no SageMaker HyperPod.
Neste capítulo
