Personalização de modelos do Amazon Nova no SageMaker AI
nota
Esta documentação é para o Amazon Nova versão 1. O Amazon Nova 2 agora está disponível com novos modelos e recursos aprimorados. Para obter informações sobre como personalizar o Amazon Nova 2, acesse Como personalizar modelos do Amazon Nova 2.
Você pode personalizar os modelos do Amazon Nova, incluindo os modelos aprimorados do Amazon Nova 2.0, por meio de fórmulas, e treiná-los no SageMaker. Essas fórmulas permitem técnicas como ajuste fino supervisionado (SFT) e otimização direta de preferências (DPO) e ajuste fino por reforço (RFT), com opções de adaptação de full-rank e low-rank (LoRA).
O fluxo de trabalho completo de personalização envolve etapas como treinamento de modelo, avaliação de modelo e implantação para inferência. Essa abordagem de personalização de modelos no SageMaker oferece maior flexibilidade e controle para ajustar modelos do Amazon Nova compatíveis, otimizar hiperparâmetros com precisão e implementar técnicas como LoRA, ajuste fino com eficiência de parâmetros (PEFT), SFT full-rank, DPO, RFT, pré-treinamento contínuo (CPT), otimização de política proximal (PPO) etc.
O SageMaker oferece dois ambientes para personalizar os modelos do Amazon Nova.
-
As tarefas de treinamento do SageMaker oferecem um ambiente totalmente gerenciado para personalizar modelos do Amazon Nova, em que você não precisa criar nem manter nenhum cluster. O serviço gerencia automaticamente todo o provisionamento, o ajuste de escala e o gerenciamento de recursos de infraestrutura, permitindo que você se concentre exclusivamente na configuração dos parâmetros de treinamento e no envio da tarefa. Você pode personalizar modelos Nova em tarefas de treinamento do SageMaker com técnicas como ajuste fino com eficiência de parâmetros (PEFT), ajuste fino de nível completo e otimização direta de preferências (DPO) e ajuste fino por reforço (RFT). Para obter mais informações, consulte Personalização do Amazon Nova em tarefas de treinamento do SageMaker.
nota
Se você fornecer uma chave do KMS para sua tarefa de treinamento de personalização de modelos do Amazon Nova para criptografia no bucket do S3 de saída de propriedade da Amazon:
-
Você deve fornecer a mesma chave do KMS ao chamar tarefas de treinamento iterativas subsequentes ou ao chamar a API CreateCustomModel do Amazon Bedrock usando o modelo criptografado.
-
A identidade que chama a API
CreateTrainingJob(em vez do perfil de execução) deve ter permissões paraCreateGrant,RetireGrant,EncrypteGenerateDataKey, conforme definido na política de chave do KMS.
-
-
O SageMaker HyperPod oferece um ambiente especializado para treinar modelos do Amazon Nova, exigindo que você crie e gerencie clusters do EKS com grupos de instâncias restritas (RIGs). Esse ambiente oferece flexibilidade na configuração do ambiente de treinamento com instâncias de GPU especializadas e armazenamento integrado do Amazon FSx para Lustre, o que o torna particularmente adequado para cenários avançados de treinamento distribuído e desenvolvimento contínuo de modelos. Para obter mais informações, consulte Personalização do Amazon Nova no SageMaker HyperPod.
Neste capítulo
