As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Personalizar o modelo para melhorar a performance para o caso de uso
A personalização de modelos é o processo de fornecer dados de treinamento a um modelo a fim de melhorar sua performance em casos de uso específicos. É possível personalizar modelos de base do Amazon Bedrock para melhorar sua performance e criar uma experiência melhor para o cliente. No momento, o Amazon Bedrock fornece os métodos de personalização a seguir.
-
Destilação
Use a destilação do para transferir o conhecimento de um modelo maior e mais inteligente (conhecido como instrutor) para um modelo menor, mais rápido e econômico (conhecido como aprendiz). O Amazon Bedrock automatiza o processo de destilação usando as mais recentes técnicas de síntese de dados para gerar respostas diversas e de alta qualidade com base no modelo instrutor e ajustar o modelo aprendiz.
Para usar a destilação, selecione um modelo instrutor cuja precisão você deseja obter para seu caso de uso e um modelo aprendiz para ajuste fino. Em seguida, forneça prompts específicos de casos de uso como dados de entrada. O Amazon Bedrock gera respostas do modelo instrutor para o prompt em questão e, em seguida, usa as respostas para ajustar o modelo aprendiz. Opcionalmente, você pode fornecer dados de entrada rotulados como pares de prompt-resposta.
Para ter mais informações sobre como usar a destilação, consulte Personalizar um modelo com destilação no Amazon Bedrock.
-
Ajuste fino do reforço
O ajuste fino do reforço melhora o alinhamento do modelo básico com seu caso de uso específico por meio do aprendizado baseado em feedback. Em vez de fornecer pares de entrada-saída rotulados, você define funções de recompensa que avaliam a qualidade da resposta. O modelo aprende iterativamente recebendo pontuações de feedback dessas funções de recompensa.
Você pode usar os registros de invocação existentes do Bedrock como dados de treinamento ou fazer upload de conjuntos de dados de prompt personalizados. Você pode definir funções de recompensa usando AWS Lambda para avaliar a qualidade da resposta. O Amazon Bedrock automatiza o fluxo de trabalho de treinamento e fornece métricas em tempo real para monitorar o progresso do aprendizado do modelo.
Para obter mais informações sobre o uso do ajuste fino de reforço, consulte. Personalize um modelo com ajuste fino de reforço no Amazon Bedrock
-
Ajuste fino supervisionado
Forneça dados rotulados a fim de treinar um modelo para melhorar a performance em tarefas específicas. Ao fornecer um conjunto de dados de treinamento com exemplos rotulados, o modelo aprende a associar quais tipos de saída deve gerar para determinados tipos de entrada. Os parâmetros do modelo são ajustados no processo e a performance do modelo é aprimorada para as tarefas representadas pelo conjunto de dados de treinamento.
-
Pré-treinamento contínuo
Forneça dados não rotulados para pré-treinar um modelo de base familiarizando-o com determinados tipos de entrada. É possível fornecer dados de tópicos específicos a fim de expor um modelo a essas áreas. O processo de pré-treinamento contínuo ajustará os parâmetros do modelo para acomodar os dados de entrada e melhorar seu conhecimento do domínio.
Por exemplo, é possível treinar um modelo com dados privados, como documentos comerciais, que não estão disponíveis publicamente para o treinamento de grandes modelos de linguagem. Além disso, é possível continuar a aprimorar o modelo treinando-o com mais dados não rotulados à medida que estiverem disponíveis.
Para obter informações sobre cotas de personalização de modelos, consulte Amazon Bedrock endpoints and quotas no Referência geral da AWS. Depois de personalizar um modelo, você pode configurar a inferência para o novo modelo personalizado. Para obter mais informações, consulte Configurar a inferência para um modelo personalizado.
nota
Você recebe cobrança pelo treinamento de modelos com base no número de tokens processados pelo modelo (número de tokens no corpo de dados de treinamento × o número de epochs), e o armazenamento de modelos é cobrado por mês por modelo. Para obter mais informações, consulte Preços do Amazon Bedrock
Diretrizes para personalização de modelos
Os parâmetros ideais para personalizar um modelo dependem do conjunto de dados e da tarefa para a qual o modelo se destina. Você deve testar valores para determinar quais parâmetros funcionam melhor para o seu caso específico. Para ajudar, avalie o modelo executando um trabalho de avaliação de modelo. Para obter mais informações, consulte Avaliar o desempenho dos recursos do Amazon Bedrock.
Use as métricas de treinamento e validação dos arquivos de saída gerados ao enviar um trabalho de personalização de modelo para ajudar a ajustar os parâmetros. Encontre esses arquivos no bucket do Amazon S3 no qual você gravou a saída ou use a GetCustomModeloperação.