Crie uma tarefa do AutoML para ajustar os modelos de geração de texto usando a API

Grandes modelos de linguagem (LLMs) se destacam em várias tarefas generativas, incluindo geração de texto, sumarização, conclusão, resposta a perguntas e muito mais. Seu performance pode ser atribuído ao tamanho significativo e ao treinamento extensivo em diversos conjuntos de dados e várias tarefas. No entanto, domínios específicos, como serviços financeiros e de saúde, podem exigir ajustes personalizados para se adaptarem a dados e casos de uso exclusivos. Ao adaptar seu treinamento ao seu domínio específico, os LLMs podem melhorar seu performance e fornecer resultados mais precisos para aplicações específicas.

O Autopilot oferece a capacidade de ajustar uma seleção de modelos de texto generativo pré-treinados. Em particular, o Autopilot é compatível com o ajuste de acordo com as instruções de uma seleção de grandes modelos de linguagem (LLMs) de uso geral desenvolvidos pelo JumpStart.

O ajuste fino de um modelo pré-treinado requer um conjunto de dados específico de instruções claras que orientem o modelo sobre como gerar resultados ou se comportar para essa tarefa. O modelo aprende com o conjunto de dados, ajustando seus parâmetros de acordo com as instruções fornecidas. O ajuste de acordo com as instruções envolve o uso de exemplos rotulados formatados como pares de resposta a prompt e expressos como instruções. Para obter mais informações sobre o ajuste, consulte Ajuste de um modelo de base.

As diretrizes a seguir descrevem o processo de criação de um trabalho do Amazon SageMaker Autopilot como um experimento piloto para ajustar LLMs de geração de texto usando a Referência da API do SageMaker.

Para criar um experimento do Autopilot programaticamente para ajustar um grande modelo de linguagem, você pode chamar a API CreateAutoMLJobV2 em qualquer linguagem compatível com o Amazon SageMaker Autopilot ou a AWS CLI.

Para obter informações sobre como essa ação da API se traduz em uma função no idioma de sua escolha, consulte a seção Ver também de CreateAutoMLJobV2 e escolha um SDK. Como exemplo, para usuários do Python, veja a sintaxe completa da solicitação de create_auto_ml_job_v2 em AWS SDK para Python (Boto3).

Depois que seu LLM estiver ajustado, você poderá avaliar o seu desempenhado acessando várias pontuações ROUGE por meio do BestCandidate ao fazer uma chamada de API DescribeAutoMLJobV2. O modelo também fornece informações sobre seu treinamento e perda de validação, bem como sobre sua perplexidade. Para obter uma lista abrangente de métricas para avaliar a qualidade do texto gerado pelos modelos ajustados, consulte Métricas para ajustar modelos de linguagem grandes no Autopilot.

Pré-requisitos

Antes de usar o Autopilot para criar um experimento de ajuste no SageMaker AI, siga as etapas abaixo:

Feito isso, você pode usar o ARN desse perfil de execução nas solicitações da API do Autopilot.

Parâmetros necessários

Ao chamar CreateAutoMLJobV2 para criar um experimento de Autopilot para ajuste de LLM, você deve fornecer os seguintes valores:

Veja a seguir um exemplo do formato de solicitação completo usado ao fazer uma chamada de API para CreateAutoMLJobV2 para ajustar um modelo (Falcon7BInstruct).

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

Todos os outros parâmetros são opcionais.

Parâmetros opcionais

As seções a seguir fornecem detalhes de alguns parâmetros opcionais que você pode passar para o seu trabalho AutoML de ajuste.

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}