创建 AutoML 作业，使用 API 微调文本生成模型

大型语言模型 (LLM) 擅长多种生成式任务，包括文本生成、摘要、完成工作、问题回答等。它们之所以有如此出色的表现，可以归结于它们庞大的规模以及针对不同数据集和各种任务进行的广泛训练。但是，在医疗保健和金融服务等特定领域中，这些模型可能需要进行自定义微调，以适应独特的数据和使用场景。通过根据特定领域进行量身定制的训练，可以改进 LLM 的性能，为目标应用提供准确性更高的输出。

Autopilot 提供了对一系列预训练生成式文本模型进行微调的功能。特别是，Autopilot 支持对由提供支持的通用大型语言模型 (LLM) 进行基于指令的微调。 JumpStart

Fine-tuning 预训练模型需要一个包含清晰指令的特定数据集，以指导模型如何为该任务生成输出或行为。模型从数据集中学习，调整其参数以符合提供的指令。 Instruction-based 微调涉及使用带标签的示例，格式为提示-响应对，措辞为指令。有关微调的更多信息，请参阅Fine-tune 基础模型。

以下指南概述了创建 Amazon A SageMaker utopilot 作业作为试点实验的过程，以使用 API 参考对文本生成 LLM 进行微调。 SageMaker

要以编程方式创建自动驾驶实验以微调 LLM，你可以使用 Ama SageMaker zon Autopilot 支持的任何语言调用 CreateAutoMLJobV2API 或。 AWS CLI

有关此 API 操作如何转换为所选语言中函数的信息，请参阅 CreateAutoMLJobV2 中的另请参阅部分并选择 SDK。例如，对于 Python 用户，请参阅 适用于 Python (Boto3) 的 AWS SDK中 create_auto_ml_job_v2 的完整请求语法。

对 LLM 进行微调后，您可以在进行 DescribeAutoMLJobV2 API 调用时，通过 BestCandidate 访问各种 ROUGE 分数来评估其性能。该模型还提供了有关其训练和验证损失以及困惑度的信息。有关评估微调模型生成的文本质量的指标完整列表，请参阅在 Autopilot 中微调大型语言模型的指标。

先决条件

在使用 Autopilot 在 SageMaker AI 中创建微调实验之前，请务必执行以下步骤：

完成此操作后，您可以在 Autopilot API 请求中使用此执行角色的 ARN。

必填参数

调用 CreateAutoMLJobV2 创建用于 LLM 微调的 Autopilot 实验时，必须提供以下值：

以下示例提供了完整请求格式，用于对 CreateAutoMLJobV2 发出 API 调用以微调 (Falcon7BInstruct) 模型。

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

所有其他参数都是可选的。

可选参数

以下各节提供了一些可以传递给微调 AutoML 作业的可选参数的详细信息。

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}