厳選されたハブモデルをファインチューニングする

ユーザーの IAM ロールに SageMaker AI TrainHubModel アクセス許可がアタッチされていることを確認します。詳細については、AWS IAM ユーザーガイドの「IAM ID アクセス許可の追加および削除」を参照してください。

ユーザーの IAM ロールには、以下の例のようなポリシーをアタッチする必要があります。

ファインチューニングする JumpStart モデルへのモデル参照を含む、厳選されたプライベートハブを用意します。プライベートハブの作成の詳細については、「プライベートモデルハブを作成する」を参照してください。一般公開されている JumpStart モデルをプライベートハブに追加する方法については、「プライベートハブにモデルを追加する」を参照してください。

モデルのファインチューニングに使用するトレーニングデータセットを用意します。データセットは、ファインチューニングするモデルに適したトレーニング形式である必要があります。

SageMaker Python SDK の最新バージョン (少なくとも 2.242.0) がインストールされていることを確認します。詳細については、SageMaker Python SDK のバージョン 3.x を使用する」を参照してください。

!pip install --upgrade sagemaker

AWS SDK for Python (Boto3) と必要なモジュールを SageMaker Python SDK からインポートします。

import boto3
from sagemaker.train import ModelTrainer
from sagemaker.core.jumpstart.configs import JumpStartConfig
from sagemaker.core.helper.session_helper import Session

Boto3 セッション、SageMaker AI クライアント、SageMaker Python SDK セッションを初期化します。

sagemaker_client = boto3.Session(region_name=<AWS-region>).client("sagemaker")
sm_session = Session(sagemaker_client=sagemaker_client)

ModelTrainer を使用して を作成し、JumpStart モデル ID、モデルリファレンスを含むハブの名前、SageMaker Python SDK セッションfrom_jumpstart_configを指定します。モデル ID のリストについては、「Built-in Algorithms with Pre-trained Model Table」を参照してください。

オプションで、ModelTrainer の作成時に フィールドinstance_typeと instance_countフィールドを指定できます。指定しない場合、トレーニングジョブでは使用しているモデルのデフォルトのインスタンスタイプとカウントを使用します。

必要に応じて、ファインチューニングされたモデルの重みを保存する Amazon S3 の場所を output_path で指定することもできます。output_path を指定しない場合、デフォルトの SageMaker AI Amazon S3 バケットをアカウントのリージョンに使用します。名前は sagemaker-<region>-<account-id> という形式になります。

jumpstart_config = JumpStartConfig(
    model_id="meta-textgeneration-llama-3-2-1b",
    hub_name=<your-hub-name>,
    # Optional: specify your desired instance type and count for the training job
    # instance_type = "ml.g5.2xlarge"
    # instance_count = 1
)
model_trainer = ModelTrainer.from_jumpstart_config(jumpstart_config=jumpstart_config)
    # Optional: specify a custom S3 location to store the fine-tuned model artifacts
    # output_path: "s3://<output-path-for-model-artifacts>"

ファインチューニングデータセットの場所を指定する training キーを使用してディクショナリを作成します。この例では Amazon S3 URI を参照しています。ローカルモードや複数のトレーニングデータチャネルの使用など、その他の考慮事項がある場合は、SageMaker Python SDK ドキュメントの ModelTrainer.train() を参照してください。

training_input = {
    "training": "s3://<your-fine-tuning-dataset>"
}

モデルトレーナーの train()メソッドを呼び出し、トレーニングデータと EULA 承諾 (該当する場合) を渡します。

model_trainer.train(input_data_config=[training_input], accept_eula=False)