Fine-tune modelli di hub curati

Assicurati che al ruolo IAM dell'utente sia associata l'autorizzazione SageMaker AITrainHubModel. Per ulteriori informazioni, consulta Aggiunta e rimozione di autorizzazioni per identità IAM nella Guida per l’utente di AWS IAM.

È consigliabile collegare al ruolo IAM dell’utente una policy come la seguente:

Disponi di un hub privato e curato con un riferimento al JumpStart modello che desideri perfezionare. Per ulteriori informazioni sulla creazione di un hub privato, consulta Creazione di un hub di modelli privato. Per sapere come aggiungere JumpStart modelli disponibili pubblicamente al tuo hub privato, consulta. Aggiunta di modelli a un hub privato

Scegli un set di dati di addestramento da utilizzare per il fine-tuning del modello. Il set di dati deve essere nel formato di addestramento appropriato per il modello di cui desideri eseguire il fine-tuning.

Assicuratevi di avere installato l'ultima versione (almeno2.242.0) di Python SDK. SageMaker Per ulteriori informazioni, consulta Usare la versione 3.x di Python SDK. SageMaker

!pip install --upgrade sagemaker

Importa AWS SDK for Python (Boto3) i moduli di cui avrai bisogno dall'SDK Python. SageMaker

import boto3
from sagemaker.train import ModelTrainer
from sagemaker.core.jumpstart.configs import JumpStartConfig
from sagemaker.core.helper.session_helper import Session

Inizializza una sessione Boto3, un client SageMaker AI e una sessione Python SDK. SageMaker

sagemaker_client = boto3.Session(region_name=<AWS-region>).client("sagemaker")
sm_session = Session(sagemaker_client=sagemaker_client)

Crea un ID ModelTrainer utilizzando from_jumpstart_config e fornisci l'ID del JumpStart modello, il nome del tuo hub che contiene il riferimento al modello e la tua sessione Python SDK. SageMaker Per un elenco degli ID dei modelli, consulta la tabella Built-in Algoritmi con Pre-trained modelli.

Facoltativamente, è possibile specificare i instance_count campi instance_type e durante la creazione di. ModelTrainer In caso contrario, il job di addestramento utilizza il tipo e il numero di istanze predefiniti per il modello che stai utilizzando.

Se lo desideri, puoi anche specificare il output_path alla posizione Amazon S3 in cui intendi archiviare i pesi dei modelli ottimizzati con fine-tuning. Se non specifichi iloutput_path, utilizza un bucket SageMaker AI Amazon S3 predefinito per la regione del tuo account, denominato con il seguente formato:. sagemaker-<region>-<account-id>

jumpstart_config = JumpStartConfig(
    model_id="meta-textgeneration-llama-3-2-1b",
    hub_name=<your-hub-name>,
    # Optional: specify your desired instance type and count for the training job
    # instance_type = "ml.g5.2xlarge"
    # instance_count = 1
)
model_trainer = ModelTrainer.from_jumpstart_config(jumpstart_config=jumpstart_config)
    # Optional: specify a custom S3 location to store the fine-tuned model artifacts
    # output_path: "s3://<output-path-for-model-artifacts>"

Crea un dizionario con la chiave training in cui specifichi la posizione del set di dati per il fine-tuning. Questo esempio rimanda a un URI Amazon S3. Se hai ulteriori considerazioni, come l'utilizzo della modalità locale o di più canali di dati di addestramento, consulta ModelTrainer.train () nella documentazione di SageMaker Python SDK per maggiori informazioni.

training_input = {
    "training": "s3://<your-fine-tuning-dataset>"
}

Richiama il train() metodo del model trainer e trasmetti i tuoi dati di training e l'accettazione dell'EULA (se applicabile).

model_trainer.train(input_data_config=[training_input], accept_eula=False)