Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Distillation Amazon Nova

Ce guide de démarrage rapide vous aide à démarrer avec le modèle de distillation Amazon Nova à l'aide du réglage fin supervisé (SFT) sur SageMaker l'IA.

La distillation de modèles est une méthode qui transfère les connaissances des grands modèles avancés vers des modèles plus petits et efficaces. Avec les modèles Amazon Nova, un modèle « enseignant » plus large (comme Amazon Nova Pro ou Amazon Nova Premier) transmet ses capacités à un modèle « étudiant » plus petit (comme Amazon Nova Lite ou Amazon Nova Micro). Cela crée un modèle personnalisé qui maintient des performances élevées tout en utilisant moins de ressources.

Composants clés

Le processus de distillation implique principalement deux types de modèles :

Les modèles enseignants servent de source de connaissances et incluent :

Les modèles étudiants reçoivent et mettent en œuvre les connaissances :

Cas d’utilisation

La distillation de modèles est particulièrement bénéfique lorsque :

Conditions préalables

Configuration de l’augmentation de données

La phase d'augmentation des données utilise des tâches de SageMaker formation pour générer des données de formation de haute qualité à l'aide du modèle de l'enseignant. Cette section détaille le processus de configuration et les exigences.

Rôle IAM

Pour créer des rôles IAM et associer des stratégies, consultez Création des rôles et association des stratégies (console). Si vous en utilisezAWS CLI, suivez les instructions des sections create-role et. attach-role-policy Pour plus d'informations, consultez la section Comment utiliser les rôles d'exécution de l' SageMaker IA dans le Guide du développeur d'SageMaker IA.

Voici des exemples de commande fournis à titre indicatif.

Création d'un rôle d'exécution SageMaker basé sur l'IA

Le rôle est créé dans le cadre d'une relation de confiance permettant à l' SageMaker IA, Amazon Bedrock, d'assumer ce rôle. Cela permet à ces services d’agir en votre nom lors de l’exécution de tâches d’inférence par lots.

aws iam create-role \
 --role-name NovaCustomizationRole \
 --assume-role-policy-document '{
 "Version": "2012-10-17",		 	 	 
 "Statement": [
 {
 "Effect": "Allow",
 "Principal": {
 "Service": ["sagemaker.amazonaws.com",
            "bedrock.amazonaws.com"]
 },
 "Action": "sts:AssumeRole"
 }
 ]
}'               

Association des stratégies nécessaires

# Attach AmazonSageMakerFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonSageMakerFullAccess

# Attach AmazonBedrockFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonBedrockFullAccess

 # Attach S3 access policy
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonS3FullAccess
 
# Attach AmazonEC2FullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonEC2FullAccess
 
# Attach AmazonEC2ContainerRegistryFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonEC2ContainerRegistryFullAccess
 
# Attach AmazonEC2ContainerRegistryFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/CloudWatchLogsFullAccess 

Associez la stratégie en ligne ci-après au rôle d’exécution du client requis pour Distillation Container.

aws iam put-role-policy \
 --role-name NovaCustomizationRole \
 --policy-name Distillation-Additional-Permissions\
 --policy-document '{
 "Version": "2012-10-17",		 	 	 
 "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "kms:*"
            ],
            "Resource": "*"
        },
        {
            "Effect": "Allow",
            "Action": [
                "iam:PassRole"
            ],
            "Resource": "*"
        }
    ]
}

Configuration Amazon VPC

Pour créer une configuration Amazon VPC pour les tâches de formation basées sur l' SageMaker IA à l'aide deAWS Management Console, suivez les instructions de la section Configurer votre VPC privé pour la SageMaker formation (console).

Création d’un nouvel Amazon VPC

Name: Distillation-VPC
IPv4 CIDR: 10.0.0.0/16 (or your preferred range)
Availability Zones: 2
Public Subnets: 2
Private Subnets: 2
NAT Gateways: 1 (in one AZ)

Création d’un groupe de sécurité

Name: Distillation-SG
Description: Security group for data distillation jobs
Inbound Rules: Allow all traffic from self
Outbound Rules: Allow all traffic (0.0.0.0/0)

Création de points de terminaison de VPC pour les services suivants

com.amazonaws.[region].s3
com.amazonaws.[region].sagemaker.api
com.amazonaws.[region].sagemaker.runtime
com.amazonaws.[region].bedrock.api
com.amazonaws.[region].bedrock.runtime
com.amazonaws.[region].sts
com.amazonaws.[region].logs
com.amazonaws.[region].ecr.api
com.amazonaws.[region].ecr.dkr

Pour chaque point de terminaison :

Clés AWS KMS

Lorsque vous utilisez l'inférence par lots Amazon Bedrock, une AWS KMS clé est requise pour garantir la sécurité et la conformité des données. Les tâches d'inférence par lots Amazon Bedrock nécessitent que les compartiments Amazon S3 en entrée et en sortie soient chiffrés à l'aide de AWS KMS clés afin de garantir la protection des données au repos.

Créez une clé KMS à l'AWS CLIaide de cette commande :

# Create KMS key
aws kms create-key \
--description "KMS key for Amazon Bedrock batch inference Amazon S3 bucket" \
--region us-east-1

La commande affichera les informations clés, y compris l’ARN. Exemple de sortie :

{
    "KeyMetadata": {
        "KeyId": "1234abcd-12ab-34cd-56ef-1234567890ab",
        "Arn": "arn:aws:kms:us-east-1:111122223333:key/1234abcd-12ab-34cd-56ef-1234567890ab"
    }
}

Compartiment Amazon S3

Vous avez besoin de deux types de stockage Amazon S3. Le compartiment Amazon S3 géré par le client stocke vos données d’entrée et vos fichiers manifest.json de sortie. Vous créez et gérez ce compartiment et vous pouvez utiliser un seul compartiment à la fois pour les entrées et les sorties. Ce compartiment doit être configuré avec le chiffrement KMS, car il stockera des données de sortie sensibles et sera utilisé par les tâches d’inférence par lots Amazon Bedrock. Amazon Bedrock nécessite des compartiments chiffrés par KMS pour traiter les tâches d’inférence par lots.

Le compartiment Amazon S3 géré par les services stocke les poids des modèles. Un compartiment Amazon S3 géré par des services est créé automatiquement lors de votre première tâche d’entraînement. Il dispose de contrôles d’accès restreints avec des chemins spécifiques accessibles uniquement via des fichiers manifestes.

Pour créer un bucket dans un compartiment spécifiqueRégion AWS, utilisez la commande create-bucket CLI.

Exemple de commande pour créer un compartiment Amazon S3 avec AWS KMS chiffrement. {kms_key_arn}Remplacez-le par votre AWS KMS clé ARN. Vous devez d'abord créer une AWS KMS clé si ce n'est pas déjà fait.

aws s3api create-bucket \
--bucket {my_bucket_name} \
--region {aws_region} \
--create-bucket-configuration LocationConstraint={aws_region} \
--server-side-encryption-configuration '{
    "Rules": [
        {
            "ApplyServerSideEncryptionByDefault": {
                "SSEAlgorithm": "aws:kms",
                "KMSMasterKeyID": "{kms_key_arn}"
            },
            "BucketKeyEnabled": true
        }
    ]
}'

Démarrage d'un poste SageMaker de formation

Avant de démarrer une tâche d’entraînement, préparez vos données.

Exigences relatives au format des données : votre jeu de données d’entrée doit être au format JSONL, chaque ligne contenant un exemple au format inverse. Pour plus d’informations, consultez Préparation des données pour la distillation des modèles de compréhension.

Contraintes liées aux jeux de données

Pour charger les données d’entrée, exécutez la commande ci-après.

aws s3 cp /path/to/input-data/ s3://customer-input-data-bucket/ —recursive

Recette d’augmentation des données

Vous pouvez obtenir la recette de distillation dans le référentiel de SageMaker HyperPod recettes. La formule de distillation se trouve dans le répertoire : recipes-collection/recipes/fine-tuning/nova. Le processus d’augmentation des données est contrôlé par un fichier de configuration YAML. Vous trouverez ci-dessous une explication détaillée de chaque paramètre. Tous les champs sont obligatoires.

Limitation

Pour le modèle enseignant en tant que Nova Premier : uniquement pris en charge dans la région IAD (us-east-1), car l’inférence par lots Amazon Bedrock n’est pas disponible dans la région ARN (eu-north-1).

Bonnes pratiques

Préparation des données

Sélection du modèle

Optimisation des performances

Démarrage d’une tâche avec PySDK

L'exemple de carnet suivant montre comment exécuter une tâche de SageMaker formation pour la distillation. Pour plus d'informations, voir Utiliser un estimateur SageMaker basé sur l'IA pour exécuter une tâche de formation.

import os
import sagemaker,boto3
from sagemaker.pytorch import PyTorch
from sagemaker.inputs import TrainingInput

sagemaker_session = sagemaker.Session()
role = sagemaker.get_execution_role()

# SETUP
job_name = <Your_job_name> # Must be unique for every run

input_s3_uri = <S3 URI to your input dataset> # Must end in .jsonl file
output_s3_uri = <S3 URI to your output bucket> + job_name

image_uri = "708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST" # Do not change
instance_type = "ml.r5.4xlarge" # Recommedation is to use cpu instances 
instance_count = 1 # Must be 1, do not change 
role_arn = <IAM role to execute the job with>
recipe_path = <Local path to your recipe>

# Execution

estimator = PyTorch(
    output_path=output_s3_uri,
    base_job_name=job_name,
    role=role_arn,
    instance_count=instance_count,
    instance_type=instance_type,
    training_recipe=recipe_path,
    max_run=432000,
    sagemaker_session=sagemaker_session,
    image_uri=image_uri,
    subnets= ['subnet-xxxxxxxxxxxxxxxxx','subnet-xxxxxxxxxxxxxxxxx'], # Add subnet groups created in previous steps
    security_group_ids= ['sg-xxxxxxxxxxxxxxxxx'], # Add security group created in previous steps
    disable_profiler=True,
    debugger_hook_config=False
)

trainingInput = TrainingInput(
    s3_data=input_s3_uri,
    distribution='FullyReplicated',
    s3_data_type='Converse'
)

# The keys must be "train".
estimator.fit(inputs={"train": trainingInput})

CloudWatch journaux

Les journaux sont disponibles sur Amazon CloudWatch sous le groupe de /aws/sagemaker/TrainingJobs journaux de votreCompte AWS. Vous verrez un fichier journal par hôte utilisé pour votre tâche d’entraînement.

Entraînement réussi

Pour une tâche d’entraînement réussie, vous verrez le message « L’entraînement est terminé » à la fin du journal.

Le compartiment de sortie contient les fichiers suivants :

Validation de la qualité des données augmentées

Avant de procéder au peaufinage, il est essentiel de valider la qualité des données augmentées :

Une fois l'augmentation des données terminée, la deuxième phase consiste à peaufiner le modèle étudiant à l'aide d'Amazon SageMaker HyperPod. Pour de plus amples informations, veuillez consulter Peaufinage supervisé (SFT).

Dans la formule d’entraînement SFT, vous pouvez transmettre le chemin du jeu de données renvoyé par la tâche précédente.

data_s3_path: "s3://[escrow-bucket]/[job-name]/distillation_data/training_data.jsonl"

Remplacez également la configuration d’entraînement recommandée générée à l’étape précédente.

Limites