As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Destilação do Amazon Nova

Este guia de início rápido ajuda você a começar a usar o modelo de destilação Amazon Nova usando o ajuste fino supervisionado (SFT) em IA. SageMaker

A destilação de modelos é um método que transfere conhecimento de modelos grandes e avançados para modelos menores e eficientes. Com os modelos do Amazon Nova, um modelo maior "instrutor" (como o Amazon Nova Pro ou o Amazon Nova Premier) transfere suas habilidades para um modelo menor "aprendiz" (como o Amazon Nova Lite ou o Amazon Nova Micro). Isso cria um modelo personalizado que mantém a alta performance usando menos recursos.

Componentes principais

O processo de destilação envolve principalmente dois tipos de modelo:

Os modelos instrutores servem como fonte de conhecimento e incluem:

Os modelos aprendizes recebem e implementam o conhecimento:

Casos de uso

O modo de destilação é particularmente útil quando:

Pré-requisitos

Configuração do aumento de dados

A fase de aumento de dados usa trabalhos de SageMaker treinamento para gerar dados de treinamento de alta qualidade usando o modelo do professor. Esta seção detalha o processo de configuração e os requisitos.

perfil do IAM

Para criar perfis do IAM e anexar políticas, consulte a seção Criar funções e anexar políticas (console). Se você usarAWS CLI, siga as instruções em create-role e. attach-role-policy Para obter mais informações, consulte Como usar as funções de execução de SageMaker IA no Guia do desenvolvedor de SageMaker IA.

A seguir são apresentados exemplos de para sua referência.

Crie uma função de execução de SageMaker IA

A função é criada com uma relação de confiança que permite que a SageMaker IA, Amazon Bedrock, assuma essa função. Isso permite que esses serviços atuem em seu nome ao executar trabalhos de inferência em lote.

aws iam create-role \
 --role-name NovaCustomizationRole \
 --assume-role-policy-document '{
 "Version": "2012-10-17",		 	 	 
 "Statement": [
 {
 "Effect": "Allow",
 "Principal": {
 "Service": ["sagemaker.amazonaws.com",
            "bedrock.amazonaws.com"]
 },
 "Action": "sts:AssumeRole"
 }
 ]
}'               

Anexar as políticas necessárias

# Attach AmazonSageMakerFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonSageMakerFullAccess

# Attach AmazonBedrockFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonBedrockFullAccess

 # Attach S3 access policy
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonS3FullAccess
 
# Attach AmazonEC2FullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonEC2FullAccess
 
# Attach AmazonEC2ContainerRegistryFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/AmazonEC2ContainerRegistryFullAccess
 
# Attach AmazonEC2ContainerRegistryFullAccess
 aws iam attach-role-policy \
 --role-name NovaCustomizationRole \
 --policy-arn arn:aws:iam::aws:policy/CloudWatchLogsFullAccess 

Anexe a política em linha a seguir ao perfil de execução do cliente necessário para o contêiner de destilação.

aws iam put-role-policy \
 --role-name NovaCustomizationRole \
 --policy-name Distillation-Additional-Permissions\
 --policy-document '{
 "Version": "2012-10-17",		 	 	 
 "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "kms:*"
            ],
            "Resource": "*"
        },
        {
            "Effect": "Allow",
            "Action": [
                "iam:PassRole"
            ],
            "Resource": "*"
        }
    ]
}

Configuração da Amazon VPC

Para criar a configuração da Amazon VPC para trabalhos de treinamento de SageMaker IA usando oConsole de gerenciamento da AWS, siga as instruções em Configurar sua VPC privada para SageMaker treinamento (console).

Criar uma Amazon VPC

Name: Distillation-VPC
IPv4 CIDR: 10.0.0.0/16 (or your preferred range)
Availability Zones: 2
Public Subnets: 2
Private Subnets: 2
NAT Gateways: 1 (in one AZ)

Criar um grupo de segurança

Name: Distillation-SG
Description: Security group for data distillation jobs
Inbound Rules: Allow all traffic from self
Outbound Rules: Allow all traffic (0.0.0.0/0)

Criar endpoints da VPC para os serviços abaixo

com.amazonaws.[region].s3
com.amazonaws.[region].sagemaker.api
com.amazonaws.[region].sagemaker.runtime
com.amazonaws.[region].bedrock.api
com.amazonaws.[region].bedrock.runtime
com.amazonaws.[region].sts
com.amazonaws.[region].logs
com.amazonaws.[region].ecr.api
com.amazonaws.[region].ecr.dkr

Para cada endpoint:

Chaves do AWS KMS

Ao trabalhar com a inferência em lote do Amazon Bedrock, é necessária uma AWS KMS chave para segurança e conformidade dos dados. Os trabalhos de inferência em lote do Amazon Bedrock exigem que os buckets de entrada e saída do Amazon S3 sejam criptografados AWS KMS com chaves para garantir a proteção de dados em repouso.

Crie uma chave KMS usando AWS CLI este comando:

# Create KMS key
aws kms create-key \
--description "KMS key for Amazon Bedrock batch inference Amazon S3 bucket" \
--region us-east-1

O comando exibirá as principais informações, incluindo o ARN. Resultado do exemplo:

{
    "KeyMetadata": {
        "KeyId": "1234abcd-12ab-34cd-56ef-1234567890ab",
        "Arn": "arn:aws:kms:us-east-1:111122223333:key/1234abcd-12ab-34cd-56ef-1234567890ab"
    }
}

Bucket do Amazon S3.

Você precisa de dois tipos de armazenamento no Amazon S3. O bucket do Amazon S3 gerenciado pelo cliente armazena seus dados de entrada e arquivos de saída manifest.json. Você cria e gerencia esse bucket e pode usar um único bucket para entrada e saída. Esse bucket deve ser configurado com criptografia do KMS, pois armazenará dados de saída sensíveis e será usado por trabalhos de inferência em lote do Amazon Bedrock. O Amazon Bedrock exige buckets criptografados pelo KMS para processar trabalhos de inferência em lote.

O bucket do Amazon S3 gerenciado pelo serviço armazena os pesos do modelo. Um bucket do Amazon S3 gerenciado pelo serviço é criado automaticamente durante sua primeira tarefa de treinamento. Ele tem controles de acesso restritos com caminhos específicos acessíveis somente por meio de arquivos de manifesto.

Para criar um bucket em um específicoRegião da AWS, use o comando da CLI create-bucket.

Exemplo de comando para criar um bucket Amazon S3 com AWS KMS criptografia. {kms_key_arn}Substitua pelo ARN da sua AWS KMS chave. Você precisará criar uma AWS KMS chave primeiro, caso ainda não tenha feito isso.

aws s3api create-bucket \
--bucket {my_bucket_name} \
--region {aws_region} \
--create-bucket-configuration LocationConstraint={aws_region} \
--server-side-encryption-configuration '{
    "Rules": [
        {
            "ApplyServerSideEncryptionByDefault": {
                "SSEAlgorithm": "aws:kms",
                "KMSMasterKeyID": "{kms_key_arn}"
            },
            "BucketKeyEnabled": true
        }
    ]
}'

Começando um trabalho SageMaker de treinamento

Antes de iniciar uma tarefa de treinamento, prepare seus dados.

Requisito de formato de dados: o conjunto de dados de entrada deve estar no formato JSONL. Cada linha deve conter uma amostra no formato inverso. Para ter mais informações, consulte Preparar dados para destilar modelos de compreensão.

Restrições do conjunto de dados

Para fazer upload dos dados de entrada, execute o comando a seguir.

aws s3 cp /path/to/input-data/ s3://customer-input-data-bucket/ —recursive

Fórmula de aumento de dados

Você pode obter a receita de destilação no repositório de receitas. SageMaker HyperPod A fórmula de destilação está no diretório recipes-collection/recipes/fine-tuning/nova. O processo de aumento de dados é controlado por um arquivo de configuração YAML. Abaixo é apresentada uma explicação detalhada de cada parâmetro. Todos os campos são obrigatórios.

Limitação

Para modelo instrutor como o Nova Premier: compatível apenas com a região IAD (us-east-1), pois a inferência em lote do Amazon Bedrock não está disponível na região do ARN (eu-north-1).

Práticas recomendadas

Preparação de dados

Seleção de modelo

Otimização de desempenho

Iniciar um trabalho com o PySDK

O exemplo de caderno a seguir demonstra como executar um trabalho de SageMaker treinamento para destilação. Para obter mais informações, consulte Usar um estimador de SageMaker IA para executar um trabalho de treinamento.

import os
import sagemaker,boto3
from sagemaker.pytorch import PyTorch
from sagemaker.inputs import TrainingInput

sagemaker_session = sagemaker.Session()
role = sagemaker.get_execution_role()

# SETUP
job_name = <Your_job_name> # Must be unique for every run

input_s3_uri = <S3 URI to your input dataset> # Must end in .jsonl file
output_s3_uri = <S3 URI to your output bucket> + job_name

image_uri = "708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST" # Do not change
instance_type = "ml.r5.4xlarge" # Recommedation is to use cpu instances 
instance_count = 1 # Must be 1, do not change 
role_arn = <IAM role to execute the job with>
recipe_path = <Local path to your recipe>

# Execution

estimator = PyTorch(
    output_path=output_s3_uri,
    base_job_name=job_name,
    role=role_arn,
    instance_count=instance_count,
    instance_type=instance_type,
    training_recipe=recipe_path,
    max_run=432000,
    sagemaker_session=sagemaker_session,
    image_uri=image_uri,
    subnets= ['subnet-xxxxxxxxxxxxxxxxx','subnet-xxxxxxxxxxxxxxxxx'], # Add subnet groups created in previous steps
    security_group_ids= ['sg-xxxxxxxxxxxxxxxxx'], # Add security group created in previous steps
    disable_profiler=True,
    debugger_hook_config=False
)

trainingInput = TrainingInput(
    s3_data=input_s3_uri,
    distribution='FullyReplicated',
    s3_data_type='Converse'
)

# The keys must be "train".
estimator.fit(inputs={"train": trainingInput})

CloudWatch troncos

Os registros estão disponíveis na Amazon CloudWatch sob o grupo de /aws/sagemaker/TrainingJobs registros em seuConta da AWS. Você verá um arquivo de log por host usado para sua tarefa de treinamento.

Treinamento bem-sucedido

Para uma tarefa de treinamento bem-sucedida, você verá a mensagem de log “Training is complete” no final do log.

O bucket de saída contém os seguintes arquivos:

Validar a qualidade dos dados aumentados

Antes de prosseguir com o ajuste fino, é crucial validar a qualidade dos dados aumentados:

Após a conclusão do aumento dos dados, a segunda fase envolve o ajuste fino do modelo do aluno usando a Amazon. SageMaker HyperPod Para obter mais informações, consulte Ajuste fino supervisionado (SFT).

Na fórmula de treinamento de SFT, você pode transmitir o caminho do conjunto de dados exibido da tarefa anterior.

data_s3_path: "s3://[escrow-bucket]/[job-name]/distillation_data/training_data.jsonl"

Além disso, substitua a configuração de treinamento recomendada gerada na etapa anterior.

Limitações