Invia un lavoro di distillazione di modelli in Amazon Bedrock

Accedi a AWS Management Console con un responsabile IAM che dispone delle autorizzazioni per utilizzare la console Amazon Bedrock. Quindi, apri la console Amazon Bedrock all'indirizzo https://console.aws.amazon.com/bedrock/.

Dal riquadro di navigazione a sinistra, scegli Modelli personalizzati in Modelli Foundation.

Scegli Crea lavoro di distillazione.

Per i dettagli del modello Distilled, effettuate le seguenti operazioni:

1. Per il nome del modello distillato, inserite un nome per il modello distillato.

2. (Facoltativo) Per la crittografia del modello, selezionate la casella di controllo se desiderate fornire una chiave KMS per crittografare il lavoro e gli artefatti correlati.

   Per ulteriori informazioni, consulta Crittografia di modelli personalizzati.

3. (Facoltativo) Applica i tag al tuo modello distillato.

Per la configurazione del Job, effettuate le seguenti operazioni:

1. In Job name, inserisci un nome per il tuo lavoro di distillazione.

2. (Facoltativo) Per la crittografia del modello, selezionate la casella di controllo se desiderate fornire una chiave KMS per crittografare il lavoro e i relativi artefatti.

   Per ulteriori informazioni, consulta Crittografia di modelli personalizzati.

3. (Facoltativo) Applica i tag al tuo lavoro.

Per i dettagli del modello Teacher — Student, scegli i modelli per insegnanti e studenti per creare il tuo modello distillato.

Per ulteriori informazioni, consulta Scegli modelli per insegnanti e studenti per la distillazione.

Per la generazione di dati sintetici, procedi come segue:

1. Per Lunghezza massima della risposta, specifica la lunghezza massima delle risposte sintetiche generate dal modello dell'insegnante.

2. Per il set di dati di input Distillation, scegliete una delle seguenti opzioni:

   • Carica direttamente nella posizione S3: specifica la posizione S3 in cui stai archiviando il set di dati di input (istruzioni) che verrà utilizzato per la distillazione. Per ulteriori informazioni, consulta Opzione 1: fornisci le tue istruzioni per la preparazione dei dati.

   • Fornisci l'accesso ai log di invocazione: specifica la posizione S3 in cui stai archiviando i log di invocazione con il set di dati di input (prompt) che verrà utilizzato per la distillazione. Per ulteriori informazioni, consulta Opzione 2: utilizzare i registri delle chiamate per la preparazione dei dati.

     • (Facoltativo) Per Request Metadata Filters, specifica i filtri se desideri che Amazon Bedrock utilizzi solo determinate istruzioni nei log per la distillazione.

     • Scegli le coppie Read prompts o Read prompt-response a seconda degli elementi a cui desideri che Amazon Bedrock acceda dai tuoi log. Tieni presente che le risposte vengono lette solo se il modello del tuo insegnante corrisponde al modello dei tuoi log.

Per l'output di distillazione, specifica la posizione S3 in cui desideri caricare le metriche e i report sul tuo lavoro di distillazione.

Per ulteriori informazioni, consulta Analizza i risultati di un processo di personalizzazione del modello.

Per le impostazioni VPC, scegli una configurazione VPC per accedere al bucket S3 con i tuoi dati di allenamento.

Per ulteriori informazioni, consulta (Facoltativo) Proteggi i processi di personalizzazione del modello utilizzando un VPC.

Per l'accesso al servizio, specifica il ruolo IAM per l'accesso al bucket S3 con i tuoi dati di addestramento. A meno che non utilizzi un profilo di inferenza interregionale o configurazioni VPC, puoi creare il ruolo nella console Amazon Bedrock con le autorizzazioni corrette configurate automaticamente. Oppure puoi utilizzare un ruolo di servizio esistente.

Per un lavoro con configurazioni Amazon VPC o utilizza un profilo di inferenza interregionale, devi creare un nuovo ruolo di servizio in IAM con le autorizzazioni richieste.

Per ulteriori informazioni, consulta Crea un ruolo di servizio IAM per la personalizzazione del modello.

Scegli Crea processo di distillazione per avviare il processo di distillazione. Dopo aver personalizzato un modello, potete impostare l'inferenza per il modello. Per ulteriori informazioni, consulta Imposta l'inferenza per un modello personalizzato.