Fine-tuning dei modelli Amazon Nova - Amazon Nova

Fine-tuning dei modelli Amazon Nova

È possibile personalizzare i modelli Amazon Nova usando il metodo del fine-tuning con dati proprietari etichettati su Amazon Bedrock per ottenere prestazioni migliori rispetto a quelle offerte dai modelli predefiniti per il proprio caso d’uso. In altre parole, fine-tuning offre miglioramenti che vanno oltre quelli ottenibili con l’invocazione zero-shot o few-shot e altre tecniche di progettazione dei prompt. Puoi eseguire il fine-tuning dei modelli Amazon Nova quando è disponibile una quantità sufficiente di dati di addestramento etichettati e di alta qualità per i seguenti casi d’uso:

  • Quando hai attività di nicchia o specializzate in un dominio specifico.

  • Quando vuoi che i risultati del modello siano allineati al tono del marchio, alle policy aziendali o ai flussi di lavoro proprietari.

  • Quando hai bisogno di ottenere risultati migliori in un ampio numero di attività e devi quindi introdurre esempi di formazione. Questa situazione è in contrasto con la fornitura di istruzioni ed esempi nei prompt, che influisce anche sul costo dei token e sulla latenza delle richieste.

  • Quando hai requisiti di latenza rigorosi e puoi trarre vantaggio da modelli più piccoli su misura per un caso d’uso specifico.

Modelli disponibili

Il fine-tuning è disponibile per i seguenti modelli Amazon Nova e le modalità di testo, immagine e video supportate.

  • Amazon Nova Micro

  • Amazon Nova Lite

  • Amazon Nova Pro

  • Amazon Nova Canvas

Eseguire il fine-tuning personalizzato

Per eseguire il fine-tuning personalizzato con i modelli Amazon Nova, procedere come segue:

  1. Crea un set di dati di addestramento e un set di dati di convalida (se applicabile) per la tua attività di personalizzazione. Per ulteriori informazioni sulla preparazione dei dati, consulta quanto segue:

  2. Se prevedi di usare un nuovo ruolo IAM personalizzato, segui le istruzioni riportate in Create a service role for model customization per creare un ruolo IAM con accesso ai tuoi dati nei bucket Amazon S3. Oppure puoi usare un ruolo esistente o lasciare che la console crei automaticamente un ruolo con le autorizzazioni appropriate.

  3. (Facoltativo) Configura Crittografia dei processi e degli artefatti di personalizzazione del modello Amazon Nova, VPC o entrambi, per maggiore sicurezza.

  4. Crea un processo di fine-tuning, controllando il processo di addestramento regolando i valori degli iperparametri.

  5. Analizza i risultati osservando le metriche di addestramento o convalida oppure usando la valutazione del modello.

  6. Acquista Throughput assegnato o Inferenza on demand su modelli personalizzati per il modello personalizzato appena creato.

  7. Utilizza il tuo modello personalizzato come faresti con un modello di base nelle attività di Amazon Bedrock, come l’inferenza del modello.