View a markdown version of this page

Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker - Amazon Nova

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker

Nota

Questa documentazione è per Amazon Nova versione 1. Amazon Nova 2 è ora disponibile con nuovi modelli e funzionalità avanzate. Per informazioni su come personalizzare Amazon Nova 2, visita Personalizzare i modelli Amazon Nova 2.

Puoi personalizzare i modelli Amazon Nova, inclusi i modelli Amazon Nova 2.0 migliorati, tramite ricette e addestrarli SageMaker. Queste ricette supportano tecniche come supervised fine-tuning (SFT), Direct Preference Optimization (DPO) e Reinforcement (RFT), con opzioni sia complete che low-rank adaptation Fine-Tuning (LoRa).

Il flusso di lavoro di personalizzazione end-to-end prevede fasi come l’addestramento dei modelli, la valutazione dei modelli e l’implementazione per l’inferenza. Questo approccio di personalizzazione dei modelli SageMaker offre maggiore flessibilità e controllo per ottimizzare i modelli Amazon Nova supportati, ottimizzare gli iperparametri con precisione e implementare tecniche come LoRa parameter-efficient fine-tuning (PEFT), full rank SFT, DPO, RFT, Continued (CPT), Proximal Policy Optimization (PPO), ecc. Pre-Training

SageMaker offre due ambienti per personalizzare i modelli Amazon Nova.

  • SageMaker training jobs fornisce un ambiente completamente gestito per la personalizzazione dei modelli Amazon Nova in cui non è necessario creare o mantenere alcun cluster. Il servizio gestisce automaticamente il provisioning, il dimensionamento e la gestione delle risorse dell’infrastruttura, permettendo di concentrarsi esclusivamente sulla configurazione dei parametri di addestramento e sull’invio dei job. Puoi personalizzare i modelli Nova durante i lavori di SageMaker formazione con tecniche come Parameter Efficient Fine-tuning (PEFT), Full rank fine tuning, Direct Preference Optimization (DPO) e Reinforcement (RFT). Fine-Tuning Per ulteriori informazioni, consulta Personalizzazione di Amazon Nova su SageMaker Training Jobs.

    Nota

    Se fornisci una chiave KMS per il tuo processo di formazione sulla personalizzazione del modello Amazon Nova per la crittografia nel bucket S3 Amazon-owned di output:

    • Devi fornire la stessa chiave KMS quando richiami i successivi lavori di formazione iterativi o quando chiami l'CreateCustomModelAPI Amazon Bedrock sfruttando il modello crittografato.

    • L'identità che chiama l'CreateTrainingJobAPI (anziché il ruolo di esecuzione) deve disporre delle autorizzazioni per CreateGrant e GenerateDataKey come definito nella Encrypt policy chiave KMS. RetireGrant

  • SageMaker HyperPodoffre un ambiente specializzato per addestrare i modelli Amazon Nova richiedendo la creazione e la gestione di cluster EKS con gruppi di istanze limitati (RIG). Questo ambiente offre flessibilità nella configurazione dell’ambiente di addestramento con istanze GPU specializzate e archiviazione Amazon FSx per Lustre integrata, rendendolo particolarmente idoneo a scenari avanzati di addestramento distribuito e sviluppo continuo di modelli. Per ulteriori informazioni, consulta Personalizzazione di Amazon Nova su SageMaker HyperPod.