View a markdown version of this page

Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker - Amazon Nova

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Personalizzazione dei modelli Amazon Nova sull'intelligenza artificiale SageMaker

Puoi personalizzare i modelli Amazon Nova, inclusi i modelli Amazon Nova 2.0 migliorati, tramite ricette e addestrarli SageMaker. Queste ricette supportano tecniche come il supervised fine-tuning (SFT) e il Reinforcement (RFT), con opzioni di adattamento completo e di adattamento a basso livello Fine-Tuning (LoRa).

Il flusso di lavoro di personalizzazione end-to-end prevede fasi come l’addestramento dei modelli, la valutazione dei modelli e l’implementazione per l’inferenza. Questo approccio di personalizzazione dei modelli SageMaker offre maggiore flessibilità e controllo per ottimizzare i modelli Amazon Nova supportati, ottimizzare gli iperparametri con precisione e implementare tecniche come LoRa parameter-efficient fine-tuning (PEFT), full rank SFT, RFT e Continued (CPT). Pre-Training

Approcci di personalizzazione

SageMaker offre due approcci per personalizzare i modelli Amazon Nova:

UI-based esperienza: consente di personalizzare i modelli Amazon Nova tramite un'interfaccia semplice e guidata. Questo approccio offre un flusso di lavoro completo che include formazione, valutazione e distribuzione senza scrivere codice. L' UI-based esperienza è ideale per la sperimentazione rapida, lo sviluppo di prototipi e per gli utenti che preferiscono un flusso di lavoro visivo.

Code-based esperienza: usa SageMaker Python SDK, Nova SDK e le ricette di formazione per personalizzare i modelli a livello di codice. Questo approccio offre una maggiore flessibilità e consente di configurare iperparametri avanzati, integrarsi con le CI/CD pipeline e automatizzare i flussi di lavoro di formazione. L'esperienza basata sul codice è consigliata per carichi di lavoro di produzione, requisiti di personalizzazione complessi e team con pratiche MLOps consolidate.

Approccio Ideale per Vantaggi principali
UI-based Sperimentazione, prototipazione, iterazioni rapide Configurazione semplice, flusso di lavoro guidato, nessuna codifica richiesta
Code-based Produzione, automazione, configurazioni avanzate Piena flessibilità, integrazione della pipeline, controllo della versione

Piattaforme di personalizzazione

AWS offre tre piattaforme per personalizzare i modelli Amazon Nova, ognuna progettata per casi d'uso e requisiti diversi:

Amazon Bedrock: offre il percorso più semplice e veloce per la personalizzazione del modello con una configurazione minima. Bedrock gestisce automaticamente tutta la gestione dell'infrastruttura, consentendoti di concentrarti sui dati e sul caso d'uso. Questa piattaforma è ideale quando hai bisogno del time-to-value più rapido e preferisci un'esperienza completamente gestita.

SageMaker lavori di formazione: fornisce un ambiente completamente gestito per la personalizzazione dei modelli Amazon Nova in cui non è necessario creare o mantenere alcun cluster. Il servizio gestisce automaticamente tutto il provisioning, la scalabilità e la gestione delle risorse dell'infrastruttura, consentendoti di concentrarti sulla configurazione dei parametri di formazione e sull'invio del lavoro. Questa piattaforma offre un equilibrio tra facilità d'uso e flessibilità e supporta tecniche come Parameter Efficient Fine-tuning (PEFT), Full rank fine tuning e Reinforcement (RFT). Fine-Tuning

SageMaker HyperPod— Offre un ambiente specializzato per la formazione distribuita su larga scala, richiedendo la creazione e la gestione di cluster EKS con gruppi di istanze limitate (RIG). Questa piattaforma offre la massima flessibilità nella configurazione dell'ambiente di formazione con istanze GPU specializzate e storage Amazon FSx for Lustre integrato, rendendola particolarmente adatta per scenari di formazione distribuita avanzata, sviluppo continuo di modelli e carichi di lavoro di personalizzazione su scala aziendale.

Platform (Piattaforma) Complessità Flessibilità Ideale per
Amazon Bedrock Minimo Standard Personalizzazione più rapida, configurazione minima
SageMaker lavori di formazione Media Elevata Flessibilità e facilità d'uso bilanciate
SageMaker HyperPod Massimo Massimo Formazione distribuita su vasta scala, carichi di lavoro aziendali
Nota

Se fornisci una chiave KMS per il tuo processo di formazione sulla personalizzazione del modello Amazon Nova per la crittografia nel bucket S3 Amazon-owned di output:

  • Devi fornire la stessa chiave KMS quando richiami i successivi lavori di formazione iterativi o quando chiami l' CreateCustomModel API Amazon Bedrock sfruttando il modello crittografato.

  • L'identità che chiama l'CreateTrainingJobAPI (anziché il ruolo di esecuzione) deve disporre delle autorizzazioni per CreateGrant e GenerateDataKey come definito nella Encrypt policy chiave KMS. RetireGrant