Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Fine-tune modelli a peso aperto che utilizzano OpenAI-API compatibili
Amazon Bedrock fornisce endpoint API OpenAI compatibili per l'ottimizzazione dei modelli di base. Questi endpoint consentono di utilizzare OpenAI SDK e strumenti familiari per creare, monitorare e gestire lavori di ottimizzazione con i modelli Amazon Bedrock. Questa pagina illustra l'utilizzo di queste API per la messa a punto dei rinforzi.
Funzionalità chiave
-
Carica file di formazione: utilizza l'API Files per caricare e gestire i dati di formazione per la messa a punto dei lavori
-
Crea lavori di perfezionamento: inizia a perfezionarli con dati di formazione personalizzati e funzioni di ricompensa
-
Elenca e recupera i lavori: visualizza tutti i lavori di ottimizzazione e ottieni informazioni dettagliate su lavori specifici
-
Monitora gli eventi lavorativi: tieni traccia dei progressi di ottimizzazione tramite registri dettagliati degli eventi
-
Checkpoint di accesso: recupera i checkpoint intermedi del modello creati durante l'addestramento
-
Inferenza immediata: una volta completata la messa a punto, utilizza il modello ottimizzato risultante per l'inferenza su richiesta tramite le API (API di completamento) di Amazon Bedrock senza passaggi di distribuzione aggiuntivi OpenAI-compatible Responses/chat
-
Migrazione semplice OpenAI: compatibile con le basi di codice SDK esistenti
Flusso di lavoro di ottimizzazione del rinforzo per modelli a peso aperto
Prima di perfezionare, assicurati di disporre dei prerequisiti, poiché Amazon Bedrock necessita di autorizzazioni specifiche per creare e gestire il processo di ottimizzazione. Per informazioni complete Accesso e sicurezza per i modelli a peso aperto su sicurezza e autorizzazioni, consulta.
Esegui la messa a punto del rinforzo per i modelli a peso aperto in 5 passaggi:
-
Carica il set di dati di formazione: utilizza l'API Files per caricare i prompt nel formato richiesto (ad esempio, JSONL) con lo scopo «fine-tuning» come set di dati di addestramento per l'ottimizzazione del rinforzo. Per ulteriori informazioni, consulta Preparare i dati per modelli a peso aperto.
-
Configura la funzione Reward: definisci un classificatore per assegnare un punteggio alle risposte del modello in base a correttezza, struttura, tono o altri obiettivi utilizzando le funzioni Lambda. Per ulteriori informazioni, consulta Configurazione delle funzioni di ricompensa per i modelli a peso aperto.
-
Crea Fine-tuning lavoro: avvia il processo di ottimizzazione del rinforzo utilizzando l'API OpenAI compatibile specificando il modello base, il set di dati, la funzione di ricompensa e altre impostazioni opzionali come gli iperparametri. Per ulteriori informazioni, consulta Crea un lavoro di messa a punto.
-
Monitora i progressi della formazione: monitora lo stato del lavoro, gli eventi e le metriche di formazione utilizzando le API di ottimizzazione dei lavori. Per ulteriori informazioni, consulta Elenca gli eventi di messa a punto. Accedi ai checkpoint intermedi del modello per valutare le prestazioni nelle diverse fasi di formazione, vedi. Elenca i punti di controllo per la messa a punto
-
Esegui l'inferenza: utilizza l'ID del modello ottimizzato direttamente per l'inferenza tramite le API Responses o Chat Completions compatibili di Amazon Bedrock. OpenAI Per ulteriori informazioni, consulta Esegui l'inferenza con un modello ottimizzato.
Regioni ed endpoint supportati
La tabella seguente mostra i modelli e le regioni di base che supportano le API di ottimizzazione OpenAI compatibili:
| Provider | Modello | ID modello | Nome Regione | Regione | Endpoint |
|---|---|---|---|---|---|
| OpenAI | Gpt-oss-20B | openai.gpt-oss-20b | Stati Uniti occidentali (Oregon) | us-west-2 | bedrock-mantle.us-west-2.api.aws |
| Qwen | Qwen 3 32B | qwen.qwen3-32b | Stati Uniti occidentali (Oregon) | us-west-2 | bedrock-mantle.us-west-2.api.aws |
