Parametri di richiesta di inferenza e campi di risposta per i modelli di fondazione
Gli argomenti di questa sezione descrivono i parametri di richiesta e i campi di risposta per i modelli forniti da Amazon Bedrock. Quando vengono effettuate chiamate di inferenza a modelli con le operazioni API di invocazione del modello (InvokeModel, InvokeModelWithResponseStream, Converse e ConverseStream) includere parametri di richiesta in base al modello in uso.
Se era stato creato un modello personalizzato, utilizzare gli stessi parametri di inferenza del modello di fondazione da cui è stato personalizzato.
Se si importa un modello personalizzato in Amazon Bedrock, assicurarsi di utilizzare gli stessi parametri di inferenza indicati per il modello personalizzato che si sta importando. Se si utilizzano parametri di inferenza che non corrispondono a quelli menzionati per il modello nella documentazione, tali parametri vengono ignorati.
Prima di visualizzare i parametri del modello per modelli diversi, acquisire familiarità con il concetto di inferenza del modello leggendo il capitolo seguente: Invio di prompt e generazione di risposte con l’inferenza del modello.
Consultare le seguenti pagine per ulteriori informazioni sui diversi modelli di Amazon Bedrock:
-
Per una tabella dei modelli e dei relativi ID da utilizzare con le operazioni dell’API di invocazione del modello, le Regioni in cui sono supportati e le funzionalità generali supportate, consultare Modelli di fondazione supportati in Amazon Bedrock.
-
Per una tabella delle Regioni di Amazon Bedrock che supportano ciascun modello, consultare Modelli supportati da Regione AWS in Amazon Bedrock.
-
Per una tabella delle funzionalità di Amazon Bedrock che supportano ciascun modello, consultare Supporto dei modelli per funzionalità.
-
Per verificare se l’API Converse (
ConverseeConverseStream) supporta un modello specifico, consultare Modelli e funzionalità del modello supportati. -
Quando vengono effettuate chiamate di inferenza a un modello, viene incluso un prompt per il modello. Per informazioni generali sulla creazione di prompt per i modelli supportati da Amazon Bedrock, consulta Concetti di progettazione dei prompt.
-
Per alcuni esempi di codice, consultare Esempi di codice per Amazon Bedrock con gli AWS SDK.
Selezionare un argomento per conoscere i modelli di quel provider e i relativi parametri.
Argomenti
