Avvio di una conversazione con le operazioni dell’API Converse
L’API Converse per Amazon Bedrock consente di creare applicazioni conversazionali che inviano e ricevono messaggi verso e da un modello Amazon Bedrock. È possibile ad esempio creare un chatbot che gestisca una conversazione a più turni e utilizzi una personalizzazione del tono o della persona adatta alle esigenze specifiche, come un utile assistente di supporto tecnico.
Per utilizzare l’API Converse, usare le operazioni Converse o ConverseStream (per le risposte in streaming) per inviare un messaggio a un modello. È possibile utilizzare le operazioni di inferenza di base esistenti (InvokeModel o InvokeModelWithResponseStream) per le applicazioni conversazionali. Si consiglia tuttavia di utilizzare l’API Converse in quanto è un’API coerente in grado di funzionare con tutti i modelli Amazon Bedrock che supportano i messaggi. Ciò significa che è possibile scrivere il codice una sola volta e utilizzarlo con modelli diversi. Se un modello ha parametri di inferenza unici, l’API Converse consente anche di passare tali parametri in una struttura specifica del modello.
L’API Converse può essere utilizzata per implementare l’uso di strumenti e di guardrail nelle tue applicazioni.
Nota
Con i modelli Mistral AI and Meta, l’API Converse integra l’input dell’utente in un tipo di prompt specifico del modello che abilita le conversazioni.
Per esempi di codice, consulta le sezioni seguenti:
-
Esempi Python per questo argomento: Esempi di API Converse
-
Vari linguaggi e modelli: Esempi di codice per il runtime di Amazon Bedrock utilizzando gli AWS SDK
-
Tutorial Java: una guida per gli sviluppatori Java alla nuova API Converse di Bedrock
-
Tutorial JavaScript: una guida per gli sviluppatori alla nuova API Converse di Bedrock