Avvio di una conversazione con le operazioni dell’API Converse - Amazon Bedrock

Avvio di una conversazione con le operazioni dell’API Converse

L’API Converse per Amazon Bedrock consente di creare applicazioni conversazionali che inviano e ricevono messaggi verso e da un modello Amazon Bedrock. È possibile ad esempio creare un chatbot che gestisca una conversazione a più turni e utilizzi una personalizzazione del tono o della persona adatta alle esigenze specifiche, come un utile assistente di supporto tecnico.

Per utilizzare l’API Converse, usare le operazioni Converse o ConverseStream (per le risposte in streaming) per inviare un messaggio a un modello. È possibile utilizzare le operazioni di inferenza di base esistenti (InvokeModel o InvokeModelWithResponseStream) per le applicazioni conversazionali. Si consiglia tuttavia di utilizzare l’API Converse in quanto è un’API coerente in grado di funzionare con tutti i modelli Amazon Bedrock che supportano i messaggi. Ciò significa che è possibile scrivere il codice una sola volta e utilizzarlo con modelli diversi. Se un modello ha parametri di inferenza unici, l’API Converse consente anche di passare tali parametri in una struttura specifica del modello.

L’API Converse può essere utilizzata per implementare l’uso di strumenti e di guardrail nelle tue applicazioni.

Nota

Con i modelli Mistral AI and Meta, l’API Converse integra l’input dell’utente in un tipo di prompt specifico del modello che abilita le conversazioni.

Per esempi di codice, consulta le sezioni seguenti: