Cómo mantener una conversación con las operaciones de la API Converse
Puede usar la API Converse de Amazon Bedrock para crear aplicaciones conversacionales que envíen y reciban mensajes desde y hacia un modelo de Amazon Bedrock. Por ejemplo, puede crear un bot de chat que mantenga una conversación durante varios turnos y utilice un personaje o tono que se adapte exclusivamente a sus necesidades, como un asistente de soporte técnico.
Para usar la API Converse, utilice las operaciones Converse o ConverseStream (para transmitir las respuestas) para enviar mensajes a un modelo. Se pueden utilizar las operaciones de inferencia básicas existentes (InvokeModel o InvokeModelWithResponseStream) para las aplicaciones conversacionales. Sin embargo, le recomendamos que use la API Converse, ya que proporciona una API coherente que funciona con todos los modelos de Amazon Bedrock que admiten mensajes. Esto significa que puede escribir el código una vez y usarlo con diferentes modelos. Si un modelo tiene parámetros de inferencia únicos, la API Converse también le permite pasar esos parámetros únicos a una estructura específica del modelo.
Puede usar la API Converse para implementar el uso de herramientas y las barreras de protección en sus aplicaciones.
nota
Con los modelos Mistral AI y Meta, la API Converse incorpora los datos introducidos en una plantilla de peticiones específica del modelo que permite mantener conversaciones.
Para ejemplos de código, consulte lo siguiente:
-
Ejemplos de Python de este tema: Ejemplos de la API Converse
-
Varios lenguajes y modelos: Ejemplos de código para Amazon Bedrock Runtime usando SDK de AWS
-
Tutorial de Java: A Java developer's guide to Bedrock's new Converse API
-
Tutorial de JavaScript: A developer's guide to Bedrock's new Converse API