Cómo mantener una conversación con las operaciones de la API Converse - Amazon Bedrock

Cómo mantener una conversación con las operaciones de la API Converse

Puede usar la API Converse de Amazon Bedrock para crear aplicaciones conversacionales que envíen y reciban mensajes desde y hacia un modelo de Amazon Bedrock. Por ejemplo, puede crear un bot de chat que mantenga una conversación durante varios turnos y utilice un personaje o tono que se adapte exclusivamente a sus necesidades, como un asistente de soporte técnico.

Para usar la API Converse, utilice las operaciones Converse o ConverseStream (para transmitir las respuestas) para enviar mensajes a un modelo. Se pueden utilizar las operaciones de inferencia básicas existentes (InvokeModel o InvokeModelWithResponseStream) para las aplicaciones conversacionales. Sin embargo, le recomendamos que use la API Converse, ya que proporciona una API coherente que funciona con todos los modelos de Amazon Bedrock que admiten mensajes. Esto significa que puede escribir el código una vez y usarlo con diferentes modelos. Si un modelo tiene parámetros de inferencia únicos, la API Converse también le permite pasar esos parámetros únicos a una estructura específica del modelo.

Puede usar la API Converse para implementar el uso de herramientas y las barreras de protección en sus aplicaciones.

nota

Con los modelos Mistral AI y Meta, la API Converse incorpora los datos introducidos en una plantilla de peticiones específica del modelo que permite mantener conversaciones.

Para ejemplos de código, consulte lo siguiente: