Cómo mantener una conversación con las operaciones de la API Converse - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Cómo mantener una conversación con las operaciones de la API Converse

Puede usar la API Converse de Amazon Bedrock para crear aplicaciones conversacionales que envíen y reciban mensajes desde y hacia un modelo de Amazon Bedrock. Por ejemplo, puede crear un bot de chat que mantenga una conversación durante varios turnos y utilice un personaje o tono que se adapte exclusivamente a sus necesidades, como un asistente de soporte técnico.

Para usar la Converse API, usa las operaciones de Converse o ConverseStream(para las respuestas de streaming) para enviar mensajes a un modelo. Es posible utilizar las operaciones de inferencia base existentes (InvokeModelo InvokeModelWithResponseStream) para aplicaciones de conversación. Sin embargo, le recomendamos que use la API Converse, ya que proporciona una API coherente que funciona con todos los modelos de Amazon Bedrock que admiten mensajes. Esto significa que puede escribir el código una vez y usarlo con diferentes modelos. Si un modelo tiene parámetros de inferencia únicos, la API Converse también le permite pasar esos parámetros únicos a una estructura específica del modelo.

Puede usar la API Converse para implementar el uso de herramientas y las barreras de protección en sus aplicaciones.

nota

  • Con los modelos Mistral AI y Meta, la API Converse incorpora los datos introducidos en una plantilla de peticiones específica del modelo que permite mantener conversaciones.

  • Se aplican restricciones a las siguientes operaciones:InvokeModel, InvokeModelWithResponseStreamConverse, yConverseStream. Consulte las restricciones de la API para obtener más información.

Para ejemplos de código, consulte lo siguiente:

Temas