Realizar encadenamiento de peticiones de IA con Amazon Bedrock - AWS Step Functions

Realizar encadenamiento de peticiones de IA con Amazon Bedrock

Este proyecto de ejemplo demuestra cómo puede integrarse con Amazon Bedrock para realizar encadenamiento de peticiones de IA y crear chatbots de alta calidad utilizando Amazon Bedrock. El proyecto encadena algunos mensajes y los resuelve en la secuencia en que se proporcionan. El encadenamiento de estos mensajes aumenta la capacidad del modelo de lenguaje que se utiliza para ofrecer una respuesta muy precisa.

Este proyecto de muestra crea la máquina de estado, los recursos de AWS de apoyo, y configura los permisos de IAM relacionados. Explore este proyecto de ejemplo para aprender acerca del uso de la integración de servicios optimizada de Amazon Bedrock con máquinas de estado de Step Functions o utilícelo como punto de partida para sus propios proyectos.

Requisitos previos

En este proyecto de ejemplo se utiliza el modelo de lenguaje grande (LLM) de Cohere Command. Para ejecutar correctamente este proyecto de ejemplo, debe añadir acceso a este LLM desde la consola de Amazon Bedrock. Para agregar el acceso a modelos, haga lo siguiente:

  1. Abra la consola de Amazon Bedrock.

  2. En el panel de navegación, elija Acceso a modelos.

  3. Elija Administrar el acceso a modelos.

  4. Seleccione la casilla situada junto a Cohere.

  5. Elegir Solicitar acceso. El Estado de acceso del modelo Cohere se muestra como Acceso concedido.

Paso 1: Crear la máquina de estado

  1. Abra la consola de Step Functions y seleccione Crear máquina de estado.

  2. Seleccione Crear a partir de una plantilla y busque la plantilla de inicio relacionada. Elija Siguiente para continuar.

  3. Elija cómo usar la plantilla:

    1. Realizar una demostración: crea una máquina de estado de solo lectura. Tras la revisión, puede crear el flujo de trabajo y todos los recursos relacionados.

    2. Crear a partir de ella: proporciona una definición de flujo de trabajo editable que puede revisar, personalizar e implementar con sus propios recursos. (Los recursos relacionados, como las funciones o las colas, no se crearán automáticamente).

  4. Elija Utilizar plantilla para continuar con la selección.

    nota

    Se aplican cargos estándar por los servicios implementados en su cuenta.

Paso 2: ejecución de la máquina de estado de demostración

Si elige la opción Ejecutar una demostración, todos los recursos relacionados se implementarán y estarán listos para ejecutarse. Si eligió la opción Crear a partir de ella, es posible que necesite establecer valores de marcador de posición y crear recursos adicionales antes de poder ejecutar su flujo de trabajo personalizado.

  1. Elija Implementar y ejecutar.

  2. Espera a que se implemente la pila de CloudFormation. Este proceso puede tardar hasta 10 minutos en completarse.

  3. Cuando aparezca la opción Iniciar ejecución, revise la entrada y elija Iniciar ejecución.

¡Enhorabuena!

Ahora debería tener una demostración en funcionamiento de su máquina de estado. Puede elegir estados en la vista gráfica para revisar la entrada, la salida, las variables, la definición y los eventos.