Configure el registro de invocación de modelos en Amazon Bedrock mediante AWS CloudFormation - Recomendaciones de AWS
ResumenRequisitos previos y limitacionesArquitecturaTools (Herramientas)EpicsRecursos relacionados

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Configure el registro de invocación de modelos en Amazon Bedrock mediante AWS CloudFormation

Vikramaditya Bhatnagar, Amazon Web Services

Resumen

Puede configurar Amazon Bedrock para recopilar registros de invocación y datos de entrada y de salida del modelo para todas las invocaciones del modelo en su Cuenta de AWS. Esta es una práctica recomendada para crear aplicaciones de IA generativa sólidas con Amazon Bedrock. Puede almacenar los registros de invocación de modelos en un grupo de CloudWatch registros de Amazon Logs, en un bucket de Amazon Simple Storage Service (Amazon S3) o en ambos. Tener los datos de registro en CloudWatch Logs le ayuda a crear filtros de métricas, alarmas y paneles personalizados. Amazon S3 es ideal para replicar datos en Regiones de AWS o para almacenamiento a largo plazo, según lo regido por las políticas de su organización.

Este patrón proporciona una AWS CloudFormation plantilla de ejemplo que utiliza un enfoque de infraestructura como código (IaC) para configurar el registro de invocaciones de modelos para Amazon Bedrock. La plantilla configura el almacenamiento de CloudWatch registros tanto en Logs como en Amazon S3.

Requisitos previos y limitaciones

Requisitos previos 

  • Un activo Cuenta de AWS

  • Los siguientes permisos:

    • Permisos para crear CloudFormation pilas

    • Permisos para acceder a Amazon Bedrock

    • Permisos para crear buckets de Amazon S3 y acceder a ellos

    • Permisos para crear grupos de CloudWatch registros y acceder a ellos

    • Permisos para crear AWS Lambda funciones y acceder a ellas

    • Permisos para crear claves y acceder a AWS Key Management Service ellas AWS KMS

Limitaciones

Este patrón registra las invocaciones de modelos tanto en CloudWatch Logs como en Amazon S3. No permite elegir solo uno de estos dos servicios.

Arquitectura

Arquitectura de destino

La CloudFormation plantilla proporciona los siguientes recursos en su destino Cuenta de AWS:

  • Un grupo CloudWatch de registros para almacenar los registros de invocación de modelos

  • Un bucket de Amazon S3 para almacenar registros de invocaciones de modelos y una política de bucket correspondiente

  • Un bucket de Amazon S3 para almacenar registros de acceso del lado de servidor y una política de bucket correspondiente

  • AWS Lambda Función que configura los ajustes de registro en Amazon Bedrock

  • Un alias AWS KMS key clave y su correspondiente

  • Un rol de servicio AWS Identity and Access Management (IAM) para Amazon Bedrock

El siguiente diagrama muestra cómo se almacenan los registros de invocación después de implementar la CloudFormation pila asociada a este patrón. Amazon Bedrock publica datos de registro cuando el modelo básico entrega texto, una imagen, un video o datos incrustados. Como se muestra en el diagrama, los buckets de Amazon S3 y el grupo de CloudWatch registros Logs se cifran con un AWS KMS key.

Flujo de trabajo para registrar las invocaciones de un modelo básico de Amazon Bedrock.

En el diagrama, se muestra el siguiente flujo de trabajo:

  1. Un usuario envía una consulta a un modelo básico en Amazon Bedrock.

  2. Amazon Bedrock asume el rol de servicio de IAM.

  3. Amazon Bedrock genera datos de registro y los almacena en un grupo de CloudWatch registros y en un bucket de Amazon S3.

  4. Si un usuario lee, carga o elimina cualquier archivo del bucket de Amazon S3 que contenga los registros de invocación del modelo, esas actividades se registran en otro bucket de Amazon S3 para los registros de acceso del lado del servidor.

Automatización y escala

Para escalar esta solución, puede implementar la CloudFormation plantilla como una pila configurada en varios Regiones de AWS y Cuentas de AWS. Para obtener más información, consulte Administrar pilas en todas las cuentas y regiones StackSets en la CloudFormation documentación.

Tools (Herramientas)

Servicios de AWS

  • Amazon Bedrock es un servicio totalmente gestionado que pone a su disposición modelos básicos de alto rendimiento (FMs) de las principales empresas de IA y Amazon a través de una API unificada.

  • AWS CloudFormationle ayuda a configurar AWS los recursos, aprovisionarlos de forma rápida y coherente y gestionarlos a lo largo de su ciclo de vida en Cuentas de AWS todo el mundo. Regiones de AWS

  • Amazon CloudWatch Logs le ayuda a centralizar los registros de todos sus sistemas y aplicaciones Servicios de AWS para que pueda supervisarlos y archivarlos de forma segura.

  • AWS Identity and Access Management (IAM) le ayuda a administrar de forma segura el acceso a sus AWS recursos al controlar quién está autenticado y autorizado a usarlos.

  • AWS Lambda es un servicio de computación que ayuda a ejecutar código sin necesidad de aprovisionar ni administrar servidores. Ejecuta el código solo cuando es necesario y amplía la capacidad de manera automática, por lo que solo pagará por el tiempo de procesamiento que utilice.

  • AWS Key Management Service (AWS KMS) le ayuda a crear y controlar claves criptográficas para proteger sus datos.

  • Amazon Simple Storage Service (Amazon S3) es un servicio de almacenamiento de objetos que ofrece escalabilidad, disponibilidad de datos, seguridad y rendimiento líderes del sector.

Otras herramientas

  • Git es un sistema de control de versiones distribuido y de código abierto.

Repositorio de código

El código de este patrón está disponible en el repositorio GitHub enable-bedrock-logging-using-cloudformation.

Epics

TareaDescripciónHabilidades requeridas

Descarga la CloudFormation plantilla.

Descarga la CloudFormation plantilla del GitHub repositorio.

Arquitecto de la nube

Implemente la plantilla.

Cree una pila en su cuenta y región de destino. En la sección Parámetros, especifique los valores para los parámetros que se definen en la plantilla. Para obtener instrucciones, consulte Crear una pila en la CloudFormation documentación.

Arquitecto de la nube
TareaDescripciónHabilidades requeridas

Habilite el acceso a modelos.

En Amazon Bedrock, añada el acceso a los modelos básicos. Para obtener instrucciones, consulte Adición o eliminación del acceso a los modelos básicos de Amazon Bedrock en la documentación de Amazon Bedrock.

Arquitecto de la nube

Ejecute una petición de muestra.

En el área de pruebas de Amazon Bedrock, ejecute una petición de ejemplo. Para obtener instrucciones, consulte Generación de respuestas en la consola mediante áreas de pruebas la documentación de Amazon Bedrock.

Arquitecto de la nube

Revise la configuración de registro.

  1. Inicie sesión en la consola de Amazon Bedrock.

  2. En la barra de navegación, elige el Región de AWS lugar donde has desplegado la CloudFormation pila.

  3. En el panel de navegación de la izquierda, en Configuraciones de Bedrock, elija Configuración.

  4. Confirme lo siguiente:

    • El registro de invocación de modelos está habilitado.

    • Se seleccionan todos los tipos de datos.

    • Para los destinos de registro, selecciona tanto S3 como CloudWatch Logs.

Arquitecto de la nube

Revise el bucket de Amazon S3:

  1. En la sección Configuraciones de S3, elija Examinar S3. Esto abre el bucket de destino en la consola de Amazon S3.

  2. Confirme que los datos de registro estén presentes en la petición de ejemplo que ejecutó anteriormente.

Arquitecto de la nube

Revise el grupo de registros.

  1. Vuelva a la página Configuración en la consola de Amazon Bedrock.

  2. En la sección de configuraciones de CloudWatch registros, revise la configuración del grupo de CloudWatch registros. Anote el nombre del grupo de registros.

  3. Abra la consola de CloudWatch .

  4. En el panel de navegación, en Registros, seleccione Grupos de registros.

  5. Elija el nombre del grupo de registros en el que Amazon Bedrock publica los datos del registro.

  6. Confirme que los datos de registro estén presentes en la petición de ejemplo que ejecutó anteriormente.

Arquitecto de la nube

Recursos relacionados

AWS documentación

AWS publicaciones de blog