Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
CI/CD y automatización para una IA sin servidores
En el desarrollo de software tradicional, la integración y el despliegue continuos (CI/CD) enables teams to test and release changes rapidly and safely. In serverless AI systems, CI/CDse vuelven aún más críticos) debido a la naturaleza efímera y basada en eventos de los servicios y al comportamiento volátil de los modelos e indicaciones de la IA.
Desde la infraestructura (por ejemplo AWS Lambda, Amazon API Gateway y los agentes de Amazon Bedrock) hasta la lógica (por ejemplo, las indicaciones, los flujos de RAG y las configuraciones de las herramientas de los agentes), todo debe estar versionado y probado. Luego, estos componentes deben implementarse de manera uniforme en todos los entornos.
Sin implementar CI/CD prácticas, las organizaciones se enfrentan a los siguientes riesgos:
-
Los errores humanos aumentan debido a los cambios manuales AWS Identity and Access Management (IAM) o rápidos.
-
Los cambios en el modelo y la infraestructura se producen en los distintos development/test/production entornos.
-
Probar los cuellos de botella ralentiza la innovación.
-
Las actualizaciones no validadas crean un riesgo de tiempo de inactividad o cambios de comportamiento.
Capacidades de CI/CD en la IA sin servidor
La CI/CD ofrece las siguientes capacidades y las ventajas asociadas en la IA sin servidor:
-
Control seguro de versiones de los agentes y de las solicitudes: las solicitudes y los cambios en la configuración de los agentes se someten a procesos de revisión, prueba y aprobación.
-
Reproducibilidad de la infraestructura: la infraestructura como código (IaC) utiliza AWS Cloud Development Kit (AWS CDK) o AWS CloudFormation ayuda a garantizar que los entornos sean idénticos en todas las etapas.
-
Pruebas integradas: realice pruebas rápidas, valide esquemas y comprobaciones de seguridad antes de la implementación.
-
Aprobaciones de despliegue automatizadas: utilice barreras para la promoción de la producción, incluidas las revisiones manuales y las métricas automatizadas.
-
Reversión y auditoría: las versiones etiquetadas permiten una rápida reversión y un seguimiento del cumplimiento.
-
Actualizaciones frecuentes y de bajo riesgo: permiten ciclos de iteración rápidos para aplicaciones de modelos de lenguaje (LLM) de gran tamaño y ajustes rápidos.
CI/CD Flujo de trabajo típico para proyectos de IA sin servidor
Una CI/CD cartera integral de proyectos de IA sin servidor consta de varias etapas. La siguiente lista describe cada etapa de un CI/CD flujo de trabajo típico, incluidas las acciones asociadas y ejemplos de herramientas:
-
Confirmación rápida y de código: el desarrollador envía a Git el texto actualizado de una función AWS CDK , código o mensaje de Lambda mediante herramientas GitHub como o. GitLab
-
Compila y borra: valida la sintaxis, el formato de las solicitudes y la alineación del esquema mediante herramientas como ESLint
for JavaScript Python yamllint , Black for y validadores de solicitudes personalizados. -
Pruebas unitarias y regresión rápida: ejecute pruebas unitarias y lógicas locales y pruebas de respuesta rápida mediante el uso de pytest
, promptfoo y dispositivos personalizados. -
Validación IaC: sintetice y valide y utilizando AWS CDK y CloudFormationtemplates .
cdk synthcfn–lint -
Prueba de integración: implemente en modo provisional e invoque todo el flujo de trabajo (por ejemplo, la carga de Amazon S3 a un agente de Amazon Bedrock) mediante agentes AWS CodeBuild simulados.
-
Aprobación manual o automática: revise la lista de verificación del impacto en los costos y la aprobación del modelo (por ejemplo, un cambio rápido) mediante AWS CodePipeline GitHub las puertas de acciones.
-
Implemente en producción: promueva pilas, actualice las configuraciones de los agentes de Amazon Bedrock y publique solicitudes mediante AWS CodeDeploy AWS CDK, y la interfaz de línea de AWS SAM comandos (CLI).
-
Prueba de humo posterior a la implementación: valide los resultados de los agentes de producción, la captura de registros y la preparación para la reversión mediante Amazon CloudWatch Synthetics y pruebe Lambda.
-
Supervise y observe: cree automáticamente paneles, alertas de costos y monitores de uso de tokens mediante registros de tokens de CloudWatch Amazon Bedrock (mediante CloudWatch) y. AWS X-Ray
CI/CD para avisos y agentes de Amazon Bedrock
Las configuraciones de Prompt y Amazon Bedrock Agent requieren un manejo especial en el proceso de CI/CD:
-
Trate las solicitudes como activos versionados en el control de código fuente (por ejemplo,).
/prompts/v1/agent-support-en.yaml -
Incluya mensajes en los casos de prueba de oro automatizados.
-
Implemente las configuraciones de los agentes de Amazon Bedrock (incluidas las herramientas, las instrucciones y la base de conocimientos URIs) mediante plantillas de IaC.
-
Implemente las actualizaciones de los agentes de Amazon Bedrock solo cuando:
-
Se aprueban las pruebas de regresión rápida.
-
Los permisos de las herramientas coinciden con las plantillas de IAM.
-
Los umbrales de confianza o los resultados Lambda de validación cumplen con los criterios aceptables.
-
Este enfoque evita una degradación rápida y silenciosa y garantiza un comportamiento generativo y repetible de la IA en la producción.
Integración con canalizaciones AgentCore CI/CD
Amazon Bedrock AgentCore amplía la CI/CD automatización tradicional al introducir un entorno de ejecución y memoria gestionados para la implementación, las pruebas y la evolución de los agentes. Las canalizaciones actuales sin servidor automatizan el empaquetado y la implementación del código de los agentes (por ejemplo, mediante AWS CodePipeline AWS CodeBuild, o). AWS CDK Sin embargo, AgentCore se integra directamente en este proceso para gestionar el estado de los agentes, la memoria y los conectores de las herramientas como parte del ciclo de vida de la implementación.
Los puntos clave de integración AgentCore con CI/CD las canalizaciones son los siguientes:
-
Registro y control de versiones en tiempo de ejecución: cada agente desplegado se puede registrar en AgentCore Runtime, que se encarga del escalado, el enrutamiento y la organización del ciclo de vida. Este enfoque reemplaza la necesidad de mantener registros personalizados o una lógica de descubrimiento de servicios en los flujos de trabajo de CI/CD.
-
Instantáneas de memoria y promoción: durante las pruebas automatizadas, AgentCore puede conservar las instantáneas de la memoria de los agentes, incluidos el contexto o el estado aprendidos, y promocionarlas junto con los artefactos de código a lo largo del proceso. Esta capacidad permite la continuidad del contexto entre los entornos de desarrollo, puesta en escena y producción.
-
Gestión de la configuración de herramientas: con las herramientas de AgentCore Gateway, los equipos pueden definir puntos de integración con otros Servicios de AWS (por ejemplo, Amazon DynamoDB, Amazon S3, Amazon FMs Bedrock o EventBridge Amazon) de forma declarativa dentro de la misma canalización. Esta capacidad de administración de la configuración ayuda a proporcionar una configuración de acceso coherente y auditable.
-
La observabilidad mejora la validación: AgentCore presenta la telemetría integrada para la ejecución de los agentes, lo que permite a las canalizaciones de CI/CD validar automáticamente las métricas de rendimiento, calidad del razonamiento y conformidad antes de la implementación.
Una CodePipeline implementación puede constar de los siguientes pasos:
-
Cree un nuevo código de agente utilizando CodeBuild.
-
Implemente el agente en AgentCore Runtime para su ejecución.
-
Ejecute pruebas de integración automatizadas que usen AgentCore la memoria para conservar y comparar el estado de las distintas ejecuciones.
-
Promueva las compilaciones exitosas hasta la fase de producción y actualice AgentCore los registros para su detección y organización.
Servicios de AWS para herramientas CI/CD
La siguiente CI/CD implementación de Servicios de AWS soporte para la IA sin servidor:
-
AWS CodePipelineproporciona funciones de end-to-end canalización para el código, las solicitudes y la infraestructura.
-
AWS CodeBuildejecuta pruebas, borrones y validaciones.
-
AWS CDKy CloudFormation, además HashiCorp Terraform
(una herramienta de terceros), define la infraestructura, los agentes, los permisos y los flujos de trabajo. -
Amazon S3 almacena plantillas de agentes y archivos de solicitudes versionados.
-
La API y la CLI de Amazon Bedrock registran las solicitudes y las definiciones de los agentes de forma dinámica.
-
CloudWatch Synthetics realiza sondeos posteriores al despliegue y valida la confianza.
-
Lambda @Edge y Amazon se EventBridge activan a CI/CD partir de eventos monitoreados, como la desviación y el error de implementación.
Resumen CI/CD y automatización
La CI/CD no es solo una buena práctica, sino una necesidad para escalar sistemas de IA seguros y confiables. Gracias a su rapidez de sensibilidad, a la autonomía de las herramientas y a la complejidad de la infraestructura, la automatización ofrece varias ventajas importantes:
-
Ciclos de innovación más rápidos con menos riesgos
-
Actualizaciones gobernables y auditables
-
Entornos estables en todos los equipos y regiones
-
Pruebas integradas de lógica y lenguaje
Al estar AgentCore integrado en CI/CD las canalizaciones, el despliegue de los agentes pasa de la entrega de código a la entrega continua de capacidades. El razonamiento, la memoria y el estado se convierten en activos desplegables de primera clase en los sistemas modernos de IA sin servidor.
Al aplicar DevOps los principios a las arquitecturas nativas de la IA, las empresas pueden llevar la IA a la producción de manera responsable, rápida y a gran escala.
