Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
CI/CD et automatisation pour l'IA sans serveur
Dans le développement logiciel traditionnel, l'intégration et le déploiement continus (CI/CD) enables teams to test and release changes rapidly and safely. In serverless AI systems, CI/CDdeviennent encore plus critiques en raison de la nature éphémère et événementielle des services) et du comportement volatil des modèles et des instructions d'IA.
De l'infrastructure (par exemple AWS Lambda, Amazon API Gateway et les agents Amazon Bedrock) à la logique (par exemple, les invites, les flux RAG et les configurations des outils des agents), tout doit être versionné et testé. Ces composants doivent ensuite être déployés de manière cohérente dans tous les environnements.
Sans mise en œuvre de CI/CD pratiques, les organisations sont confrontées aux risques suivants :
-
Les erreurs humaines augmentent en raison de modifications manuelles Gestion des identités et des accès AWS (IAM) ou rapides.
-
La dérive du modèle et de l'infrastructure se produit d'un development/test/production environnement à l'autre.
-
Les tests freinent l'innovation.
-
Les mises à jour non validées présentent un risque d'indisponibilité ou de modification des comportements.
Fonctionnalités CI/CD dans l'IA sans serveur
Le CI/CD fournit les fonctionnalités suivantes et les avantages associés à l'IA sans serveur :
-
Gestion sécurisée des commandes et des versions des agents : les invites et les modifications de configuration des agents sont soumises à des processus de révision, de test et d'approbation.
-
Reproductibilité de l'infrastructure — L'infrastructure en tant que code (IaC) utilise AWS Cloud Development Kit (AWS CDK) ou AWS CloudFormation contribue à garantir que les environnements sont identiques d'une étape à l'autre.
-
Tests intégrés — Exécutez des tests rapides, validez le schéma et vérifiez la sécurité avant le déploiement.
-
Approbations de déploiement automatisées : utilisez des garde-fous pour la promotion de la production, notamment une révision manuelle et des mesures automatisées.
-
Annulation et audit : les versions étiquetées permettent une rétrogradation rapide et une traçabilité de conformité.
-
Mises à jour fréquentes et peu risquées : permettent des cycles d'itération rapides pour les applications de grands modèles de langage (LLM) et un réglage rapide.
CI/CD Flux de travail typique pour les projets d'IA sans serveur
Un CI/CD pipeline complet pour les projets d'IA sans serveur comporte plusieurs étapes. La liste suivante décrit chaque étape d'un CI/CD flux de travail classique, y compris les actions associées et des exemples d'outils :
-
Code et validation rapide : le développeur envoie une fonction AWS CDK , un code ou un texte d'invite Lambda mis à jour à Git à l'aide d'outils GitHub tels que ou. GitLab
-
Build and lint : validez la syntaxe, le format d'invite et l'alignement du schéma à l'aide d'outils tels que ESLint
for JavaScript Python yamllint , Black for et de validateurs d'invite personnalisés. -
Tests unitaires et régression rapide — Exécutez des tests logiques et unitaires locaux et des tests de réponse rapide en utilisant pytestpromptfoo
, et des montages personnalisés. -
Validation IaC — Synthétisez et validez AWS CDK et en CloudFormationtemplates utilisant
cdk synthetcfn–lint. -
Test d'intégration — Déployez pour préparer et invoquer le flux de travail complet (par exemple, le téléchargement d'Amazon S3 vers l'agent Amazon Bedrock) en utilisant AWS CodeBuild des agents simulés.
-
Approbation manuelle ou automatique : passez en revue l'impact du modèle sur les coûts et la liste de contrôle d'approbation (par exemple, changement rapide) en utilisant GitHub les portes AWS CodePipeline ou Actions.
-
Déploiement en production : promouvez les piles, mettez à jour les configurations des agents Amazon Bedrock et publiez des instructions à l'aide de AWS CodeDeploy AWS CDK, et de l'interface de ligne de AWS SAM commande (CLI).
-
Test de fumée après le déploiement : validez les sorties des agents de production, la capture des journaux et le niveau de préparation au rollback à l'aide d'Amazon CloudWatch Synthetics et testez Lambda.
-
Surveiller et observer — Créez automatiquement des tableaux de bord, des alertes de coûts et des moniteurs d'utilisation des jetons en utilisant les journaux de jetons CloudWatch Amazon Bedrock (via CloudWatch) et. AWS X-Ray
CI/CD pour les invites et les agents Amazon Bedrock
Les configurations des agents Prompt et Amazon Bedrock nécessitent un traitement spécial dans le cadre du processus CI/CD :
-
Traitez les invites comme des ressources versionnées dans le contrôle de source (par exemple,
/prompts/v1/agent-support-en.yaml). -
Incluez des instructions dans les scénarios de test dorés automatisés.
-
Déployez les configurations des agents Amazon Bedrock (y compris les outils, les instructions et la base de connaissances URIs) à l'aide de modèles IaC.
-
Déployez les mises à jour de l'agent Amazon Bedrock uniquement lorsque :
-
Les tests de régression rapides sont réussis.
-
Les autorisations des outils correspondent aux modèles IAM.
-
Les seuils de confiance ou les résultats Lambda de validation répondent à des critères acceptables.
-
Cette approche empêche une dégradation rapide et silencieuse et garantit un comportement reproductible de l'IA générative en production.
Intégration AgentCore aux CI/CD pipelines
Amazon Bedrock AgentCore étend CI/CD l'automatisation traditionnelle en introduisant un environnement d'exécution géré et une structure de mémoire pour le déploiement, les tests et l'évolution des agents. Les pipelines sans serveur actuels automatisent l'empaquetage et le déploiement du code de l'agent (par exemple AWS CodePipeline, via AWS CodeBuild, ou AWS CDK). Toutefois, il AgentCore s'intègre directement à ce processus pour gérer l'état des agents, la mémoire et les connecteurs d'outils dans le cadre du cycle de vie du déploiement.
Les principaux points d'intégration AgentCore avec les CI/CD pipelines sont les suivants :
-
Enregistrement du runtime et gestion des versions : chaque agent déployé peut être enregistré auprès de AgentCore Runtime, qui gère le dimensionnement, le routage et l'orchestration du cycle de vie. Cette approche remplace la nécessité de maintenir des registres personnalisés ou une logique de découverte de services dans les flux de travail CI/CD.
-
Instantanés de mémoire et promotion : lors des tests automatisés, AgentCore vous pouvez conserver les instantanés de mémoire de l'agent, y compris le contexte ou l'état appris, et les promouvoir aux côtés des artefacts de code tout au long du pipeline. Cette fonctionnalité permet la continuité du contexte entre les environnements de développement, de préparation et de production.
-
Gestion de la configuration des outils : à l'aide des outils AgentCore Gateway, les équipes peuvent définir des points d'intégration avec d'autres Services AWS (par exemple, Amazon DynamoDB, Amazon S3, Amazon FMs Bedrock ou EventBridge Amazon) de manière déclarative au sein du même pipeline. Cette fonctionnalité de gestion de configuration permet de fournir une configuration d'accès cohérente et vérifiable.
-
L'observabilité favorise la validation : AgentCore expose la télémétrie intégrée pour l'exécution des agents, permettant aux pipelines CI/CD de valider automatiquement les performances, la qualité du raisonnement et les indicateurs de conformité avant le déploiement.
Un CodePipeline déploiement peut comprendre les étapes suivantes :
-
Créez un nouveau code d'agent à l'aide de CodeBuild.
-
Déployez l'agent sur AgentCore Runtime pour exécution.
-
Exécutez des tests d'intégration automatisés qui utilisent AgentCore la mémoire pour conserver et comparer l'état entre les exécutions.
-
Promouvez les builds réussis en production tout en mettant à jour les AgentCore registres à des fins de découverte et d'orchestration.
Services AWS pour CI/CD outillage
La CI/CD mise en œuvre de Services AWS support suivante pour l'IA sans serveur :
-
AWS CodePipelinefournit des fonctionnalités de end-to-end pipeline pour le code, les instructions et l'infrastructure.
-
AWS CodeBuildexécute des tests, du linting et de la validation.
-
AWS CDKet CloudFormation, en plus HashiCorp Terraform
(un outil tiers), définissez l'infrastructure, les agents, les autorisations et les flux de travail. -
Amazon S3 stocke les fichiers d'invite versionnés et les modèles d'agents.
-
L'API et la CLI Amazon Bedrock enregistrent les invites et les définitions d'agents de manière dynamique.
-
CloudWatch Synthetics effectue des sondes après le déploiement et des validations de confiance.
-
Lambda @Edge et Amazon se EventBridge déclenchent CI/CD à la suite d'événements surveillés tels que la dérive et l'échec du déploiement.
Résumé CI/CD et automatisation
La CI/CD n'est pas simplement une bonne pratique, c'est une nécessité pour développer des systèmes d'IA sûrs et fiables. Grâce à une sensibilité rapide, à l'autonomie des outils et à la complexité de l'infrastructure, l'automatisation offre plusieurs avantages importants :
-
Des cycles d'innovation plus rapides avec des risques réduits
-
Mises à jour contrôlables et contrôlables
-
Environnements stables au sein des équipes et des régions
-
Tests intégrés pour la logique et le langage
AgentCore Intégré aux CI/CD pipelines, le déploiement des agents passe de la livraison de code à la fourniture continue de capacités. Le raisonnement, la mémoire et l'état deviennent des actifs déployables de premier ordre dans les systèmes d'IA sans serveur modernes.
En appliquant des DevOps principes aux architectures natives basées sur l'IA, les entreprises peuvent intégrer l'IA à la production de manière responsable, rapide et à grande échelle.
