Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
CI/CD und Automatisierung für serverlose KI
Bei der herkömmlichen Softwareentwicklung CI/CD) enables teams to test and release changes rapidly and safely. In serverless AI systems, CI/CD wird die kontinuierliche Integration und Bereitstellung (aufgrund der kurzlebigen, ereignisgesteuerten Natur von Diensten und des volatilen Verhaltens von KI-Modellen und -Eingabeaufforderungen) noch wichtiger.
Von der Infrastruktur (z. B. AWS Lambda Amazon API Gateway und Amazon Bedrock-Agenten) bis hin zur Logik (z. B. Eingabeaufforderungen, RAG-Flows und Agententoolkonfigurationen) muss alles versioniert und getestet werden. Anschließend sollten diese Komponenten konsistent in allen Umgebungen eingesetzt werden.
Ohne die Implementierung von CI/CD Praktiken sind Unternehmen den folgenden Risiken ausgesetzt:
-
Menschliche Fehler nehmen aufgrund manueller AWS Identity and Access Management (IAM) oder zeitnaher Änderungen zu.
-
Modell- und Infrastrukturabweichungen treten in allen development/test/production Umgebungen auf.
-
Durch das Testen von Engpässen wird Innovation gebremst.
-
Unvalidierte Updates bergen das Risiko von Ausfallzeiten oder Verhaltensänderungen.
CI/CD-Funktionen in serverloser KI
CI/CD bietet die folgenden Funktionen und die damit verbundenen Vorteile bei serverloser KI:
-
Sichere Eingabeaufforderung und Agent-Versionierung — Eingabeaufforderungen und Änderungen an der Agentenkonfiguration durchlaufen Überprüfungs-, Test- und Genehmigungsprozesse.
-
Reproduzierbarkeit der Infrastruktur — Infrastructure as Code (IaC) verwendet AWS Cloud Development Kit (AWS CDK) oder AWS CloudFormation hilft sicherzustellen, dass Umgebungen stufenübergreifend identisch sind.
-
Integriertes Testen — Führen Sie vor der Bereitstellung Prompt-Tests, Schemavalidierung und Sicherheitsprüfungen durch.
-
Automatisierte Bereitstellungsgenehmigungen — Verwenden Sie Leitplanken für die Produktionsförderung, einschließlich manueller Überprüfungen und automatisierter Metriken.
-
Rollback und Audit — Getaggte Versionen ermöglichen ein schnelles Rollback und die Rückverfolgbarkeit der Einhaltung von Vorschriften.
-
Häufige Updates mit geringem Risiko — Ermöglicht schnelle Iterationszyklen für umfangreiche Sprachmodellanwendungen (LLM) und eine schnelle Optimierung.
Typischer CI/CD Arbeitsablauf für serverlose KI-Projekte
Eine umfassende CI/CD Pipeline für serverlose KI-Projekte umfasst mehrere Phasen. Die folgende Liste beschreibt jede Phase eines typischen CI/CD Workflows, einschließlich der zugehörigen Aktionen und Beispieltools:
-
Code- und Prompt-Commit — Der Entwickler überträgt aktualisierte Lambda-Funktionen, AWS CDK Codes oder Eingabeaufforderungstexte mithilfe von Tools wie GitHub oder an Git. GitLab
-
Build and Lint — Überprüfen Sie Syntax, Eingabeaufforderungsformat und Schemaausrichtung mithilfe von Tools wie ESLint
for JavaScript Python yamllint , Black for und benutzerdefinierten Prompt-Validatoren. -
Komponententests und Prompt-Regression — Führen Sie lokale Logik- und Komponententests sowie Golden Prompt-Response-Tests mithilfe von pytest
,, promptfoo und benutzerdefinierten Fixtures durch. -
IaC-Validierung — Synthetisieren und validieren AWS CDK und mithilfe von und. CloudFormationtemplates
cdk synthcfn–lint -
Integrationstest — Bereitstellen im Staging und Aufrufen des vollständigen Workflows (z. B. Amazon S3 S3-Upload auf Amazon Bedrock-Agenten), indem Agenten verwendet AWS CodeBuild und verspottet werden.
-
Manuelle oder auto Genehmigung — Überprüfen Sie die Checkliste für die Auswirkungen auf die Modellkosten und die Genehmigung (z. B. sofortige Änderung) mithilfe von AWS CodePipeline oder GitHub Actions-Gates.
-
Bereitstellung in der Produktion — Bewerben Sie Stacks, aktualisieren Sie Amazon Bedrock-Agentenkonfigurationen und veröffentlichen Sie Eingabeaufforderungen mithilfe von AWS CodeDeploy AWS CDK, und der AWS SAM Befehlszeilenschnittstelle (CLI).
-
Rauchtest nach der Bereitstellung — Überprüfen Sie die Ausgaben der Produktionsagenten, die Protokollerfassung und die Rollback-Bereitschaft mithilfe von Amazon CloudWatch Synthetics und testen Sie Lambda.
-
Überwachen und beobachten — Automatische Erstellung von Dashboards, Kostenwarnungen und Token-Nutzungsmonitoren mithilfe CloudWatch von Amazon Bedrock-Token-Protokollen (durch CloudWatch) und. AWS X-Ray
CI/CD für Eingabeaufforderungen und Amazon Bedrock-Agenten
Prompt- und Amazon Bedrock-Agentenkonfigurationen erfordern eine besondere Behandlung im CI/CD-Prozess:
-
Behandeln Sie Eingabeaufforderungen in der Quellcodeverwaltung als versionierte Ressourcen (z. B.).
/prompts/v1/agent-support-en.yaml -
Fügen Sie Eingabeaufforderungen in automatisierte goldene Testfälle ein.
-
Stellen Sie Amazon Bedrock Agentenkonfigurationen (einschließlich Tools, Anweisungen und Wissensdatenbank URIs) mithilfe von IaC-Vorlagen bereit.
-
Stellen Sie Amazon Bedrock Agenten-Updates nur bereit, wenn:
-
Die Regressionstests werden umgehend bestanden.
-
Die Toolberechtigungen entsprechen den IAM-Vorlagen.
-
Konfidenzschwellen oder Validierung Lambda-Ergebnisse erfüllen akzeptable Kriterien.
-
Dieser Ansatz verhindert eine unauffällige Beeinträchtigung bei sofortiger Eingabe und gewährleistet ein wiederholbares generatives KI-Verhalten in der Produktion.
Integration AgentCore mit Pipelines CI/CD
Amazon Bedrock AgentCore erweitert die traditionelle CI/CD Automatisierung durch die Einführung einer verwalteten Laufzeit- und Speicherstruktur für die Bereitstellung, das Testen und die Weiterentwicklung von Agenten. Aktuelle serverlose Pipelines automatisieren die Paketierung und Bereitstellung von Agentencode (z. B. durch AWS CodePipeline AWS CodeBuild, oder). AWS CDK AgentCore Lässt sich jedoch direkt in diesen Prozess integrieren, um Agentenstatus, Arbeitsspeicher und Tool-Konnektoren als Teil des Bereitstellungszyklus zu verwalten.
Die wichtigsten Integrationspunkte von AgentCore CI/CD Pipelines sind die folgenden:
-
Laufzeitregistrierung und Versionierung — Jeder bereitgestellte Agent kann bei AgentCore Runtime registriert werden, das für Skalierung, Routing und Lebenszyklus-Orchestrierung zuständig ist. Dieser Ansatz ersetzt die Notwendigkeit, benutzerdefinierte Registrierungen oder Service-Discovery-Logik in CI/CD-Workflows zu verwalten.
-
Speicher-Snapshots und Heraufstufung — Während automatisierter Tests AgentCore können Agenten-Speicher-Snapshots, einschließlich des erlernten Kontextes oder Zustands, dauerhaft gespeichert und zusammen mit Codeartefakten über die Pipeline weitergeleitet werden. Diese Funktion ermöglicht die Kontextkontinuität zwischen Entwicklungs-, Staging- und Produktionsumgebungen.
-
Verwaltung der Tools-Konfiguration — Mithilfe von AgentCore Gateway-Tools können Teams Integrationspunkte mit anderen AWS-Services (z. B. Amazon DynamoDB, Amazon S3, Amazon Bedrock FMs oder Amazon EventBridge) deklarativ innerhalb derselben Pipeline definieren. Diese Funktion zur Konfigurationsverwaltung trägt zur Bereitstellung einer konsistenten und überprüfbaren Zugriffskonfiguration bei.
-
Observability-Hooks zur Validierung — AgentCore stellt integrierte Telemetrie für die Ausführung von Agenten zur Verfügung, sodass CI/CD-Pipelines vor der Bereitstellung automatisch Kennzahlen zu Leistung, Argumentation, Qualität und Konformität überprüfen können.
Eine CodePipeline Bereitstellung kann aus den folgenden Schritten bestehen:
-
Erstellen Sie neuen Agentencode mit CodeBuild.
-
Stellen Sie den Agenten zur Ausführung in AgentCore Runtime bereit.
-
Führen Sie automatisierte Integrationstests durch, die AgentCore Speicher verwenden, um den Status der einzelnen Läufe beizubehalten und zu vergleichen.
-
Bringen Sie erfolgreiche Builds in die Produktion und aktualisieren AgentCore Sie gleichzeitig die Registrierungen zur Erkennung und Orchestrierung.
AWS-Services für den Werkzeugbau CI/CD
Die folgende AWS-Services CI/CD Unterstützungsimplementierung für serverlose KI:
-
AWS CodePipelinebietet end-to-end Pipeline-Funktionen für Code, Eingabeaufforderungen und Infrastruktur.
-
AWS CodeBuildführt Tests, Linting und Validierung durch.
-
AWS CDKund CloudFormationdefiniert HashiCorp Terraform
(ein Drittanbieter-Tool) Infrastruktur, Agenten, Berechtigungen und Workflows. -
Amazon S3 speichert versionierte Eingabeaufforderungsdateien und Agentenvorlagen.
-
Amazon Bedrock API und CLI registrieren Aufforderungen und Agentendefinitionen dynamisch.
-
CloudWatch Synthetics führt nach dem Einsatz Sonden und Zuverlässigkeitsvalidierungen durch.
-
Lambda @Edge und Amazon werden CI/CD durch überwachte Ereignisse wie Drift und Bereitstellungsfehler EventBridge ausgelöst.
Zusammenfassung von CI/CD und Automatisierung
CI/CD ist nicht nur eine bewährte Methode, sondern auch eine Notwendigkeit für die Skalierung sicherer und zuverlässiger KI-Systeme. Angesichts der schnellen Sensitivität, der Autonomie der Tools und der Komplexität der Infrastruktur bietet die Automatisierung mehrere wichtige Vorteile:
-
Schnellere Innovationszyklen bei geringerem Risiko
-
Regelbare und überprüfbare Updates
-
Stabile Umgebungen in allen Teams und Regionen
-
Integriertes Testen von Logik und Sprache
AgentCore Durch die Integration in CI/CD Pipelines entwickelt sich die Bereitstellung von Agenten von der Codebereitstellung zur kontinuierlichen Bereitstellung von Funktionen. Argumentation, Speicher und Status werden in modernen serverlosen KI-Systemen zu erstklassigen, einsatzfähigen Ressourcen.
Durch die Anwendung von DevOps Prinzipien auf KI-native Architekturen können Unternehmen KI verantwortungsbewusst, schnell und in großem Umfang in die Produktion bringen.
