Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Schritt 3: Stellen Sie mithilfe des Assistenten für das Bereitstellungs-Dashboard einen Anwendungsfall bereit

Im Assistenten für das Bereitstellungs-Dashboard müssen Sie zwischen den folgenden Optionen wählen:

Zeigt fünf Optionen: Text-Anwendungsfall erstellen, Bedrock Agent-Anwendungsfall erstellen, MCP-Server-Anwendungsfall erstellen, Agent Builder-Anwendungsfall erstellen oder Workflow-Anwendungsfall erstellen.

Schritt 3a: Stellen Sie einen Text-Anwendungsfall bereit

Dieser Abschnitt enthält Anweisungen zur Bereitstellung eines Text-Anwendungsfalls.

Wählen Sie einen Anwendungsfall

Wenn Sie „Text-Anwendungsfall erstellen“ wählen, öffnet die Benutzeroberfläche den Bildschirm „Anwendungsfall auswählen“. Geben Sie die folgenden Informationen ein:

Details zu Anwendungsfällen

Im Schritt mit den Anwendungsfalldetails können Sie zusätzliche Einstellungen für Ihre Bereitstellung konfigurieren.

Standardmäßig erstellt und konfiguriert der Text-Anwendungsfall einen Amazon Cognito Cognito-Benutzerpool für Sie, wenn die Lösung das Deployment-Dashboard bereitstellt. Die Lösung authentifiziert neue Anwendungsfälle mit einem neu erstellten Client im selben Benutzerpool. Sie können in diesem Schritt jedoch eine bestehende Benutzerpool-ID und Client-ID angeben, wenn Sie Ihren eigenen Amazon Cognito Cognito-Benutzerpool und Client für den Anwendungsfall verwenden möchten.

Wählen Sie die Netzwerkkonfiguration

Mit diesem Assistentenschritt können Sie den Anwendungsfall mit einer bereits vorhandenen oder neuen Amazon Virtual Private Cloud (Amazon VPC) bereitstellen. Wenn Sie eine bereits vorhandene VPC auswählen, müssen Sie eine VPC-ID, bis zu 16 Subnetz-IDs und bis zu 5 Sicherheitsgruppen angeben, die mit dieser VPC verwendet werden IDs sollen. Wenn Sie keine bereits vorhandene VPC verwenden, werden diese Einstellungen für Sie konfiguriert.

Auswählen eines Modells

Im Schritt Modell auswählen können Sie Ihren Modellanbieter aus dem Drop-down-Menü auswählen. Es gibt zwei Optionen: Bedrock und. SageMaker

Wenn Sie sich dafür entscheiden SageMaker, können Sie in der AI-Konsole einen SageMaker KI-Modellendpunkt erstellen und das SageMaker Eingabeschema angeben, das das Modell JSONPath für die LLM-Antwort erwartet und ausgeben wird. Sie können sich den Abschnitt Amazon SageMaker AI als LLM-Anbieter verwenden und Beispiele für SageMaker KI-Nutzlasten im Repository der GitHub Lösung ansehen.

Wenn Sie Amazon Bedrock auswählen, werden Ihnen vier Optionen angeboten:

Im Schritt zur Modellauswahl können Sie auch Ihre erweiterten Modelleinstellungen auswählen. Einzelheiten zur Konfiguration von Amazon Bedrock Guardrails, zum bereitgestellten Durchsatz für Amazon Bedrock und zu zusätzlichen Modellparametern finden Sie unter Erweiterte LLM-Einstellungen.

Regionsübergreifende Inferenz

Regionsübergreifende Inferenz hilft Amazon Bedrock-Benutzern, ungeplante Datenverkehrsspitzen nahtlos zu bewältigen, indem sie Rechenleistung in verschiedenen AWS-Regionen nutzen. Um regionsübergreifende Inferenz verwenden zu können, benötigen Sie das Inferenzprofil. Ein Inferenzprofil ist eine Abstraktion über einen On-Demand-Ressourcenpool aus einer konfigurierten Gruppe von AWS-Regionen. Es kann Ihre Inferenzanfrage, die aus Ihrer Quellregion stammt, an eine andere Region weiterleiten, die in diesem Pool konfiguriert ist. Dies ermöglicht die Verteilung des Datenverkehrs auf mehrere AWS-Regionen. Dies trägt zu einem höheren Durchsatz und einer verbesserten Ausfallsicherheit in Zeiten hoher Anforderungen bei.

Inferenzprofile sind nach dem Modell und den Regionen benannt, die sie unterstützen. Sie müssen ein Inferenzprofil aus einer der Regionen aufrufen, die es enthält. Wie in der folgenden Tabelle dargestellt, us.anthropic.claude-3-haiku-20240307-v1:0 ermöglicht die ID des Inferenzprofils beispielsweise die Verteilung des Datenverkehrs auf us-east-1 verschiedene us-west-2 Regionen des ausgewählten Modells. Bestimmte Modelle sind nur mit einem Inferenzprofil in einer bestimmten Region verfügbar.

Wenn Sie eine Inferenzprofil-ID anstelle einer Modell-ID verwenden möchten, müssen Sie die entsprechende Inferenzprofil-ID identifizieren. Weitere Informationen finden Sie unter Unterstützte Regionen und Modelle für Inferenzprofile im Amazon Bedrock-Benutzerhandbuch. In der Amazon Bedrock-Konsole stellt die Option für regionsübergreifende Inferenzen im linken Navigationsmenü diese Inferenzprofile bereit. IDs

Nachdem Sie die zu verwendende Inferenzprofil-ID identifiziert haben, können Sie diese in der Phase Modell auswählen verwenden, indem Sie die folgenden Schritte ausführen:

Weitere Informationen zu Inferenzprofilen finden Sie unter Verbessern der Resilienz mit regionsübergreifender Inferenz im Amazon Bedrock-Benutzerhandbuch.

Wählen Sie die Wissensdatenbank aus

Wenn Sie einen Anwendungsfall ohne Retrieval Augmented Generation (RAG) implementieren möchten, können Sie diesen Schritt überspringen.

Wenn Sie RAG jedoch als Teil Ihrer Bereitstellung aktivieren möchten, können Sie jetzt entweder eine vorkonfigurierte Amazon Kendra Index-ID oder eine Amazon Bedrock Knowledge Base-ID angeben. Sie können auch einen neuen Amazon Kendra Index für die Verwendung mit der Lösung erstellen. Die Lösung unterstützt derzeit Amazon Kendra und Amazon Bedrock Knowledge Bases als Wissensdatenbanken für Ihre RAG-basierte Anwendungsfallbereitstellung.

Richtlinien zur Aufnahme von Daten in die Wissensdatenbank zur Verwendung mit Ihrer RAG-basierten Bereitstellung finden Sie im Abschnitt Konfiguration einer Wissensdatenbank.

Erweiterte RAG-Konfigurationen

Mit dem Assistenten können Sie erweiterte Optionen für Ihre RAG-Implementierung auswählen, z. B. die Anzahl der Dokumente, die jedes Mal abgerufen werden sollen, wenn eine Anfrage an Ihre Wissensdatenbank gesendet wird, eine statische Textantwort des LLM, wenn keine Dokumente in der Wissensdatenbank gefunden werden, ob Sie Dokumentquellen mit Ihrer LLM-Antwort für Plausibilitätsprüfungen anzeigen möchten usw. Sie können zusätzlich auch wissensdatenbankspezifische Konfigurationen für Amazon Kendra konfigurieren, z. B. Role-based Access Control (RBAC) oder Override Search Type, wenn Sie Amazon OpenSearch Serverless mit Amazon Bedrock Knowledge Bases verwenden. Weitere Informationen zu diesen erweiterten Einstellungen finden Sie im Abschnitt Erweiterte Knowledge Base-Einstellungen.

Wählen Sie Eingabeaufforderungen und Token-Limits

In diesem Schritt können Sie Ihre Aufforderung für die Verwendung mit dem LLM konfigurieren. Für Eingabeaufforderungen können Platzhalter wie{input}, und erforderlich sein. {history} {context} Diese Platzhalter weisen das LLM an, woher Benutzereingaben, Konversationsverlauf und aus der Wissensdatenbank abgerufene Informationen stammen sollen.

Weitere Informationen finden Sie unter Konfiguration Ihrer Eingabeaufforderungen. Bei der Auswahl der Token-Limits für Ihre Eingabeaufforderungen können Sie auch den Abschnitt Tipps zur Verwaltung von Modell-Token-Limits lesen.

Aktivieren Sie die multimodale Eingabe

In diesem Schritt können Sie multimodale Eingabefunktionen für Ihren Anwendungsfall aktivieren. Wenn diese Option aktiviert ist, können Benutzer Bilder und Dokumente zusammen mit ihren Textabfragen hochladen und senden.

Unterstützte Dateitypen und Einschränkungen:

So verwenden Sie multimodale Eingaben:

Verfolgung des Dateistatus:

DevOps Benutzer können Dateimetadaten in DynamoDB überwachen, einschließlich Uploadzeit und Verarbeitungsstatus. Dateien können den folgenden Status haben:

Dateien mit dem Status „Ausstehend“, die nie hochgeladen werden, werden automatisch bereinigt, wenn ihre TTL abläuft. Nur Dateien mit dem Status „Hochgeladen“ können vom Modell verarbeitet werden.

Der multimodale S3-Bucket und die DynamoDB-Metadatentabelle sind in den Ausgaben des Deployment Dashboards mit den Schlüsseln MultimodalDataBucketName bzw. MultimodalDataMetadataTable verfügbar.

Überprüfen und bereitstellen

Überprüfen Sie nach diesem Schritt die ausgewählten Einstellungen und wählen Sie „Anwendungsfall bereitstellen“. Der neue Anwendungsfall wird dann bereitgestellt und in Ihrer Bereitstellungs-Dashboard-Ansicht angezeigt, sodass Sie ihn weiter verwalten können.

Schritt 3b: Stellen Sie einen Bedrock Agent-Anwendungsfall bereit

Der Bedrock Agent-Anwendungsfall bietet einen leistungsstarken und sicheren Mechanismus zum Aufrufen von Amazon Bedrock Agents in Ihren Anwendungsfällen. Diese Funktion ermöglicht es Entwicklern, die Funktionen von KI-gestützten autonomen Agenten nahtlos zu integrieren, die mehrstufige Aufgaben über verschiedene Basismodelle, Datenquellen, Softwareanwendungen und Benutzerkonversationen hinweg orchestrieren und ausführen können, während gleichzeitig robuste Sicherheitsmaßnahmen eingehalten werden.

Voraussetzungen

Bevor Sie einen Amazon Bedrock-Agenten erstellen, stellen Sie sicher, dass Sie über Folgendes verfügen:

Einen Amazon Bedrock Agent erstellen

Detaillierte Anweisungen zur Erstellung eines Agenten finden Sie im Amazon Bedrock-Benutzerhandbuch unter Agenten manuell erstellen und konfigurieren. Sie können Optionen konfigurieren wie:

Nachdem Sie erfolgreich einen Amazon Bedrock-Agenten erstellt haben, können Sie mit dem Assistentenablauf für Generative AI Application Builder on AWS Bedrock Agent fortfahren. Wählen Sie dazu im Bereitstellungs-Dashboard die Option Neuen Anwendungsfall bereitstellen und anschließend Bedrock Agent-Anwendungsfall erstellen aus. Folgen Sie dem Assistenten und verwenden Sie die folgenden Schritte, um den Anwendungsfall zu konfigurieren.

Wählen Sie einen Anwendungsfall

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall.

Wählen Sie die Netzwerkkonfiguration

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall

Wählen Sie einen Agenten aus

In diesem Schritt müssen Sie die Agenten-ID und die Alias-ID des Amazon Bedrock-Agenten angeben, den Sie erstellt haben.

Schritt 3c: Implementieren Sie einen MCP-Server-Anwendungsfall

Der Anwendungsfall MCP (Model Context Protocol) Server ermöglicht Ihnen die Bereitstellung und Verwaltung von MCP-Servern, die in KI-Modelle und -Agenten integriert werden können. MCP-Server bieten eine standardisierte Möglichkeit, Tools, Ressourcen und Funktionen für KI-Anwendungen bereitzustellen. Sie können entweder MCP-Server aus vorhandenen Lambda-Funktionen erstellen und/oder benutzerdefinierte MCP-Server mithilfe von Container-Images hosten. APIs

Voraussetzungen

Stellen Sie vor der Bereitstellung eines MCP-Server-Anwendungsfalls sicher, dass Sie über Folgendes verfügen:

Methoden zur Erstellung von MCP-Servern

Die Lösung unterstützt zwei Methoden zum Erstellen von MCP-Servern:

Aus Lambda-, API- oder MCP-Server erstellen (Gateway-Methode)

Diese Methode erstellt ein MCP-Gateway, das bestehende Lambda-Funktionen APIs, REST oder externe MCP-Server umschließt und sie als MCP-Tools zugänglich macht. Das Gateway übernimmt die Protokollübersetzung zwischen MCP und Ihren vorhandenen Diensten.

Sie können mehrere Ziele (bis zu 10) innerhalb eines einzigen MCP-Gateways konfigurieren, von denen jedes ein anderes Tool oder eine andere Funktion darstellt.

Hosting über ein ECR-Image (Runtime-Methode)

Diese Methode stellt einen containerisierten MCP-Server aus einem Amazon ECR-Image bereit. Verwenden Sie diesen Ansatz, wenn Sie über eine benutzerdefinierte MCP-Serverimplementierung verfügen, die als eigenständiger Service ausgeführt werden muss.

Bereitstellen eines MCP-Servers

Um einen MCP-Server-Anwendungsfall bereitzustellen, wählen Sie im Bereitstellungs-Dashboard die Option Neuen Anwendungsfall bereitstellen und dann MCP-Server-Anwendungsfall erstellen aus. Folgen Sie dem Assistenten und verwenden Sie die folgenden Schritte, um den Anwendungsfall zu konfigurieren.

Wählen Sie einen Anwendungsfall

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall.

Wählen Sie die Netzwerkkonfiguration

Derzeit ist nur der öffentliche Zugriff aktiviert und VPC wird für die Netzwerkkonfiguration nicht unterstützt.

MCP-Server erstellen

In diesem Schritt konfigurieren Sie Ihre MCP-Serverbereitstellung:

Methode zur Erstellung des MCP-Servers

Wählen Sie zwischen den beiden Erstellungsmethoden:

Gateway-Konfiguration (für die Lambda/API/MCP Servermethode)

Wenn Sie die Gateway-Methode ausgewählt haben, konfigurieren Sie ein oder mehrere Ziele:

Sie können mehrere Ziele (bis zu 10) hinzufügen, indem Sie Weiteres Ziel hinzufügen wählen. Jedes Ziel steht für ein separates Tool oder eine separate Funktion, die von Ihrem MCP-Server bereitgestellt wird.

ECR-Konfiguration (für die ECR-Image-Methode)

Wenn Sie die Runtime-Methode ausgewählt haben, geben Sie Folgendes an:

Überprüfen und bereitstellen

Überprüfen Sie nach der Konfiguration Ihres MCP-Servers die ausgewählten Einstellungen und wählen Sie Deploy Use Case aus. Der neue MCP-Server-Anwendungsfall wird dann bereitgestellt und zur weiteren Verwaltung in Ihrer Bereitstellungs-Dashboard-Ansicht angezeigt.

Schritt 3d: Stellen Sie einen Agent Builder-Anwendungsfall bereit

Mit dem Agent Builder können Sie produktionsbereite KI-Agenten auf Amazon Bedrock erstellen, konfigurieren und bereitstellen. AgentCore Diese Funktion bietet die vollständige Kontrolle über das Verhalten der Agenten durch Systemaufforderungen, Modellauswahl, MCP-Serverintegration und Speicherverwaltung.

Der Bereitstellungsprozess ist in erster Linie derselbe wie bei einem Text-Anwendungsfall, mit einigen nennenswerten Unterschieden.

Wählen Sie einen Anwendungsfall

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall.

Details zu Anwendungsfällen

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall.

Agent konfigurieren

In diesem Schritt konfigurieren Sie die wichtigsten Agenteneinstellungen, einschließlich der Systemaufforderung, der verfügbaren servers/Strands MCP-Tools und des Speichers.

Systemaufforderung

Die Systemaufforderung definiert das Verhalten, die Persönlichkeit und die Fähigkeiten des Agenten. Sie können:

MCP-Serverintegration (optional)

Konfigurieren Sie Model Context Protocol-Server, um Ihrem Agenten Zugriff auf Unternehmenstools und -daten zu gewähren:

Speicherkonfiguration

Konfigurieren Sie, wie der Agent Kontext und Wissen beibehält:

Überprüfen und bereitstellen

Überprüfen Sie nach diesem Schritt die ausgewählten Einstellungen und wählen Sie Anwendungsfall bereitstellen aus. Die Installation von Agent Builder ist in der Regel in 10 bis 15 Minuten abgeschlossen. Der neue Anwendungsfall wird dann in der Deployment-Dashboard-Ansicht angezeigt, sodass Sie ihn weiter verwalten können.

Schritt 3e: Implementieren Sie einen Workflow-Anwendungsfall

Mit dem Workflow Builder können Sie Supervisor-Agenten erstellen, die mehrere Agent Builder-Agenten mithilfe des Delegierungsmusters Agents as Tools orchestrieren. Mit dieser Funktion können Sie komplexe Workflows mit mehreren Agenten erstellen, indem Sie bestehende Agent Builder-Bereitstellungen wiederverwenden.

Der Bereitstellungsprozess folgt einem ähnlichen Muster wie Agent Builder, mit zusätzlichen Schritten für die Agentensuche und -auswahl.

Wählen Sie einen Anwendungsfall

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall.

Details zu Anwendungsfällen

Dieser Schritt entspricht dem zuvor beschriebenen Text-Anwendungsfall.

Supervisor Agent konfigurieren

In diesem Schritt konfigurieren Sie den Supervisor-Agenten, der die spezialisierten Agent Builder-Agenten koordiniert.

Systemaufforderung

Die Systemaufforderung definiert, wie der Supervisor Agent Arbeit an spezialisierte Agenten delegiert. Sie können:

Auswahl des Modells

Wählen Sie das Basismodell für den Supervisor-Agenten aus. Der Supervisor-Agent verwendet dieses Modell für:

Wählen Sie spezialisierte Agenten aus

In diesem Schritt wählen Sie aus, an welche Agent Builder-Agenten der Supervisor Arbeit delegieren kann.

Agenten hinzufügen

Überprüfen und bereitstellen

Überprüfen Sie die Workflow-Konfiguration, einschließlich:

Wählen Sie „Anwendungsfall bereitstellen“. Die Workflow-Bereitstellung ist in der Regel in 15 bis 20 Minuten abgeschlossen. Der neue Workflow wird in Ihrer Bereitstellungs-Dashboard-Ansicht angezeigt, sodass Sie ihn weiter verwalten können.