View a markdown version of this page

Bereitstellen der Lösung - Generativer KI-Anwendungsgenerator auf AWS
Überblick über den BereitstellungsprozessBereitstellung einer DynamoDB-Chat-Konfiguration

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Bereitstellen der Lösung

Diese Lösung verwendet CloudFormation AWS-Vorlagen und -Stacks, um ihre Bereitstellung zu automatisieren. Die CloudFormation Vorlage spezifiziert die in dieser Lösung enthaltenen AWS-Ressourcen und ihre Eigenschaften. Der CloudFormation Stack stellt die Ressourcen bereit, die in der Vorlage beschrieben sind.

Überblick über den Bereitstellungsprozess

Bevor Sie die Lösung auf den Markt bringen, sollten Sie sich mit den Kosten, der Architektur, der Sicherheit und anderen in diesem Handbuch erörterten Überlegungen vertraut machen.

Wichtig

Wenn Sie Amazon Bedrock verwenden möchten, müssen Sie Zugriff auf Modelle beantragen, bevor sie verwendet werden können. Weitere Informationen finden Sie unter Modellzugriff im Amazon Bedrock-Benutzerhandbuch.

Zeit bis zur Bereitstellung: Ungefähr 10 Minuten

Schritt 1: Starten Sie den Deployment-Dashboard-Stack

Schritt 2: Stellen Sie einen Anwendungsfall bereit

Schritt 3: Stellen Sie mithilfe des Deployment-Dashboard-Assistenten einen Anwendungsfall bereit

Schritt 4: Konfiguration nach der Bereitstellung

Optional können Sie die Anwendungsfälle getrennt von der Lösung bereitstellen, wenn Sie die Benutzeroberfläche des Deployment-Dashboards nicht verwenden möchten oder APIs.

Sie können auch eine DynamoDB-Chat-Konfiguration angeben.

Wichtig

Diese Lösung sendet Betriebsmetriken (die „Daten“) über die Verwendung dieser Lösung an AWS. Wir verwenden diese Daten, um besser zu verstehen, wie Kunden diese Lösung und die damit verbundenen Dienstleistungen und Produkte nutzen. Die Erfassung dieser Daten durch AWS unterliegt der AWS-Datenschutzrichtlinie.

Bereitstellung einer DynamoDB-Chat-Konfiguration

Bei der Bereitstellung eines Anwendungsfalls UseCaseConfigTableNamesind CloudFormation Parameter erforderlich, UseCaseConfigRecordKeydie normalerweise vom Deployment-Dashboard aufgefüllt werden. Der Stack der Bereitstellungs-Dashboards kümmert sich um die Erstellung und Konfiguration dieser Tabelle, während Aufrufe der Deployment-API das Auffüllen der Parameter auslösen.

Wenn Sie eine eigenständige Bereitstellung durchführen, müssen Sie wie folgt vorgehen:

  1. Erstellen Sie eine DynamoDB-Tabelle mit einem Hash-Schlüssel oder Schlüssel.

  2. Erstellen Sie einen Datensatz in der Tabelle, der die Konfiguration für den Anwendungsfall enthält, als Datensatz des folgenden Formats: {key: some_use_case_key, config: {your_configuration}.

  3. Übergeben Sie bei der Bereitstellung die ausgewählten Parameter UseCaseConfigTableNameund UseCaseConfigRecordKey(some_use_case_keyin diesem Beispiel) an den Anwendungsfallstapel.

Um eine geeignete Konfiguration für eine eigenständige Bereitstellung zu erstellen, können Sie im Deployment-Dashboard einen erforderlichen Anwendungsfall erstellen und den Datensatz aus der Konfigurationstabelle kopieren. Andernfalls können Sie anhand des folgenden Beispiels für eine Bedrock-Bereitstellung Ihre eigene Konfiguration erstellen:

{
 "UseCaseName": "SampleUseCase",
 "ConversationMemoryParams": {
 "ConversationMemoryType": "DynamoDB",
 "HumanPrefix": "H",
 "AiPrefix": "A",
 "ChatHistoryLength": 20
 },
 "KnowledgeBaseParams": {
 "KnowledgeBaseType": "Bedrock",
 "NumberOfDocs": 2,
 "ScoreThreshold": 0,
 "ReturnSourceDocs": false,
 "BedrockKnowledgeBaseParams": {
 "BedrockKnowledgeBaseId": "SOME_ID",
 "OverrideSearchType": null
 }
 },
 "LlmParams": {
 "ModelProvider": "Bedrock",
 "BedrockLlmParams": { "ModelId": "anthropic.claude-v2" },
 "PromptParams": {
 "PromptTemplate": "some prompt",
 "MaxPromptTemplateLength": 187500,
 "MaxInputTextLength": 187500,
 "UserPromptEditingEnabled": true,
 "DisambiguationEnabled": true,
 "DisambiguationPromptTemplate": "some prompt"
 },
 "ModelParams": {},
 "Temperature": 1,
 "RAGEnabled": true,
 "Streaming": true,
 "Verbose": false
 }
}