View a markdown version of this page

Konfiguration Ihrer Eingabeaufforderungen - Generativer KI-Anwendungsgenerator auf AWS

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Konfiguration Ihrer Eingabeaufforderungen

Der Assistent für das Bereitstellungs-Dashboard verfügt über einen Schritt zur Konfiguration von Eingabeaufforderungen, mit dem Sie die Benutzeroberfläche und die Vorlage für die Interaktionen zwischen Benutzern und dem KI-Modell anpassen können. Die korrekte Konfiguration dieser Einstellungen ist entscheidend, um genaue und relevante Antworten vom KI-Assistenten zu erhalten.

In diesem Abschnitt werden das Gesamterlebnis und das Verhalten der KI-Eingabeaufforderung gesteuert.

  • Max. Länge der Prompt-Vorlage: Diese Einstellung bestimmt die maximale Länge (in Zeichen) der Prompt-Vorlage. Ein höherer Wert ermöglicht es, dem KI-Modell mehr Kontext zur Verfügung zu stellen, was möglicherweise zu genaueren Antworten führt. Zu lange Eingabeaufforderungen können jedoch auch zu Geräuschen führen und sich negativ auf die Leistung auswirken. Für Amazon Bedrock-Modelle werden die Standardwerte für die maximale Länge der Prompt-Vorlage (in Zeichen) anhand der zugrunde liegenden Modell-Token-Grenzwerte berechnet. Wenn Sie einen Modellnamen in Bedrock bearbeiten und ändern, ist die Schaltfläche „Auf Standard zurücksetzen“ markiert und kann verwendet werden, um die Standardeinstellungen des neu ausgewählten Modells zu übernehmen. Für Amazon SageMaker AI-Modelle werden angemessene Standardwerte bereitgestellt. Es wird jedoch empfohlen, dass Sie Ihr zugrundeliegendes Modell überprüfen und diese maximale Länge der Eingabeaufforderungsvorlagen und die Länge des eingegebenen Texts entsprechend wählen. Weitere Informationen finden Sie im Abschnitt Tipps zur Verwaltung von Modell-Token-Limits.

  • Maximale Länge des Eingabetextes: Diese Einstellung begrenzt die maximale Länge (in Zeichen) des Eingabetextes des Benutzers. Längere Eingaben können irrelevante Informationen enthalten, was das Risiko erhöht, irrelevante oder ungenaue Antworten aus dem KI-Modell zu erhalten.

  • Bearbeitung von Benutzeraufforderungen: Mit dieser Option können Sie die Möglichkeit aktivieren oder deaktivieren, dass Benutzer die Vorlage für die Aufforderung über die Chat-Benutzeroberfläche ändern können. Die Deaktivierung dieser Funktion kann dazu beitragen, die Konsistenz aufrechtzuerhalten und unbeabsichtigte Änderungen an der Eingabeaufforderung zu verhindern.

Vorlage für eine Aufforderung

In diesem Abschnitt können Sie die tatsächliche Vorlage für die Aufforderung definieren, die vom KI-Modell verwendet wird. Die Vorlage für die Aufforderung folgt in der Regel einer Struktur, die Platzhalter für verschiedene Komponenten enthält, z. B. für Benutzereingaben, Referenzpassagen und den Chat-Verlauf.

  • Vorlage für Eingabeaufforderung: Dies ist der Haupttextbereich, in den Sie die gewünschte Eingabeaufforderungsvorlage schreiben oder einfügen können. Die Vorlage sollte so gestaltet sein, dass sie den erforderlichen Kontext und die erforderlichen Anweisungen für das KI-Modell bietet. Sie enthält in der Regel die folgenden Platzhalter:

    • {input}: Dieser Platzhalter ist für KI-Bereitstellungen von Sagemaker obligatorisch und wird durch die Eingabe oder Abfrage des Benutzers ersetzt.

    • {history}: Dieser Platzhalter ist für KI-Bereitstellungen von Sagemaker obligatorisch und wird durch den Chat-Verlauf der aktuellen Konversation ersetzt.

    • {context}: Dieser Platzhalter ist für RAG-Bereitstellungen obligatorisch und wird durch die Dokumentauszüge aus der konfigurierten Wissensdatenbank ersetzt.

  • Frage umformulieren? : Diese Option (nur für RAG-Bereitstellungen verfügbar) bestimmt, ob die ursprüngliche Eingabeabfrage des Benutzers umformuliert oder eindeutig formuliert werden soll, bevor sie an das KI-Modell übergeben wird. Eine Umformulierung der Abfrage kann dem Modell manchmal helfen, die Absicht des Benutzers besser zu verstehen, was möglicherweise zu genaueren Antworten führt.

Bei der Konfiguration der Vorlage und der Benutzeroberfläche für die Aufforderung ist es wichtig, ein Gleichgewicht zwischen der Bereitstellung von ausreichend Kontext und Anweisungen für das KI-Modell zu finden und gleichzeitig zu lange oder irrelevante Informationen zu vermeiden, die zu Störungen oder Leistungseinbußen führen können.

Erweiterte Einstellungen für die Aufforderung

In diesem Abschnitt können Sie steuern, wie der Konversationsverlauf dem KI-Modell präsentiert wird.

  • Größe des nachfolgenden Verlaufs: Diese Einstellung bestimmt die Anzahl der vorherigen Nachrichten, die in der endgültigen Eingabeaufforderung enthalten sein sollen. Wenn dieser Wert auf Null gesetzt wird, würde weder in die Eingabeaufforderungsvorlage noch in die Vorlage für die Disambiguierungsaufforderung ein Verlauf eingefügt. Bitte beachten Sie: Auch wenn dieser Wert auf Null gesetzt ist, muss in den Vorlagen für die Eingabeaufforderung immer noch ein Platzhalter für {history} vorhanden sein. Zur Laufzeit wird er durch eine leere Zeichenfolge ersetzt.

    • Hinweis: Es wird empfohlen, für diesen Wert eine gerade Zahl anzugeben. Die Angabe einer ungeraden Zahl würde dazu führen, dass nur die KI-Antwort einer gepaarten Interaktion zurückgegeben würde.

  • Menschliches Präfix: Dies ist das Präfix, das zur Identifizierung von Nachrichten verwendet wird, die vom Benutzer im Konversationsverlauf gesendet wurden.

  • KI-Präfix: Dies ist das Präfix, das zur Identifizierung von Nachrichten verwendet wird, die vom KI-Modell im Konversationsverlauf zurückgegeben wurden.

Konfiguration der Eingabeaufforderung zur Begriffsklärung

In diesem Abschnitt können Sie das Verhalten und die Vorlage für die eindeutige Identifizierung von Benutzereingaben konfigurieren, bevor Sie sie an die konfigurierte Wissensdatenbank senden.

  • Disambiguierung aktivieren: Diese Option legt fest, ob Benutzereingaben vor dem Senden an die Wissensdatenbank eindeutig identifiziert werden sollen.

  • Vorlage für Eingabeaufforderung zur Disambiguierung: Dies ist die Vorlage für die Eingabeaufforderung, die verwendet wird, um Benutzereingaben eindeutig zu kennzeichnen, wenn eine Verbindung zu einer Wissensdatenbank besteht. Die anhand dieser Eingabeaufforderung generierte Ausgabe wird als Abfrage verwendet, die an die Wissensdatenbank gesendet wird. Die Deaktivierung der Disambiguierung würde dazu führen, dass die Rohabfrage des Benutzers unverändert an die Wissensdatenbank gesendet wird.

Wenn die Disambiguierung aktiviert ist, würde beispielsweise eine nachfolgende Benutzerabfrage „Wie viel kostet das?“ könnte eindeutig mit „Wie viel kostet es, mein Nummernschild zu erneuern“ abgegrenzt werden? , was zu einer besseren Suchanfrage führt.