Passen Sie eine integrierte Strategie an oder erstellen Sie Ihre eigene Strategie
Für fortgeschrittene oder domänenspezifische Anwendungsfälle können Sie eine integrierte Strategie mit Überschreibungen erstellen, um eine genaue Kontrolle über den Langzeitgedächtnisprozess zu erlangen. Built-in Mit Strategien mit Überschreibungen können Sie das Standardverhalten der integrierten Strategien außer Kraft setzen, indem Sie Ihre eigenen Anweisungen angeben und ein bestimmtes Basismodell für die Extraktions- und Konsolidierungsschritte auswählen.
Wann sollte eine integrierte Strategie mit Überschreibungen verwendet werden
Wählen Sie eine integrierte Strategie mit Überschreibungen, wenn Sie die Speicherlogik an Ihre spezifischen Anforderungen anpassen müssen. Häufige Anwendungsfälle umfassen:
-
Domain-specific Extraktion: Beschränken Sie die Strategie darauf, nur bestimmte Arten von Informationen zu extrahieren. Zum Beispiel die Erfassung der Lebensmittel- und Ernährungspräferenzen eines Benutzers, während seine Vorlieben für Kleidung ignoriert werden.
-
Steuerung der Granularität: Anpassung des Detaillierungsgrads im extrahierten Speicher. Beispiel: Die Strategie für die Zusammenfassung sollte angewiesen werden, nur wichtige Punkte auf hoher Ebene zu speichern, anstatt eine detaillierte Beschreibung zu erstellen.
-
Modellauswahl: Verwenden Sie ein bestimmtes Basismodell, das für Ihren speziellen Bereich oder Ihre spezielle Aufgabe besser geeignet ist, z. B. ein Modell, das auf finanzielle oder juristische Texte abgestimmt ist.
Wie passt man eine Strategie an
Um eine integrierte Strategie durch eine benutzerdefinierte Konfiguration zu überschreiben, geben Sie die Konfiguration an, wenn Sie die CreateMemoryOperation oder die UpdateMemoryOperation verwenden. Sie können Folgendes überschreiben:
-
Die Anweisungen in der Systemaufforderung (das Ausgabeschema bleibt jedoch dasselbe). Um eine effektive benutzerdefinierte Eingabeaufforderung zu erstellen, sollten Sie zunächst die Standardansagen verstehen. Weitere Informationen finden Sie im Abschnitt zur Systemaufforderung für jede integrierte Strategie.
-
Das Amazon Bedrock-Modell, mit dem die Aufforderung aufgerufen werden soll. Weitere Informationen finden Sie unter Zugriff auf Amazon Bedrock Foundation-Modelle hinzufügen oder entfernen. Weitere Informationen zur Beschaffung ausreichender Amazon Bedrock-Kapazität finden Sie unter Amazon Bedrock-Kapazität für integrierte Strategien mit Überschreibungen.
Die folgende Tabelle zeigt die Schritte, die Sie für jede Speicherstrategie überschreiben können:
| Strategie | Schritte, die Sie überschreiben können |
|---|---|
|
Semantisch |
Extraktion und Konsolidierung |
|
Zusammenfassung |
Konsolidierung |
|
Benutzerpräferenz |
Extraktion und Konsolidierung |
|
Episodisch |
Extraktion, Konsolidierung, Reflexion |
Anmerkung
Sie können dies auch mit einer selbstverwalteten Strategie ändern. Weitere Informationen finden Sie unter Self-managed Strategie.
Wie passt man eine Strategie an
Sie können beispielsweise die Extraktionsanweisung für die semantische Speicherstrategie ändern, um bei der Anpassung neue Anweisungen hinzuzufügen.
Built-in Anweisungen zur semantischen Speicherstrategie
Im Folgenden werden die integrierten Anweisungen für die semantische Speicherstrategie gezeigt:
You are a long-term memory extraction agent supporting a lifelong learning system. Your task is to identify and extract meaningful information about the users from a given list of messages. Analyze the conversation and extract structured information about the user according to the schema below. Only include details that are explicitly stated or can be logically inferred from the conversation. - Extract information ONLY from the user messages. You should use assistant messages only as supporting context. - If the conversation contains no relevant or noteworthy information, return an empty list. - Do NOT extract anything from prior conversation history, even if provided. Use it solely for context. - Do NOT incorporate external knowledge. - Avoid duplicate extractions. IMPORTANT: Maintain the original language of the user's conversation. If the user communicates in a specific language, extract and format the extracted information in that same language.
Sie könnten diesen Anweisungen eine neue Regel anhängen, wie zum Beispiel:
- Focus exclusively on extracting facts related to travel and booking preferences.
oder bearbeiten Sie eine bestehende Regel wie:
IMPORTANT: Always extract memories in English irrespective of the original language of the user's conversation.
Bewährte Methoden für die Anpassung
-
Bauen Sie auf bestehenden Anweisungen auf: Wir empfehlen Ihnen dringend, die integrierten Strategieanweisungen als Ausgangspunkt zu verwenden. Die Basisstruktur und die Anweisungen sind entscheidend für die Speicherfunktionalität. Sie sollten Ihre aufgabenspezifischen Anleitungen zu den vorhandenen Anweisungen hinzufügen, anstatt völlig neue Anweisungen von Grund auf neu zu schreiben.
-
Geben Sie klare Anweisungen: Der Inhalt von
appendToPromptersetzt die Standardanweisungen in der Systemaufforderung. Stellen Sie sicher, dass Ihre Anweisungen logisch und vollständig sind, da leere oder schlecht formulierte Anweisungen zu unerwünschten Ergebnissen führen können.
Wichtige Überlegungen
Um die Zuverlässigkeit der Speicherpipeline zu gewährleisten, halten Sie sich bitte an die folgenden Richtlinien:
-
Ändern Sie Schemas nicht in Eingabeaufforderungen: Sie sollten nur Anweisungen hinzufügen oder ändern, die festlegen, wie Speicher extrahiert oder konsolidiert werden. Versuchen Sie nicht, die Konversations- oder Speicherschemadefinitionen innerhalb der Aufforderung selbst zu ändern, da dies zu unerwarteten Fehlern führen kann.
-
Konsolidierungsvorgänge nicht umbenennen: Ändern Sie beim Anpassen einer Konsolidierungsaufforderung nicht die Namen der Operationen (z. B.
AddMemory,UpdateMemory). Wenn Sie diese Namen ändern, schlägt die Pipeline für das Langzeitgedächtnis fehl. -
Das Ausgabeschema kann nicht bearbeitet werden: Mit integrierten Überschreibungsstrategien können Sie das endgültige Ausgabeschema des extrahierten oder konsolidierten Speichers nicht ändern. Das Ausgabeschema, das der Systemaufforderung für die integrierte Strategie mit Überschreibungen hinzugefügt wird, entspricht den integrierten Strategien. Informationen zu den Ausgabeschemas finden Sie im Folgenden:
Vollständige Kontrolle über den gesamten Speicherprozess, einschließlich des Ausgabeschemas, finden Sie unter Self-managed Strategie.
Rolle „Ausführung“
Wenn Sie integrierte Strategien mit Überschreibungen verwenden, müssen Sie auch eine memoryExecutionRoleArn in der CreateMemory API angeben. Bedrock Amazon Bedrock AgentCore übernimmt diese Rolle, um die Grundgesteinsmodelle in Ihrem AWS Konto zur Extraktion und Konsolidierung aufzurufen.
Anmerkung
Wenn Sie integrierte Strategien mit Überschreibungen verwenden, wird die LLM-Nutzung für Extraktion und Konsolidierung Ihrem AWS Konto separat in Rechnung gestellt, und es können zusätzliche Gebühren anfallen.
