Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

So verbessern Sie die Genauigkeit, indem Sie Automated-Reasoning-Prüfungen im Integritätsschutz für Amazon Bedrock hinzufügen

Automated-Reasoning-Prüfungen im Integritätsschutz für Amazon Bedrock verifizieren mathematisch Inhalte in natürlicher Sprache anhand Ihrer definierten Richtlinien und stellen so die strikte Einhaltung Ihres Integritätsschutzes sicher. Diese Prüfungen können dazu beitragen, schädliche oder gesetzeswidrige Inhalte systematisch zu blockieren, bevor sie Ihre Nutzer erreichen. Im Gegensatz zu Ansätzen zum Musterabgleich liefert Automated Reasoning insbesondere bei komplexen politischen Anforderungen höhere Genauigkeit und weniger Fehlalarme. Für Kunden, die Wert auf Präzision legen, können die Richtlinienregeln individuell angepasst werden, um die Effektivität des Integritätsschutzes durch klare logische Aussagen zu erhöhen.

Eine zentrale Herausforderung bei großen Sprachmodellen (LLMs) besteht darin, die Genauigkeit ihrer Antworten sicherzustellen. Ohne Validierung LLMs kann es manchmal zu Halluzinationen oder ungenauen Informationen kommen, die das Vertrauen untergraben.

Automated-Reasoning-Prüfungen im Integritätsschutz für Amazon Bedrock lösen dieses Problem, indem mathematische Methoden verwendet werden, um:

Dieses Feature ist besonders nützlich, wenn Sie die sachliche Grundlage einer LLM-Antwort wie folgt nachweisen müssen:

Automated-Reasoning-Prüfungen im Integritätsschutz für Amazon Bedrock schützen nicht vor Promptinjektionsangriffen. Diese Prüfungen validieren genau das, was Sie ihnen senden. Wenn böswilliger oder manipulierter Inhalt als Eingabe bereitgestellt wird, erfolgt die Validierung genau auf dieser Grundlage (Garbage-in, Garbage-out). Verwenden Sie Inhaltsfilter in Kombination mit Automated-Reasoning-Prüfungen, um Promptinjektionsangriffe zu erkennen und zu blockieren.

Automated Reasoning analysiert und erkennt nur Text, der für die Richtlinie Automated Reasoning relevant ist. Es ignoriert den Rest des Inhalts und kann Entwicklern nicht sagen, ob die Antwort zum Thema gehört oder nicht. Wenn Sie Antworten erkennen müssen, die nicht zum Thema gehören, verwenden Sie andere Integritätsschutzkomponenten wie Themenrichtlinien.

Einschränkungen und Überlegungen

Beachten Sie die folgenden wichtigen Einschränkungen bevor Sie Automated-Reasoning-Prüfungen implementieren:

Best Practices

Folgen Sie diesen bewährten Methoden, um die Effektivität Ihrer Richtlinien für Automated Reasoning zu maximieren:

Preisgestaltung

Automated-Reasoning-Prüfungen im Integritätsschutz für Amazon Bedrock werden auf Grundlage der Anzahl der bearbeiteten Bewertungsanfragen in Rechnung gestellt. Weitere Informationen finden Sie auf der Seite Amazon Bedrock – Preise.

Für jede Überprüfungsanfrage fallen Gebühren an, unabhängig vom Ergebnis (z. B. VALID, INVALID, TRANSLATION_AMBIGUOUS). So senken Sie die Kosten:

Regionsübergreifende Inferenz für Richtlinienmaßnahmen

Automated Reasoning nutzt regionsübergreifende Inferenzen, um die Leistung und Verfügbarkeit von Maßnahmen zur Erstellung und Erprobung von Richtlinien zu optimieren. Spezifische API-Operationen verteilen die Verarbeitung automatisch auf die AWS-Regionen innerhalb Ihrer geografischen Grenzen, um eine zuverlässige Servicebereitstellung zu gewährleisten.

Die folgenden API-Operationen für Automated Reasoning verwenden regionsübergreifende Inferenzen:

Bei diesen Vorgängen werden große Sprachmodelle (LLMs) aufgerufen, um formale Logikregeln aus Quelldokumenten zu extrahieren und Konstrukte natürlicher Sprache in strukturierte logische Repräsentationen zu übersetzen. Die Anforderungsverarbeitung wird gemäß dem folgenden geografischen Routing verteilt, um optimale Leistung und Verfügbarkeit zu gewährleisten:

Die regionsübergreifende Inferenz funktioniert transparent, ohne dass eine Kundenkonfiguration erforderlich ist. Die API-Funktionalität bleibt unabhängig von der spezifischen Region, in der die Anfrage bearbeitet wird, konsistent.

Gehen Sie wie folgt vor, um Automated-Reasoning-Prüfungen im Integritätsschutz für Amazon Bedrock zu verwenden:

Der Arbeitsablauf kann wie folgt visualisiert werden:

Source Document → Extracted Policy → Testing → Deployment → Runtime Validation
    (rules)        (formal logic)    (verify)   (activate)    (check responses)
  

Richtlinien

Richtlinien für Automated Reasoning bilden die Grundlage für Genauigkeitsvalidierungen. Sie enthalten Logikregeln und Variablen, die automatisch aus Ihrem Quelldokument extrahiert werden. Diese Richtlinien dienen als mathematische Darstellung Ihrer Geschäftsregeln und ermöglichen dem System, systematisch zu überprüfen, ob die Antworten des Basismodells Ihren definierten Einschränkungen entsprechen. Konfigurieren Sie Ihren Integritätsschutz so, dass eine Richtlinie verwendet wird, die Ihren spezifischen Domain- und Validierungsanforderungen entspricht, um Automated-Reasoning-Prüfungen in Ihrer Anwendung durchzuführen.

Regeln

Regeln sind Logik, die Automated Reasoning aus Ihrem Quelldokument extrahiert. Diese können als Wenn-Dann-Aussagen geschrieben werden. Hier finden Sie einige Beispiele für das Regelformat:

<claim> is true if <premise>

Variablen

Variablen stellen Konzepte in Ihrer Richtlinie für Automated Reasoning dar, denen bei der Übersetzung natürlicher Sprache in formale Logik Werte zugewiesen werden können. Ihre Richtlinienregeln legen Einschränkungen fest, welche Werte für diese Variablen gültig oder ungültig sind.

Variablen haben einen Namen, einen Typ und eine Beschreibung. Beispielsweise könnte eine Richtlinie über Leistungen an Arbeitnehmer eine Variable mit dem Namen „employee_age“, dem Typ „integer“ und der Beschreibung „Das Alter des Mitarbeiters in Jahren“ enthalten. Diese Variable könnte in einem Prompt an eine Anwendung ein Wert von z. B. 25 zugewiesen werden, der auf natürlicher Sprache basiert.

Beispielsweise könnte eine is_full_time-Variable in einer Personalrichtlinie die Beschreibung „Mitarbeiter, die mehr als 20 Stunden pro Woche arbeiten“ haben, was ein direktes Zitat aus dem Quelldokument ist. Bei der Verwendung eines Chatbots sagen Benutzer eher „Ich arbeite Vollzeit“ und nicht: „Ich arbeite mehr als 20 Stunden pro Woche“.

Die Genauigkeit der Übersetzung von der natürlichen Sprache in die formale Logik hängt stark von der Qualität der Variablenbeschreibungen ab. Sobald die Übersetzung abgeschlossen ist, ist der Argumentationsprozess zwar schlüssig, jedoch sorgen klare und umfassende Variablenbeschreibungen dafür, dass Benutzer-Prompts korrekt interpretiert werden. Ohne vollständige Variablenbeschreibungen könnte Automated Reasoning NO_DATA zurückgeben, da es die natürliche Spracheingabe nicht in eine formale logische Darstellung übersetzen kann.

Es ist wichtig, dass eine Variablenbeschreibung Szenarien wie dieses berücksichtigt. Eine umfassende Variablenbeschreibung könnte lauten: „Mitarbeiter, die mehr als 20 Stunden pro Woche arbeiten, sind Vollzeit“. Benutzer geben „Vollzeit“ an, um diesen Wert auf „true“ zu setzen, oder „Teilzeit“, um ihn auf „false“ zu setzen.

Vordefinierte Variablentypen

Die folgende Tabelle beschreibt die für Ihre Richtlinie verfügbaren vordefinierten Variablentypen.