View a markdown version of this page

Fallback-Guthaben für abgelehnte Anfragen (Beta) - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Fallback-Guthaben für abgelehnte Anfragen (Beta)

Wenn Claude Fable 5 eine Anfrage ablehnt, zahlen Kunden, die dieselbe Konversation mit einem anderen Modell (z. B. Claude Opus 4.8) wiederholen, normalerweise die Cache-Schreibgebühren für das Konversationspräfix, das bereits in Fable 5 zwischengespeichert wurde, erneut. Durch das Fallback-Guthaben wird diese doppelte Belastung vermieden, indem bei Ablehnung ein einmaliges Guthabensymbol ausgestellt wird, das bei einem erneuten Versuch eingelöst werden kann.

Für diese Funktion ist sowohl bei der ursprünglichen Anfrage als auch fallback-credit-2026-06-09 beim erneuten anthropic_beta Versuch das Beta-Flag im Array erforderlich.

Unterstützte Modelle

Rolle Model
Quelle (gibt bei Ablehnung eine Gutschrift aus) Claude Fable 5
Target (löst Guthaben bei erneuter Prüfung ein) Muss ein gültiges Ausweichziel des Quellmodells sein

Funktionsweise

Schritt 1: Bei Ablehnung erhalten Sie ein Fallback-Credit-Token

Wenn eine Anfrage an Claude Fable 5 zurückkehrt stop_reason: "refusal" und das Beta-Flag vorhanden ist, enthält das stop_details Objekt Folgendes: fallback_credit_token

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

Das fallback_credit_token ist eine undurchsichtige Zeichenfolge. Dies ist der Fall, null wenn die Mint-Bedingungen nicht erfüllt sind (bei der ursprünglichen Anfrage wurde kein Cache gelesen, das Modell ist nicht kreditfähig oder das Beta-Flag fehlt). Server-side Fehler bei der Prägung führen niemals zu null Fehlern.

Im Streaming-Modus wird das Token bei der letzten message_delta Veranstaltung zugestellt. stop_details

Schritt 2: Löse das Token bei einer erneuten Testanfrage ein

Übergeben Sie das Token als Parameter der obersten Ebene bei der Wiederholung an das Fallback-Modell:

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-09"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

Regeln für die Einlösung

Regel Anforderung
Zeitfenster Der Token muss innerhalb von 5 Minuten nach seiner Ausstellung eingelöst werden.
Plattformbindung Ein auf geprägter Token bedrock-mantle kann nur am eingelöst werden. bedrock-mantle
Körperlich passend Die tools Felder systemmessages, und müssen exakt mit der abgelehnten Anfrage übereinstimmen. Senden Sie sie so, wie sie sind; entfernen Sie keine Denkblockaden.
Versuchen Sie es erneut mit Formen Der Wiederholungstext muss entweder (a) exakt mit der abgelehnten Anfrage übereinstimmen (das Fallback-Modell regeneriert die Antwort) oder (b) ihm eine angehängte Assistentennachricht zuordnen, die die Teilausgabe der abgelehnten Antwort enthält (das Fallback-Modell setzt dort fort, wo Fable 5 unterbrochen wurde).
Zielmodell Muss ein gültiges Ausweichziel für das abgelehnte Modell sein.

Fehlerbehandlung

Wenn das Beta-Flag vorhanden ist, gibt jeder Fehler bei der Validierung der Einlösung a zurück. 400 invalid_request_error Der Wiederherstellungspfad ist in jedem Fall ein erneuter Versuch ohne. fallback_credit_token Zu den Fehlerbedingungen gehören:

  • Fehlerhaftes oder nicht erkennbares Token

  • Token, das älter als 5 Minuten ist

  • Der Text der Anfrage stimmt nicht mit der ursprünglich abgelehnten Anfrage überein

  • Das Zielmodell ist kein gültiges Ausweichziel

  • Der Token wurde bereits eingelöst

Ohne das Beta-Flag fallback_credit_token wird es als unbekanntes Feld abgelehnt (400). Der Parameter wird auch bei count_tokens Anfragen abgelehnt.

Auswirkungen auf die Abrechnung

Wenn ein Fallback-Guthabentoken erfolgreich eingelöst wurde, erhält die Wiederholungsanforderung eine Gutschrift für Cache-Write-Tokens, die sich mit dem zwischengespeicherten Präfix der abgelehnten Anfrage überschneiden. Der Kunde zahlt beim erneuten Versuch nur für neue Token, nicht für das erneute Zwischenspeichern des Konversationspräfix.

Beispiel-ArbeitsFlows

  1. Senden Sie eine Anfrage an Claude Fable 5 mit. anthropic_beta: ["fallback-credit-2026-06-09"]

  2. Erhalten Sie eine Ablehnung mit einer fallback_credit_token PINstop_details.

  3. Versuchen Sie es sofort Claude Opus erneut mit demselbensystem,messages, undtools, plus demfallback_credit_token.

  4. Der Wiederholungsversuch wird zu reduzierten Preisen für das überlappende zwischengespeicherte Präfix in Rechnung gestellt.

Wenn das Token abgelaufennull, oder ungültig ist, versuchen Sie es wie gewohnt erneut. Die Gutschrift dient der Kostenoptimierung und ist keine funktionale Voraussetzung für eine erfolgreiche Wiederholung.