View a markdown version of this page

Credito di riserva per le richieste rifiutate (beta) - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Credito di riserva per le richieste rifiutate (beta)

Quando Claude Fable 5 rifiuta una richiesta, i clienti che riprovano la stessa conversazione su un modello diverso (ad esempio Claude Opus 4.8) normalmente rimborsano le tariffe di scrittura nella cache per il prefisso di conversazione che era già memorizzato nella cache di Fable 5. Il credito Fallback elimina questo doppio addebito emettendo un token di credito una tantum in caso di rifiuto, che può essere riscattato al nuovo tentativo.

Questa funzionalità richiede il flag beta nell'anthropic_betaarray sia fallback-credit-2026-06-09 nella richiesta originale che nel nuovo tentativo.

Modelli supportati

Ruolo Modello
Fonte (emette crediti in caso di rifiuto) Claude Fable 5
Target (riscatta il credito in caso di nuovo tentativo) Deve essere una destinazione di fallback valida del modello di origine

Come funziona

Passaggio 1: ricevi un token di credito di riserva in caso di rifiuto

Quando viene restituita una richiesta a Claude Fable 5 stop_reason: "refusal" e il flag beta è presente, l'oggetto include: stop_details fallback_credit_token

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

fallback_credit_tokenÈ una stringa opaca. Si verifica null quando non sono soddisfatte le nuove condizioni (non è stata letta alcuna cache nella richiesta originale, il modello non è idoneo per il credito o il flag beta è assente). Server-side gli errori di coniazione producononull, mai, un errore.

In modalità streaming, il token viene consegnato durante l'message_deltaevento finale. stop_details

Passaggio 2: riscattare il token dopo una nuova richiesta

Passa il token come parametro di primo livello nel nuovo tentativo al modello di fallback:

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-09"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

Regole di rimborso

Regola Requisito
Finestra temporale Il token deve essere riscattato entro 5 minuti dall'emissione.
Piattaforma vincolante Un token coniato bedrock-mantle può essere riscattato solo su. bedrock-mantle
Corrispondenza corporea I tools campi systemmessages, e devono corrispondere esattamente alla richiesta rifiutata. Inviateli così come sono; non eliminate i blocchi mentali.
Riprova le forme Il corpo del tentativo deve (a) corrispondere esattamente alla richiesta rifiutata (il modello di fallback rigenera la risposta) oppure (b) abbinarlo a un messaggio di assistente aggiunto contenente l'output parziale della risposta rifiutata (il modello di fallback continua dal punto in cui Fable 5 è stato interrotto).
Modello target Deve essere un obiettivo di fallback valido del modello rifiutato.

Gestione degli errori

Con il flag beta presente, qualsiasi errore di convalida del rimborso restituisce un. 400 invalid_request_error Il percorso di ripristino in ogni caso consiste nel riprovare senza. fallback_credit_token Le condizioni di errore includono:

  • Token non valido o irriconoscibile

  • Token più vecchio di 5 minuti

  • Il corpo della richiesta non corrisponde alla richiesta originale rifiutata

  • Il modello di destinazione non è un obiettivo di fallback valido

  • Il token è già stato riscattato

Senza il flag beta, fallback_credit_token viene rifiutato come campo sconosciuto (400). Il parametro viene inoltre rifiutato su count_tokens richiesta.

Impatto sulla fatturazione

Quando un token di credito fallback viene riscattato con successo, la richiesta di nuovo tentativo riceve un credito per i token di scrittura nella cache che si sovrappongono al prefisso memorizzato nella cache della richiesta rifiutata. Il cliente paga solo per i nuovi token in caso di nuovo tentativo, non per la memorizzazione nella cache del prefisso della conversazione.

Flusso di lavoro di esempio

  1. Invia una richiesta a Claude Fable 5 con. anthropic_beta: ["fallback-credit-2026-06-09"]

  2. Ricevi un rifiuto con un consenso. fallback_credit_token stop_details

  3. Riprova immediatamente a Claude Opus 4.8 con lo stessosystem, e messagestools, più il. fallback_credit_token

  4. Il nuovo tentativo viene fatturato a tariffe ridotte per il prefisso sovrapposto memorizzato nella cache.

Se il token è scaduto o non validonull, riprova normalmente senza di esso. Il credito è un'ottimizzazione dei costi, non un requisito funzionale per il successo del nuovo tentativo.