View a markdown version of this page

Kredit mundur untuk permintaan yang ditolak (beta) - Amazon Bedrock
Model yang didukungCara kerjanyaAturan penukaranPenanganan kesalahanDampak penagihanContoh alur kerja

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Kredit mundur untuk permintaan yang ditolak (beta)

Ketika Claude Fable 5 menolak permintaan, pelanggan yang mencoba kembali percakapan yang sama pada model yang berbeda (seperti Claude Opus 4.8) biasanya membayar ulang tarif cache-write untuk awalan percakapan yang sudah di-cache di Fable 5. Kredit fallback menghilangkan biaya ganda ini dengan mengeluarkan token kredit satu kali pada penolakan yang dapat ditukarkan pada percobaan ulang.

Fitur ini memerlukan flag beta fallback-credit-2026-06-09 dalam anthropic_beta array pada permintaan asli dan coba lagi.

Model yang didukung

Peran Model
Sumber (mengeluarkan kredit atas penolakan) Dongeng Claude 5
Target (tukarkan kredit saat coba lagi) Harus menjadi target fallback yang valid dari model sumber

Cara kerjanya

Langkah 1: Terima token kredit fallback pada penolakan

Ketika permintaan ke Claude Fable 5 kembali stop_reason: "refusal" dan flag beta hadir, stop_details objek menyertakan: fallback_credit_token

{
  "id": "msg_...",
  "type": "message",
  "role": "assistant",
  "model": "anthropic.claude-fable-5",
  "content": [],
  "stop_reason": "refusal",
  "stop_details": {
    "type": "refusal",
    "category": "cyber",
    "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.",
    "fallback_credit_token": "<opaque token>"
  },
  "usage": {
    "input_tokens": 106,
    "output_tokens": 1
  }
}

fallback_credit_tokenItu adalah string buram. Itu adalah null saat kondisi mint tidak terpenuhi (tidak ada cache yang dibaca pada permintaan asli, model tidak memenuhi syarat kredit, atau flag beta tidak ada). Server-side kegagalan pencetakan menghasilkannull, tidak pernah kesalahan.

Dalam mode streaming, token dikirimkan di message_delta acara finalstop_details.

Langkah 2: Tukarkan token pada permintaan coba lagi

Teruskan token sebagai parameter tingkat atas pada percobaan ulang ke model fallback:

{
  "anthropic_version": "bedrock-2023-05-31",
  "anthropic_beta": ["fallback-credit-2026-06-09"],
  "model": "anthropic.claude-opus-4-8",
  "max_tokens": 4096,
  "system": "...",
  "messages": [...],
  "tools": [...],
  "fallback_credit_token": "<token from the refusal's stop_details>"
}

Aturan penukaran

Aturan Persyaratan
Jendela waktu Token harus ditukarkan dalam waktu 5 menit setelah diterbitkan.
Pengikatan platform Token yang dicetak hanya bedrock-mantle dapat ditukarkan pada. bedrock-mantle
Pertandingan tubuh toolsBidangsystem,messages, dan harus sesuai dengan permintaan yang ditolak dengan tepat. Kirim mereka apa adanya; jangan lepaskan blok pemikiran.
Coba lagi bentuk Badan coba lagi harus (a) cocok dengan permintaan yang ditolak dengan tepat (model fallback meregenerasi respons), atau (b) mencocokkannya dengan satu pesan asisten yang ditambahkan yang berisi keluaran sebagian respons yang ditolak (model fallback berlanjut dari tempat Fable 5 terputus).
Model target Harus menjadi target fallback yang valid dari model yang ditolak.

Penanganan kesalahan

Dengan tanda beta hadir, setiap kegagalan validasi penukaran mengembalikan a. 400 invalid_request_error Jalur pemulihan dalam setiap kasus adalah mencoba lagi tanpafallback_credit_token. Kondisi kegagalan meliputi:

  • Token yang salah bentuk atau tidak dapat dikenali

  • Token lebih tua dari 5 menit

  • Badan permintaan tidak cocok dengan permintaan asli yang ditolak

  • Model target bukan target fallback yang valid

  • Token telah ditebus

Tanpa bendera beta, fallback_credit_token ditolak sebagai bidang yang tidak diketahui (400). Parameter juga ditolak berdasarkan count_tokens permintaan.

Dampak penagihan

Ketika token kredit fallback berhasil ditebus, permintaan coba lagi menerima kredit untuk token cache-write yang tumpang tindih dengan awalan cache permintaan yang ditolak. Pelanggan hanya membayar token net-new pada percobaan ulang, bukan untuk men-cache ulang awalan percakapan.

Contoh alur kerja

  1. Kirim permintaan ke Claude Fable 5 dengan. anthropic_beta: ["fallback-credit-2026-06-09"]

  2. Menerima penolakan dengan fallback_credit_token masukstop_details.

  3. Segera coba lagi ke Claude Opus 4,8 dengan yang samasystem,messages, dantools, ditambah. fallback_credit_token

  4. Coba lagi ditagih dengan tarif yang dikurangi untuk awalan cache yang tumpang tindih.

Jika tokennull, kedaluwarsa, atau tidak valid — coba lagi secara normal tanpanya. Kredit adalah pengoptimalan biaya, bukan persyaratan fungsional agar percobaan ulang berhasil.