View a markdown version of this page

被拒绝的请求的备用积分(测试版) - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

被拒绝的请求的备用积分(测试版)

当 Claude Fable 5 拒绝请求时,在不同模型(例如 Claude Opus 4.8)上重试相同对话的客户通常会为已缓存在于 Fable 5 中的对话前缀重新支付缓存写入费率。备用积分通过在拒绝时发行一次性信用代币来消除这种双重扣款,该代币可以在重试时兑换。

此功能要求fallback-credit-2026-06-09在原始请求和重试时anthropic_beta数组中都有 beta 标志。

支持的模型

角色 模型
来源(拒绝时发放积分) Claude Fable 5
目标(重试时兑换积分) 必须是源模型的有效后备目标

工作原理

第 1 步:拒绝时收到备用信用代币

当对 Claude Fable 5 的请求返回stop_reason: "refusal"并且存在测试标志时,该stop_details对象将包含:fallback_credit_token

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

fallback_credit_token是一个不透明的字符串。这是不满足铸币条件null的时候(原始请求中没有读取任何缓存,模型不符合积分资格,或者没有测试版标志)。 Server-side 铸造失败会产生错误null,永远不会出错。

在直播模式下,代币将在最终message_delta活动中交付stop_details

第 2 步:根据重试请求兑换代币

在重试时将令牌作为顶级参数传递给后备模型:

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-09"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

兑换规则

规则 要求
时间窗口 代币必须在发行后的 5 分钟内兑换。
平台绑定 铸造的代币bedrock-mantle只能在上面兑换。bedrock-mantle
身体匹配 systemmessages、和tools字段必须与被拒绝的请求完全匹配。按原样发送它们;不要剥掉思维障碍。
重试形状 重试正文必须 (a) 与被拒绝的请求完全匹配(后备模型重新生成响应),或者 (b) 将其与包含被拒绝响应部分输出的附加辅助消息进行匹配(后备模型从 Fable 5 中断的地方继续)。
目标模型 必须是被拒绝模型的有效后备目标。

错误处理

如果存在 beta 标志,任何兑换验证失败都会返回400 invalid_request_error。在任何情况下,恢复途径都是在没有的情况下fallback_credit_token重试。故障情况包括:

  • 令牌格式错误或无法识别

  • 代币存在时间超过 5 分钟

  • 请求正文与最初被拒绝的请求不匹配

  • 目标模型不是有效的后备目标

  • 代币已兑换

如果没有 beta 标志,fallback_credit_token则作为未知字段 (400) 被拒绝。该参数也会在count_tokens请求时被拒绝。

账单影响

成功兑换备用积分令牌后,重试请求会收到与被拒绝请求的缓存前缀重叠的缓存写入令牌的积分。客户只需为重试时的净新代币付费,而不是为重新缓存对话前缀付费。

工作流示例

  1. 使用以下方式向 Claude Fable 5 发送请求。anthropic_beta: ["fallback-credit-2026-06-09"]

  2. 收到带有输入fallback_credit_token的拒绝stop_details

  3. 使用相同的、、和tools,再加上 systemmessages,立即重试到 Claude Opus 4.8。fallback_credit_token

  4. 对于重叠的缓存前缀,重试按较低的费率计费。

如果令牌已失效null、已过期或无效,请在没有令牌的情况下正常重试。积分是一种成本优化,而不是重试成功的功能要求。