跨 AWS 区域分配护栏推理 - Amazon Bedrock

跨 AWS 区域分配护栏推理

您可以使用 Amazon Bedrock 护栏启用跨区域推理,它会在护栏策略评估期间自动将推理请求路由到您所在地理位置的最佳 AWS 区域。(有关其工作方式的更多信息,请参阅通过跨区域推理提高吞吐量。) 跨 AWS 区域分配推理请求,可以最大限度地增加可用计算资源和提高模型可用性,有助于在需求增加时保持护栏的性能和可靠性。使用跨区域推理不会产生额外费用。

跨区域推理请求保留在属于数据原始所在地理位置的 区域内。例如,在美国境内提出的请求将保留在美国境内的区域内。尽管护栏配置仍然只存储在主区域中,但在使用跨区域推理时,您的输入提示和输出结果可能会移出主区域。所有数据均在 Amazon 的安全网络内以加密方式传输。

设置跨区域护栏推理

跨区域护栏推理是通过护栏配置文件处理的,该配置文件是一种系统定义的资源,您可以在创建修改护栏时通过以下方式之一指定:

您需要特定的权限才能使用跨区域护栏推理。有关更多信息,请参阅 将跨区域推理与 Amazon Bedrock 护栏结合使用的权限