在各处分发护栏推理 AWS 区域 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

在各处分发护栏推理 AWS 区域

您可以使用 Amazon Bedrock Guardrails 启用跨区域推理,它会在护栏策略评估期间自动将推理请求路由到您所在地区的最佳位置。 AWS 区域 (有关其工作原理的更多信息,请参阅通过跨区域推理提高吞吐量。) 在各处分配推理请求 AWS 区域 可以最大限度地提高可用计算资源和模型可用性,有助于在需求增加时保持防护性能和可靠性。使用跨区域推理不会产生额外费用。

跨区域推理请求保存在作为数据最初所在地理位置一部分的区域内。例如,在美国提出的请求会保存在美国的地区内。尽管您的护栏配置仅存储在主区域中,但在使用跨区域推理时,您的输入提示和输出结果可能会移到主区域之外。所有数据均在亚马逊的安全网络中加密传输。

设置跨区域护栏推理

跨区域护栏推理通过护栏配置文件进行处理,护栏配置文件是一种系统定义的资源,您可以在创建修改护栏时通过以下方式之一指定该资源:

您需要特定的权限才能使用跨区域护栏推理。有关更多信息,请参阅 通过 Amazon Bedrock Guardrails 使用跨区域推理的权限