View a markdown version of this page

Cross-region 处理 - Amazon Connect 的决定

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Cross-region 处理

Amazon Connections 由 Amazon Bedrock 提供支持,它使用跨区域推理 (CRIS) 在不同 AWS 区域之间分配流量,以增强大型语言模型 (LLM) 的推理性能和可靠性。通过跨区域推理,您可以:

  • 在高需求时期提高吞吐量和弹性

  • 提高性能

  • 访问新推出的 Amazon Connections 功能和功能,这些功能和功能依赖于 Amazon Bedrock 上托管的最强大的 LLM

Cross-region 根据创建 Amazon Connections 实例的 AWS 区域,推理的工作原理会有所不同。

对于在美国地理区域创建的所有实例,Amazon Connect Decisions 都将使用全球 CRI。这意味着推理请求将被路由到全球支持的商业 AWS 区域,从而优化可用资源并实现更高的模型吞吐量。要了解有关全球 CRI 的更多信息,请参阅 Amazon Bedrock 用户指南

对于在欧盟地理区域创建的所有实例,Amazon Connect 决策将使用地理 CRI。这意味着推理请求保存在数据最初所在的地理 AWS 区域内。要了解有关地理 CRIS 的更多信息,请参阅 Amazon Bedrock 用户指南

例如,在美国东部(弗吉尼亚北部)(us-east-1)地区创建的 Amazon Connect Decisions 实例发出的请求可以路由到全球 AWS 任何区域,例如亚太地区(悉尼)(ap-southeast-2)。但是,对于从在欧洲(爱尔兰)(eu-west-1)地区创建的 Amazon Connections 实例发出的请求,将路由到欧盟境内的区域,例如欧洲(法 AWS 兰克福)(eu-central-1)。有关更多信息,请参阅 Amazon Connect 决策支持的区域

尽管跨区域推理不会改变数据的存储位置,但您的请求和输出结果可能会移出数据最初所在的区域。所有数据在通过 Amazon 的安全网络传输时都已加密。使用跨区域推理不会产生额外成本。有关使用 Amazon Connect 决策时数据存储位置的信息,请参阅 Amaz on Connect 决策中的数据保护