將護欄推論分散到 AWS 區域 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

將護欄推論分散到 AWS 區域

您可以使用 Amazon Bedrock Guardrails 啟用跨區域推論,其會在護欄政策評估期間自動將推論請求路由至您地理位置 AWS 區域 內的最佳 。(如需如何運作的詳細資訊,請參閱 使用跨區域推論增加輸送量。) 跨 分發推論請求可將可用的運算資源和模型可用性 AWS 區域 最大化,有助於在需求增加時維持護欄效能和可靠性。使用跨區域推論無需額外費用。

跨區域推論請求會保留在原始資料所在地理位置的區域中。例如,在美國提出的請求會保留在美國的 區域內。雖然您的護欄組態只會存放在主要區域,但使用跨區域推論時,您的輸入提示和輸出結果可能會移動到主要區域之外。所有資料都會在 Amazon 的安全網路中加密傳輸。

設定跨區域護欄推論

跨區域護欄推論是透過護欄設定檔處理,這是系統定義的資源,您可以在建立或修改護欄時指定下列其中一種方式:

您需要特定許可才能使用跨區域護欄推論。如需詳細資訊,請參閱搭配 Amazon Bedrock Guardrails 使用跨區域推論的許可