將防護機制推論分配到 AWS 區域 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

將防護機制推論分配到 AWS 區域

您可以使用 Amazon Bedrock 防護機制啟用跨區域推論,其會在防護機制政策評估期間自動將推論請求路由至您地理位置內的最佳 AWS 區域。(如需此操作如何進行的詳細資訊,請參閱 透過跨區域推論增加輸送量。) 將推論請求分配到各個 AWS 區域,即可讓充分運用可用的運算資源和模型可用性,有助於在需求增加時,維持防護機制的效能和可靠性。使用跨區域推論無需額外費用。

跨區域推論請求會保留在資料原本所在地理位置的 區域內。例如,在美國提出的請求會保留在美國的區域內。雖然防護機制組態只會存放在主要區域中,但在使用跨區域推論時,您的輸入提示和輸出結果可能會移動到主要區域之外。所有資料在 Amazon 的安全網路內傳輸時,都會經過加密。

設定跨區域防護機制推論

跨區域防護機制推論是透過防護機制設定檔處理,這是系統定義的資源,您可以在建立修改防護機制時,指定下列其中一種方式:

您需要特定許可,才能使用跨區域防護機制推論。如需詳細資訊,請參閱 搭配 Amazon Bedrock 防護機制使用跨區域推論的許可