翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
クロスリージョン推論 AWS リージョン を使用してモデル推論リクエストを 全体にルーティングする
クロスリージョン推論では、特定の地域 (米国や欧州など) に関連付けられたクロスリージョン推論プロファイル、またはグローバル推論プロファイルを選択できます。特定の地域に関連付けられた推論プロファイルを選択すると、Amazon Bedrock はその地域 AWS リージョン 内のコマーシャルを自動的に選択して推論リクエストを処理します。グローバル推論プロファイルを使用すると、Amazon Bedrock はリクエスト AWS リージョン を処理する商用 を自動的に選択します。
どちらのタイプのクロスリージョン推論も、基盤モデル (FM) とリクエストを AWS リージョン ルーティングできる を定義する推論プロファイルを使用します。クロスリージョン推論は、異なる 間でコンピューティングを使用してリクエストをルーティングします AWS リージョン。
モデルのスループットを向上させるには、プロビジョンドスループットを購入できます。推論プロファイルは現在、プロビジョンドスループットをサポートしていません。
推論プロファイルを使用してクロスリージョン推論を実行できるリージョンとモデルを確認するには、「推論プロファイルでサポートされているリージョンおよびモデル」を参照してください。
地理的クロスリージョン推論とグローバルクロスリージョン推論の選択
Amazon Bedrock には 2 種類のクロスリージョン推論プロファイルがあり、それぞれ異なるユースケースとコンプライアンス要件向けに設計されています。
| 機能 | 地理的クロスリージョン推論 | グローバルクロスリージョン推論 | 推奨事項 |
|---|---|---|---|
| データレジデンシー | 地理的境界内 (米国、欧州、APAC など) | サポートされている世界中の AWS 商用リージョン | コンプライアンス要件に地理的 を選択する |
| リクエストルーティング | 地域内でルーティング | 全世界にルーティング | リクエストを処理できる場所に基づいて選択する |
| Cost | 標準料金 | 約 10% の節約 | コスト最適化のためにグローバルを選択する |
| SCP の要件 | プロファイル内のすべての送信先リージョンを許可する | 許可 "aws:RequestedRegion": "unspecified" |
組織のポリシーに基づいて を設定する |
| 以下に最適: | データレジデンシー規制のある組織 | コスト最適化を優先する組織 | コンプライアンスとコストのニーズを評価する |
データレジデンシー要件があり、データ処理が特定の地理的境界内に留まるようにする必要がある場合は、地理的クロスリージョン推論を選択します。地理的制限のないコスト削減が必要な場合は、グローバルクロスリージョン推論を選択します。
一般的な考慮事項
クロスリージョン推論に関する以下の情報に注意してください。
-
クロスリージョン推論を使用する場合、追加のルーティングコストは必要ありません。料金は、推論プロファイルを呼び出すリージョンに基づいて計算されます。料金に関する詳細については、「Amazon Bedrock の料金
」を参照してください。 -
クロスリージョン推論は、 で手動で有効にされていないリクエスト AWS リージョン を にルーティングできます AWS アカウント。クロスリージョン推論を機能させるには、リージョンを手動で有効にする必要はありません。
-
クロスリージョンオペレーション中に送信されるすべてのデータはネットワーク上に AWS 残り、パブリックインターネットを経由しません。データは 間で転送中に暗号化されます AWS リージョン。
-
CloudTrail は、ソースリージョン内のすべてのクロスリージョン推論リクエストをログに記録します。
additionalEventData.inferenceRegionフィールドを探して、リクエストが処理された場所を特定します。 -
AWS Amazon Bedrock が提供するサービスも CRIS を使用する場合があります。詳細については、サービス固有のドキュメントを参照してください。
