ガードレール推論を AWS リージョンにわたって分散する

Amazon Bedrock ガードレールを使用してクロスリージョン推論を有効にできます。これにより、ガードレールポリシーの評価中に推論リクエストが自動的に地理的に最も適した AWS リージョンにルーティングされます。(この仕組みの詳細については、「クロスリージョン推論によりスループットを向上させる」を参照してください)。推論リクエストを AWS リージョン全体に分散することで、利用可能なコンピューティングリソースとモデルの可用性が最大化され、需要が増大した場合でもガードレールのパフォーマンスと信頼性を維持できます。クロスリージョン推論の使用に追加料金はかかりません。

クロスリージョン推論リクエストは、データが最初に存在していた地域の一部である リージョン内に保持されます。例えば、米国内で実行されたリクエストは、米国のリージョン内に保持されます。ガードレール設定はプライマリリージョンにのみ保存されますが、クロスリージョン推論を使用する場合、入力プロンプトと出力結果はプライマリリージョン外に移動される場合があります。すべてのデータは Amazon の安全なネットワーク経由で暗号化されて送信されます。

クロスリージョンガードレール推論を設定する

クロスリージョンガードレール推論は、ガードレールプロファイルを介して処理されます。ガードレールプロファイルはシステム定義のリソースであり、ガードレールの作成または変更時に、以下のいずれかの方法で指定できます。

クロスリージョンガードレール推論を使用するには、特定のアクセス許可が必要です。詳細については、「Amazon Bedrock ガードレールでクロスリージョン推論を使用するためのアクセス許可」を参照してください。