View a markdown version of this page

ゲートウェイにレート制限を追加する - Amazon Bedrock AgentCore

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

ゲートウェイにレート制限を追加する

レート制限を使用すると、個々の発信者、ターゲット、またはツールがゲートウェイで消費できるトラフィック量を制御できます。トラフィックのグループ化方法を決定するディメンションキーを定義し、各グループの許容スループットを指定するレートエントリを設定します。

レート制限を使用して、次の目標を達成します。

  • トラフィックの急増からバックエンドモデルとツールを保護する

  • JWT クレームまたは IAM ID に基づいて発信者ごとのクォータを適用する

  • レートを 0 に設定して特定の発信者をブロックする

  • 推論ターゲットの 1 分あたりの制御トークン (TPM)

  • エンドポイントへの同時接続を制限する

レート制限の仕組み

各レート制限は、ゲートウェイがバケットにトラフィックをグループ化する方法を決定する 1 つ以上のディメンションキーを定義します。レート制限内で、特定のディメンション値に一致するエントリを作成し、そのバケットの許容レートを指定します。

ゲートウェイはリクエストを受信すると、すべてのアクティブなレート制限を評価します。レート制限ごとに、ゲートウェイはリクエストコンテキストからディメンションキーを解決します。一致するエントリを検索し、リクエストが許可されたレートを超えているかどうかを確認します。リクエストを続行するには、すべてのレート制限に合格する必要があります (AND ロジック)。

レート制限の変更は 30 秒以内にデータプレーンに反映されます。

サービス管理の制限との関係

ゲートウェイは、ユーザー定義のレート制限とサービス管理の制限の両方を適用します。お客様が定義したレート制限は、サービスの上限を超えることはできません。リクエストの有効レートは、お客様が定義した制限とサービスマネージド制限の最小値です。現在のサービス管理の制限については、「ゲートウェイサービスクォータ」を参照してください。

レート制限コンポーネント

コンポーネント 説明

rateLimitId

レート制限の一意の識別子 (2~64 文字、英数字 -、_、.)。作成時に独自の ID を指定するか、省略すると、サービスによって ID が自動的に生成されます。スロットリングされたレスポンスとメトリクスに表示されます。

dimensionKeys

トラフィックをバケットにグループ化する方法を決定する 1~10 個のキーの順序付きリスト。ディメンションキーは、作成後に変更できません。

entries

1~1,000 個のレートエントリのリスト。各エントリは、ディメンション値とそのバケットの許容レートを指定します。

description

レート制限の目的に関するオプションのテキスト説明。

ステータスライフサイクル

ステータス 説明

CREATING

レート制限がプロビジョニングされています。まだ適用されていません。

ACTIVE

レート制限はアクティブで、データプレーンに適用されます。

UPDATING

レート制限は更新中です。以前の設定は、更新が完了するまで強制されます。

DELETING

レート制限は削除中です。削除が完了すると、強制は停止します。

制限

[リソース] 制限

ゲートウェイあたりのレート制限

50

レート制限あたりのエントリ数

1,000

レート制限あたりのディメンションキー

10

説明の最大長

512 文字

エントリディメンション値

ディメンションキーの数と一致する必要があります

レート値の範囲

0~10,000,000 (0 は一致するすべてのトラフィックをブロック)

伝播時間

≤ 30 秒

重要

レート制限では、デフォルトでフェイルオープン動作が使用されます。レート制限サービスが利用できない場合、またはディメンションを解決できない場合、ゲートウェイはリクエストの続行を許可します。セキュリティ体制を適切に設計し、セキュリティ境界としてレート制限のみに依存しないでください。

一般的な API エラー

コントロールプレーン API を使用してレート制限を管理すると、次のエラーが返されることがあります。

HTTP ステータス エラー 説明

400

ValidationException

無効なリクエストパラメータ (サポートされていないメトリクス/期間の組み合わせ、無効なディメンション値など)。

404

ResourceNotFoundException

指定されたゲートウェイまたはレート制限が存在しません。

409

ConflictException

同じディメンションキーを持つレート制限が既に存在するか、ゲートウェイが変更を許可しない状態です。