翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
Amazon Bedrock のパフォーマンスのモニタリング
Amazon CloudWatch を使用して Amazon Bedrock 全体を監視することで、raw データを収集し、それをほぼリアルタイムで読み取り可能なメトリクスに加工することができます。CloudWatch コンソールを使用して、メトリクスをグラフ化できます。また、特定のしきい値を超えないかどうかをモニタリングするアラームを設定するとともに、しきい値を超えたときに通知を送信したりアクションを実行したりできます。
詳細については、「Amazon CloudWatch ユーザーガイド」の「Amazon CloudWatch とは」を参照してください。
Amazon Bedrock ランタイムメトリクス
次の表は、Amazon Bedrock が提供するランタイムメトリックスについて説明しています。
| メトリクス名 | 単位 | 説明 |
|---|---|---|
| Invocations | サンプル数 | Converse、ConverseStream、InvokeModel、InvokeModelWithResponseStream API オペレーションに対する成功したリクエストの数。 |
|
InvocationLatency |
ミリ秒 |
呼び出しのレイテンシー。
|
|
InvocationClientErrors |
サンプル数 |
クライアント側でエラーが発生した呼び出しの数。 |
|
InvocationServerErrors |
サンプル数 |
AWS サーバー側のエラーが発生する呼び出しの数。 |
|
InvocationThrottles |
サンプル数 |
システムがスロットリングした呼び出しの数。スロットリングされたリクエストやその他の呼び出しエラーは、呼び出しまたはエラーとしてカウントされません。表示されるスロットルの数は、SDK の再試行設定によって異なります。詳細については、「SDK およびツールリファレンスガイド」の「再試行動作」を参照してください。 AWS SDKs |
|
InputTokenCount |
サンプル数 |
入力内のトークン数。 |
| LegacyModelInvocations | サンプル数 | レガシーモデルを使用した呼び出しの数 |
|
OutputTokenCount |
サンプル数 |
出力内のトークン数。 |
|
OutputImageCount |
サンプル数 |
出力内の画像の数 (画像生成モデルにのみ適用されます)。 |
Amazon Bedrock ガードレールと Amazon Bedrock エージェントにはメトリクスもあります。
Amazon Bedrock 向け CloudWatch メトリクス
配信が成功または失敗するたびに、名前空間 AWS/Bedrock と Across all model IDs ディメンションに関する次の Amazon CloudWatch メトリクスが出力されます。
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Amazon Bedrock オペレーションのメトリクスを取得するには、以下の情報を指定する必要があります。
-
メトリクスディメンション。ディメンションは、メトリクスを識別するための名前と値のペアのセットです。Amazon Bedrock は、以下のディメンションをサポートしています。
-
ModelId- すべてのメトリクス -
ModelId + ImageSize + BucketedStepSize- OutputImageCount
-
-
メトリクス名 (
InvocationClientErrorsなど)。
Amazon Bedrock のメトリクスは、 AWS Management Console、、 AWS CLIまたは CloudWatch API を使用して取得できます。CloudWatch API は、 AWS Software Development Kit (SDKsまたは CloudWatch API ツールのいずれかを使用して使用できます。
CloudWatch コンソールで Amazon Bedrock メトリクスを表示するには、ナビゲーションペインの [メトリクス] セクションに移動し、すべてのメトリクスオプションを選択し、モデル ID を検索します。
CloudWatch で Amazon Bedrock をモニタリングするには、CloudWatch への適切なアクセス許可が必要です。詳細については、「Amazon CloudWatch ユーザーガイドの「Amazon CloudWatch に対する認証とアクセスコントロール」を参照してください。
