翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
Amazon Bedrock のパフォーマンスをモニタリングする
Amazon CloudWatch を使用して Amazon Bedrock 全体を監視することで、raw データを収集し、それをほぼリアルタイムで読み取り可能なメトリクスに加工することができます。CloudWatch コンソールを使用して、メトリクスをグラフ化できます。また、特定のしきい値を超えないかどうかをモニタリングするアラームを設定するとともに、しきい値を超えたときに通知を送信したりアクションを実行したりできます。
詳細については、「Amazon CloudWatch ユーザーガイド」の「Amazon CloudWatch とは」を参照してください。
Amazon Bedrock ランタイムメトリクス
次の表は、Amazon Bedrock が提供するランタイムメトリックスについて説明しています。
| メトリクス名 | Unit | 説明 |
|---|---|---|
| 呼び出し | サンプル数 | Converse API オペレーション、ConverseStream API オペレーション、InvokeModel API オペレーション、InvokeModelWithResponseStream API オペレーションへの成功したリクエスト数。 |
|
InvocationLatency |
ミリ秒 |
呼び出しのレイテンシー。
|
|
InvocationClientErrors |
サンプル数 |
クライアント側でエラーが発生した呼び出しの数。 |
|
InvocationServerErrors |
サンプル数 |
AWSサーバー側のエラーが発生する呼び出しの数。 |
|
InvocationThrottles |
サンプル数 |
システムがスロットリングした呼び出しの数。スロットリングされたリクエストやその他の呼び出しエラーは、呼び出しまたはエラーとしてはカウントされない 表示されるスロットリングの数は、SDK の再試行設定によって異なります。詳細については、「SDK およびツールリファレンスガイド」の「再試行動作」を参照してください。AWSSDKs |
|
InputTokenCount |
サンプル数 |
入力内のトークン数。 |
| LegacyModelInvocations | サンプル数 | レガシーモデルを使用した呼び出しの数 |
|
OutputTokenCount |
サンプル数 |
出力内のトークン数。 |
|
OutputImageCount |
サンプル数 |
出力内の画像の数 (画像生成モデルにのみ適用されます)。 |
Amazon Bedrock のガードレールと Amazon Bedrock エージェントのメトリクスもあります。
Amazon Bedrock 向け CloudWatch メトリクス
配信が成功または失敗するたびに、名前空間 AWS/Bedrock と Across all model IDs ディメンションに関する次の Amazon CloudWatch メトリクスが出力されます。
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Amazon Bedrock オペレーションのメトリクスを取得するには、以下の情報を指定する必要があります。
-
メトリクスディメンション。ディメンションは、メトリクスを識別するための名前と値のペアのセットです。Amazon Bedrock は、以下のディメンションをサポートしています。
-
ModelId- すべてのメトリクス -
ModelId + ImageSize + BucketedStepSize- OutputImageCount
-
-
メトリクス名 (
InvocationClientErrorsなど)。
Amazon Bedrock のメトリクスは、AWS マネジメントコンソール、、AWS CLIまたは CloudWatch API で取得できます。CloudWatch API は、 AWSSoftware Development Kit (SDKsまたは CloudWatch API ツールのいずれかを使用して使用できます。
CloudWatch コンソールで Amazon Bedrock メトリクスを表示するには、ナビゲーションペインの [メトリクス] セクションに移動し、すべてのメトリクスオプションを選択し、モデル ID を検索します。
CloudWatch で Amazon Bedrock をモニタリングするには、CloudWatch への適切なアクセス許可が必要です。詳細については、「Amazon CloudWatch ユーザーガイドの「Amazon CloudWatch に対する認証とアクセスコントロール」を参照してください。
