CloudWatch メトリクスを使用して Amazon Bedrock エージェントをモニタリングする - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

CloudWatch メトリクスを使用して Amazon Bedrock エージェントをモニタリングする

次の表は、Amazon CloudWatch メトリクスを使用してモニタリングできる、Amazon Bedrock エージェントが提供するランタイムメトリクスを説明しています。

ランタイムメトリクス

メトリクス名 Unit 説明
InvocationCount サンプル数 API オペレーションへのリクエスト数
TotalTime ミリ秒 サーバーがリクエストの処理にかけた時間
TTFT ミリ秒 最初のトークンまでの時間メトリクス invokeAgent リクエストまたは invokeInlineAgent リクエストでストリーミング設定が有効になっている場合に発行される
InvocationThrottles サンプル数 システムがスロットリングした呼び出しの数。スロットリングされたリクエストやその他の呼び出しエラーは、呼び出しまたはエラーとしてはカウントされない
InvocationServerErrors サンプル数 AWSサーバー側のエラーが発生する呼び出しの数
InvocationClientErrors サンプル数 クライアント側でエラーが発生した呼び出しの数
ModelLatency ミリ秒 モデルのレイテンシー
ModelInvocationCount サンプル数 エージェントがモデルに対して行ったリクエストの数
ModelInvocationThrottles サンプル数 Amazon Bedrock コアがスロットリングしたモデル呼び出しの数。スロットリングされたリクエストやその他の呼び出しエラーは、呼び出しまたはエラーとしてはカウントされない
ModelInvocationClientErrors サンプル数 クライアント側でエラーが発生した呼び出しの数
ModelInvocationServerErrors サンプル数 AWSサーバー側のエラーが発生するモデル呼び出しの数
InputTokenCount サンプル数 モデルに入力されたトークンの数
outputTokenCount サンプル数 モデルから出力されたトークンの数

エージェントのディメンションは、次の表に基づいて CloudWatch コンソールで表示できます。

ディメンション

ディメンション名 ディメンション値 次のメトリクスで利用可能
Operation InvokeAgent、InvokeInlineAgent

  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrors

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount
オペレーション、ModelId オペレーションのディメンションと Amazon Bedrock コアモデルの modelId にリストされている、任意の Amazon Bedrock エージェントオペレーション

  • TotalTime

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrors

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount
オペレーション、AgentAliasArn、ModelId オペレーションディメンションにリストされている、任意の Amazon Bedrock エージェントオペレーションと、エージェントエイリアスの agentAliasArn でグループ化された Amazon Bedrock モデルの任意の modelId

  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrors

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

エージェント用の CloudWatch メトリクスを使用する

エージェントのメトリクスは、 AWSマネジメントコンソール、 CLI、または CloudWatch API AWSを使用して取得できます。CloudWatch API は、 AWSSoftware Development Kit (SDKsまたは CloudWatch API ツールのいずれかを使用して使用できます。

CloudWatch でのエージェントメトリクスの名前空間は AWS/Bedrock/Agents です。

CloudWatch でエージェントをモニタリングするには、適切な CloudWatch のアクセス許可が必要です。詳細については、「CloudWatch ユーザーガイド」の「CloudWatch に対する認証とアクセスコントロール」を参照してください。

重要

CloudWatch が収集したデータを CloudWatch サービスの改善に使用しないようにするには、オプトアウトポリシーを作成できます。詳細については、「AI サービスのオプトアウトポリシー」を参照してください。

CloudWatch ダッシュボードにメトリクスが公開されていない場合は、エージェントの作成に使用した IAM サービスロールに、以下のポリシーが含まれていることを確認してください。

JSON
{
    "Version":"2012-10-17",		 	 	 
    "Statement": {
        "Effect": "Allow",
        "Resource": "*",
        "Action": "cloudwatch:PutMetricData",
        "Condition": {
            "StringEquals": {
                "cloudwatch:namespace": "AWS/Bedrock/Agents"
            }
        }
    }
}