에이전트 보기
에이전트 보기에서는 계정의 에이전트에 대해 선별된 대시보드를 제공합니다. AgentCore 런타임, Lambda 또는 Amazon EC2와 같은 AWS 네이티브 서비스에 호스팅되는 에이전트의 데이터를 볼 수 있습니다. 보기에는 CloudWatch로 원격 측정을 내보내는 에이전트도 표시됩니다.
개요
지표 및 대시보드에는 샘플링된 에이전트 스팬의 데이터가 표시됩니다. 에이전트 스팬에 대한 자세한 내용은 Spans를 참조하세요.
다음과 같은 에이전트 지표가 지원됩니다.
-
에이전트/별칭 - 스팬를 내보내는 계측된 에이전트 및 별칭 수
-
세션 - 스팬을 내보내는 계측된 에이전트가 생성한 세션 수. 세션은 대화와 유사하며 광범위한 컨텍스트를 포함합니다.
-
트레이스 - 스팬을 내보내는 계측된 에이전트가 생성한 트레이스 수. 트레이스는 세션 내 개별 요청-응답 주기입니다.
-
오류 발생률 - 에이전트 상호 작용에서 발생하는 오류 백분율
-
스로틀 속도 - 스로틀링된 에이전트 상호 작용의 백분율
세부 정보 보기를 선택하여 그래프에서 에이전트 지표를 확인합니다.
런타임 지표
런타임 지표 및 대시보드에는 런타임 기본 유형의 데이터가 표시됩니다. 이 기본 유형을 사용하면 Amazon Bedrock AgentCore 런타임에서 에이전트를 호스팅할 수 있습니다. 자세한 내용은 Creating an AgentCore Runtime을 차조하세요.
AgentCore 런타임은 다음과 같은 지표를 지원합니다.
런타임 에이전트/별칭 - AgentCore 런타임에 호스팅되는 에이전트 및 별칭 수 추적
런타임 세션 - AgentCore 런타임에서 실행 중인 에이전트가 생성한 세션 수를 추적합니다. 세션은 대화와 유사하며 전체 상호 작용 흐름에서 광범위한 컨텍스트를 포함합니다. 전체 플랫폼 사용량, 용량 계획을 모니터링하고 사용자 참여 패턴을 이해하는 데 유용함
런타임 간접 호출 - 데이터 플레인 API에 대한 총 요청 수. 각 API 직접 호출은 요청 페이로드 크기 또는 응답 상태에 관계없이 하나의 간접 호출로 계산됩니다.
런타임 오류 - 시스템 및 사용자 오류 수. 시스템 및 사용자 오류 정의는 AgentCore provided runtime metrics를 참조하세요.
런타임 스로틀 - 허용된 초당 트랜잭션 수(TPS)를 초과하여 서비스에 의해 스로틀링되는 요청 수. 이러한 요청은 HTTP 상태 코드 429와 함께 ThrottlingException을 반환합니다. 이 지표를 모니터링하여 서비스 할당량을 검토해야 하는지, 요청 패턴을 최적화해야 하는지 여부를 결정합니다.
기본 대시보드에서 시간 경과에 따른 지표 변경 사항을 봅니다. 세부 정보 보기를 확장하여 지표 그래프를 표시합니다.
에이전트
에이전트는 애플리케이션에서 모니터링 데이터를 수집하고 전송하는 구성 요소입니다. 에이전트 테이블에는 계정에 구성된 모든 에이전트가 표시됩니다. 이러한 에이전트는 AgentCore 런타임, Lambda 또는 Amazon EC2와 같은 AWS 네이티브 서비스에서 호스팅할 수 있습니다. 이 테이블에는 CloudWatch에 원격 측정을 내보내도록 구성된 다른 에이전트도 표시됩니다.
에이전트 필터링을 사용하여 심층 분석하려는 특정 에이전트를 찾거나 열 이름을 기반으로 에이전트를 정렬하여 필요한 에이전트를 찾을 수도 있습니다. 톱니 아이콘을 선택하여 추가 열을 표시하거나 숨깁니다.
에이전트 이름을 확장하여 에이전트의 세부 정보를 볼 수 있습니다.
에이전트 세부 정보 - 개요
개요 탭에는 에이전트 지표에 대한 자동 대시보드가 표시됩니다. 이러한 지표는 샘플링된 스팬 및 런타임 지표(에이전트가 AgentCore 런타임을 사용하는 경우)에서 가져옵니다.
에이전트 지표 대시보드에는 샘플링된 스팬에서 파생된 지표가 포함됩니다.
세션 및 트레이스 - 이 에이전트의 세션 및 트레이스 수
FM 토큰 사용량 - 총 기본 모델 토큰 소모 수. 차트를 특정 기본 모델로 필터링할 수 있습니다.
시스템 및 클라이언트 오류 - 요청 처리 중 발생하는 시스템 오류 수. 높은 수준의 서버 측 오류에서는 조사가 필요한 잠재적 인프라 또는 서비스 문제를 나타낼 수 있습니다. 클라이언트 오류는 유효하지 않은 요청으로 인해 발생하는 오류입니다. 높은 수준의 클라이언트 측 오류에서는 요청 형식 또는 권한 관련 문제를 나타낼 수 있습니다.
스팬별 오류 및 지연 시간 - 특정 스팬별 오류 발생률 및 지연 시간. 스팬은 많은 에이전트에서 나타날 수 있습니다.
스로틀 - 허용된 초당 트랜잭션 수(TPS)를 초과하여 서비스에 의해 스로틀링되는 요청 수
런타임 지표 대시보드에는 AgentCore 런타임이 자동으로 생성하는 지표가 포함되어 있습니다.
런타임 세션 및 간접 호출 - 런타임에 호스팅되는 동안 이 특정 에이전트가 생성하는 세션 및 간접 호출 수
런타임 지연 시간 - 런타임에 호스팅되는 에이전트의 요청 지연 시간
런타임 스로틀 - 허용된 초당 트랜잭션 수(TPS)를 초과하여 서비스에 의해 스로틀링되는 요청 수
에이전트 세부 정보 - 세션
에이전트에는 여러 세션이 있을 수 있습니다. 세션 탭에서 세션을 봅니다. 세션 필터링을 사용하거나 열을 정렬하여 필요한 세션을 찾습니다.
세션 ID를 선택하여 세션 요약 지표와 해당 세션에 속하는 트레이스 목록을 봅니다. 세션 지표에는 다음이 포함됩니다.
트레이스 - 세션에 속하는 트레이스 수
서버 오류 - 요청 처리 중 발생하는 시스템 오류 수. 높은 수준의 서버 측 오류에서는 조사가 필요한 잠재적 인프라 또는 서비스 문제를 나타낼 수 있습니다.
클라이언트 오류 - 클라이언트 오류는 유효하지 않은 요청으로 인해 발생하는 오류입니다. 높은 수준의 클라이언트 측 오류에서는 요청 형식 또는 권한 관련 문제를 나타낼 수 있습니다.
스로틀 - 허용된 초당 트랜잭션 수(TPS)를 초과하여 이 세션과 관련해 스로틀링되는 요청 수
세션 세부 정보 - 시작 시간, 종료 시간 및 세션 ID와 같은 세션에 대한 메타 데이터
세션의 트레이스 목록을 분석하려면 트레이스 필터링을 선택하여 범위를 좁히거나 테이블 열을 정렬하여 특정 트레이스를 위로 표시합니다.
트레이스를 선택하면 오른쪽 창에 트레이스의 세부 정보가 표시됩니다. 각 트레이스에 대해 트레이스 요약, 스팬 및 트레이스 콘텐츠 세부 정보를 볼 수 있습니다.
트레이스 요약에서 다음 지표를 볼 수 있습니다.
참고
요약 페이지 필드는 에이전트 보기, 세션 보기 및 트레이스 보기에서 일관됩니다.
스팬 - 트레이스 내 스팬 수
서버 오류 - 요청 처리 중 발생하는 시스템 오류 수. 높은 수준의 서버 측 오류에서는 조사가 필요한 잠재적 인프라 또는 서비스 문제를 나타낼 수 있습니다.
클라이언트 오류 - 클라이언트 오류는 유효하지 않은 요청으로 인해 발생하는 오류입니다. 높은 수준의 클라이언트 측 오류에서는 요청 형식 또는 권한 관련 문제를 나타낼 수 있습니다.
스로틀 - 허용된 초당 트랜잭션 수(TPS)를 초과하여 이 세션과 관련해 스로틀링되는 요청 수
P95 스팬 지연 시간 - 이 특정 스팬의 모든 간접 호출에서 95 백분위수 지연 시간. 많은 에이전트에서 스팬을 사용할 수 있습니다.
트레이스 세부 정보 - 시작 시간, 종료 시간 및 트레이스 ID와 같은 트레이스에 대한 메타 데이터
타임라인을 선택하여 각 스팬의 지속 시간을 보고 가장 오래 걸리고 느린 응답에 기여한 스팬을 파악합니다.
스팬 관계 및 후속 직접 호출을 분석하려면 궤적을 선택하여 스팬의 상호 연결된 관계 및 이러한 스팬의 후속 직접 호출을 파악합니다.
스팬에서 개별 스팬 이벤트를 선택하여 원래 양식으로 스팬 데이터를 검토합니다. 스팬 데이터를 원래 양식으로 검토합니다. 세분화된 문제 해결을 위해 이벤트 탭을 선택하여 모델 입력 및 출력을 검사합니다.
에이전트 세부 정보 - 트레이스
각 에이전트에는 여러 트레이스가 있을 수 있습니다. 트레이스 탭에서 트레이스 세부 정보를 봅니다. 트레이스 필터링을 선택하거나 열을 정렬하여 필요한 트레이스를 찾습니다.
