View a markdown version of this page

작동 방식 - Amazon Bedrock AgentCore

작동 방식

AgentCore 인사이트는 에이전트의 프로덕션 동작에 대한 세 가지 질문에 답합니다. 왜 실패하나요? 사용자가 요청하는 것은 무엇입니까?문제를 어떻게 해결하나요?

얻는 것

인사이트를 실행하면 다음을 받게 됩니다.

  •  개별 오류가 아니라 근본 원인별로 그룹화된 반복되는 문제인 실패 패턴의 우선 순위 목록 입니다. 각 패턴은 무엇이 왜 잘못되었는지 알려줍니다. Insights는 AgentCore 권장 기능과 통합되어 실패 패턴에 대한 수정 사항을 생성합니다.

  • 사용자 의도 맵 - 사용자가 달성하려고 하는 가장 일반적인 사물이며 빈도별로 순위가 매겨집니다.

  • 에이전트 행동 패턴 요약 - 에이전트가 일반적으로 문제에 접근하는 방식과 어떤 결과를 달성하는지.

이는 구성할 수 있는 세 가지 인사이트 유형에 해당합니다.

  • Builtin.Insight.FailureAnalysis - 장애 패턴 감지 및 근본 원인 분석

  • Builtin.Insight.UserIntent - 사용자 의도 추출 및 클러스터링

  • Builtin.Insight.ExecutionSummary - 에이전트 동작 요약 및 클러스터링

분석 작동 방식

Insights는 사용자 메시지, 에이전트 추론, 도구 호출 및 응답의 전체 레코드인 에이전트의 세션 추적을 검사하고 두 가지 수준에서 결과를 생성합니다.

세션 수준 분석

각 세션은 개별적으로 분석되어 다음을 결정합니다.

  • 에이전트가 실행 중에 오류가 발생했는지 여부 - 세션이 성공한 것처럼 보일 때도 최종 사용자에게 표시되지 않을 수 있는 추적 내 숨겨진 실패 포함

  • 발생한 실패 범주(도구 오류, 할루시네이션, 잘못된 도구 선택 등)

  • 에이전트 실행에서 실패를 일으킨 특정 단계

  • 근본 원인은 무엇입니까?

  • 사용자가 달성하려고 했던 것

  • 에이전트가 취한 접근 방식과 최종 결과

패턴 검색

개별 세션을 분석한 후 서비스는 유사한 결과를 그룹화하여 모든 세션에서 반복 패턴을 식별합니다. 실패 분석의 경우 3단계 계층 구조가 생성됩니다.

  1. 장애 범주: "실행 오류", "환각" 또는 "잘못된 작업"과 같은 광범위한 그룹화.

  2. 하위 범주: "속도 제한" 또는 "도구 스키마 오류"와 같은 보다 구체적인 장애 유형입니다.

  3. 근본 원인 클러스터: 각 하위 범주 내에서 특정 반복되는 근본 원인입니다. 각 클러스터는 다음을 알려줍니다.

    • 근본 원인

    • 영향을 받는 세션 수

    • 세부 정보를 검사할 수 있는 세션

사용자 의도 및 실행 요약의 경우 서비스는 빈도별로 순위가 매겨진 플랫 클러스터를 생성합니다.

실행 시

인사이트 실행 시기를 제어할 수 있습니다.

  • 일회성: 배포 후, 사용자 불만이 급증한 후 또는 주간 검토의 일부로 분석을 원할 때마다 인사이트를 StartBatchEvaluation 얻습니다.

  • 반복: 클러스터링 빈도(DAILY, WEEKLY또는 MONTHLY)를 구성하고 서비스가 자동으로 실행되어 수동 개입 없이 정기 보고서를 제공합니다.

장애 범주

Insights는 에이전트 장애 유형의 광범위한 분류를 인식합니다.

카테고리 예제

실행 오류

인증 실패, 리소스를 찾을 수 없음, 서비스 오류, 속도 제한, 제한 시간, 도구 스키마 위반

작업 지침 문제

지침 미준수, 문제 식별 실패

잘못된 작업

잘못된 도구 선택, 잘못된 정보 검색, 부적절한 설명 요청

컨텍스트 처리

턴 간 컨텍스트 처리 실패

할루시네이션

조작된 기능, 오해, 잘못된 사용, 기록 조작, 파라미터 할루시네이션, 조작된 도구 출력

반복 동작

도구 호출 반복, 정보 요청 반복, 단계 반복

오케스트레이션 오류

근거 불일치, 목표 편차, 조기 종료, 인식하지 못한 종료

LLM 출력 문제

비감각적 출력

구성 불일치

도구 정의 불일치

코딩별

엣지 사례 감독, 종속성 문제