함수 호출을 위한 도구 기반 에이전트 - AWS 권장 가이드
Architecture설명기능일반 사용 사례구현 지침요약

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

함수 호출을 위한 도구 기반 에이전트

도구 기반 에이전트는 외부 함수 또는 APIs를 호출하여 언어 전용 추론을 넘어선 작업을 완료함으로써 에이전트 추론 기능을 확장합니다. 이 패턴은 LLM을 사용하여 사용할 도구를 결정한 다음 호출 인수를 생성하고 도구의 출력을 추론 루프에 통합합니다.

이 패턴을 사용하면 에이전트가 단순히 응답을 제공하는 대신 조치를 취할 수 있습니다. 도구 인터페이스는 산술 계산 및 데이터베이스 조회부터 외부 APIs 및 클라우드 서비스에 이르기까지 호출 가능한 모든 기능을 나타냅니다.

Architecture

함수를 호출하기 위한 도구 기반 에이전트는 다음 다이어그램에 나와 있습니다.

함수 호출을 위한 도구 기반 에이전트입니다.

설명

  1. 쿼리를 수신합니다.

    • 에이전트는 사용자 또는 호출 시스템으로부터 자연어 쿼리 또는 작업을 수신합니다.

  2. 도구 검색

    • 에이전트는 내부 메타데이터 또는 도구 레지스트리를 사용하여 사용 가능한 도구, 스키마 및 관련 기능을 검색합니다.

  3. 도구를 선택하고 호출합니다.

    • LLM은 프롬프트에서 쿼리 및 도구 메타데이터(예: 함수 이름, 입력 유형 및 설명)를 수신합니다.

    • 가장 관련성이 높은 도구를 선택하고, 입력 인수를 구성하고, 구조화된 함수 호출을 반환합니다.

  4. 선택한 도구를 실행합니다.

    • 에이전트 셸 또는 도구 실행기는 선택한 함수를 실행하고 결과(예: API 출력, 데이터베이스 값 또는 계산)를 반환합니다.

  5. 응답을 반환합니다.

    • LLM은 직접 또는 업데이트된 프롬프트의 일부로 결과를 에이전트에 전달합니다. 그런 다음 자연어 결과를 반환합니다.

기능

  • 작업 컨텍스트에 따른 동적 도구 선택

  • 스키마 기반 프롬프트(OpenAPI, JSON 스키마, AWS 함수 인터페이스)

  • 결과 해석 및 출력을 추론으로 연결

  • 상태 비저장 또는 세션 인식 작업

일반 사용 사례

  • 외부 데이터 액세스가 가능한 가상 어시스턴트

  • 재무 계산기 및 예측기

  • API 기반 지식 작업자

  • 호출LLMs AWS Lambda, Amazon SageMaker 엔드포인트 및 SaaS 서비스

구현 지침

다음을 사용하여 함수 호출을 위한 도구 기반 에이전트를 생성합니다.

  • 함수 호출을 지원하는 Amazon Bedrock(Anthropic Claude)

  • AWS Lambda 도구 실행 백엔드로 사용

  • Amazon API Gateway 또는 도구 오케스트레이션 AWS Step Functions 용

  • 컨텍스트 인식 도구 메타데이터를 위한 Amazon DynamoDB 또는 Amazon Relational Database Service(RDS)

  • 출력을 라우팅하기 위해 상태를 매핑 AWS Step Functions 하는 Amazon EventBridge 파이프라인 또는

요약

도구 기반 함수 호출 에이전트는 언어 이해에서 작업 수행으로의 전환을 나타냅니다. 이러한 에이전트는 LLM 추론을 유지하면서 동적 컨텍스트 인식 도구를 호출하여 수동 어시스턴트를 작업을 완료하고, 서비스에 액세스하고, 비즈니스 운영을 통합하는 시스템으로 변환합니다. 이 패턴은 특히 선언적 스키마, 권한 부여 프레임워크 및 다중 에이전트 시스템과 결합할 때 엔터프라이즈 설정에서 에이전트 AI의 중요한 구성 요소입니다.