서버용 도구 기반 에이전트 - AWS 권장 가이드
Architecture설명기능일반 사용 사례구현 지침요약

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

서버용 도구 기반 에이전트

서버용 도구 기반 에이전트는 도구, 스크립트 및 복합 에이전트를 위한 전용 런타임 환경이 있는 외부 서버에 도구 실행을 위임하여 함수 호출 에이전트를 개선합니다. 에이전트 루프가 선택하고 호출하는 인라인 함수 호출과 달리 서버 기반 에이전트는 로직 및 실행 파이프라인을 다른 에이전트 또는 시스템에 아웃소싱합니다. 이를 통해 다중 도구 체인, 격리된 실행 및 특수 추론과 같은 고급 기능을 제공합니다. 도구 서버는 도구 자체에 별도의 AI 모델, 비즈니스 규칙 또는 환경이 포함될 수 있는 복잡하거나 상태 저장적이거나 리소스 집약적인 작업에 적합합니다.

Architecture

다음은 서버용 도구 기반 에이전트의 패턴입니다.

서버용 도구 기반 에이전트.

설명

  1. 쿼리를 수신합니다.

    • 사용자 또는 시스템이 에이전트 셸에 요청을 제출합니다.

    • 에이전트는 쿼리를 해석하고 도구 서버로 디스패치할 준비를 합니다.

  2. 도구 서버 프로세스를 실행합니다.

    • 에이전트는 구조화된 파라미터와 함께 작업을 도구 서버로 전송합니다.

    • 그러면 도구 서버가 다음을 수행할 수 있습니다.

      • 전용 컴퓨팅 시스템(예: AWS Lambda컨테이너 또는 Amazon SageMaker)에서 스크립트 또는 로직 실행

      • LLM 추론과 함께 자체 하위 에이전트를 사용하여 도구 선택 및 실행

      • 종속성, 재시도 또는 다단계 실행 흐름 관리

      • 작업이 완료되면 기본 에이전트에 결과 출력

  3. 도구 출력과 함께 LLM 추론 사용

    • 에이전트는 LLM을 호출하여 원본 쿼리와 도구 서버 결과를 프롬프트의 일부로 전달합니다.

    • LLM은 새로 획득한 정보를 통합하는 응답을 합성합니다.

  4. 응답을 반환합니다.

    • 에이전트는 사용자 또는 호출 시스템에 자연어 또는 구조화된 응답을 반환합니다.

    • (선택 사항) 결과는 메모리 또는 감사 로그에 저장될 수 있습니다.

기능

  • 기본 에이전트 실행 루프 외부에서 도구가 호출됩니다.

  • 도구 실행에는 LLM 호출, 로직 체인 또는 하위 에이전트가 포함될 수 있습니다.

  • 에이전트는 도구 래퍼뿐만 아니라 컨트롤러 또는 디스패처 역할을 합니다.

  • 로직의 구성 가능성, 확장성 및 격리를 활성화합니다.

일반 사용 사례

  • 모델 체인 오케스트레이션(예: LLM, 비전 및 코드 결합)

  • AI 기반 자동화 파이프라인

  • 스크립트 실행기가 있는 DevOps 어시스턴트 에이전트

  • 복잡한 재무 계산, 시뮬레이션 또는 최적화 에이전트

  • 멀티모달 도구(예: 오디오, 설명서 및 작업 결합)

구현 지침

AWS 서비스다음을 사용하여이 패턴을 빌드할 수 있습니다.

  • Amazon Bedrock(에이전트 호스트 및 LLM 추론)

  • AWS Lambda AWS Fargate, Amazon ECS 또는 Amazon SageMaker 엔드포인트를 도구 서버 런타임으로 사용

  • Amazon API Gateway 또는 AWS App Runner - 도구 서버 APIs 노출

  • 분리된 agent-to-tool 메시징을 위한 Amazon EventBridge

  • AWS Step Functions 도구 서버에 다중 에이전트 로직을 구성하는 AWS AppFabric 경우 또는

요약

서버를 사용하는 도구 기반 에이전트는 모듈식이며 확장 가능합니다. 결정 로직을 실행과 분리하므로 프라이머리 에이전트는 복잡하거나 민감한 작업을 다른 시스템으로 오프로드하면서 경량 상태를 유지할 수 있습니다. 이는 엔터프라이즈급 에이전트 AI, 특히 거버넌스, 관찰성, 격리, 동적 구성 또는 이들의 조합이 필요한 환경에 중요합니다.