병렬화 및 산점도 수집 패턴 - AWS 권장 가이드
산점도 수집LLM 기반 병렬화(산점 수집 인식)에이전트 병렬화요점

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

병렬화 및 산점도 수집 패턴

대규모 문서 요약, 여러 솔루션 경로 평가, 다양한 관점 비교와 같은 많은 고급 추론 및 생성 작업은 프롬프트의 병렬 실행의 이점을 누릴 수 있습니다. 확장성, 응답성 및 내결함성이 필요한 경우 기존 순차 워크플로는 부족합니다. 이를 해결하기 위해 이벤트 기반 산점 수집 패턴을 사용하여 LLM 기반 병렬화를 재구상할 수 있습니다.이 패턴에서는 작업이 자율 에이전트로 동적으로 팬아웃되고 결과가 지능적으로 합성됩니다.

다음 다이어그램은 LLM 병렬화 워크플로의 예입니다.

LLM 병렬화.

산점도 수집

분산 시스템에서 산점도 수집 패턴은 여러 서비스 또는 처리 유닛에 작업을 병렬로 전송하고 응답을 기다린 다음 결과를 통합 출력으로 집계합니다. 팬아웃과 달리 산점도 수집은 응답을 예상하고 일반적으로 결과를 결합, 비교 및 선택하는 로직을 적용하기 때문에 조정됩니다.

병렬화 및 산점도 수집을 위한 일반적인 구현은 다음과 같습니다.

  • AWS Step Functions 병렬 작업 실행을 위한 상태 매핑

  • AWS Lambda 동시성을 사용하여 여러 호출된 함수의 결과 조정

  • 상관관계 IDs 및 집계 워크플로가 있는 Amazon EventBridge

  • Amazon Simple Storage Service(Amazon S3), Amazon DynamoDB 또는 대기열을 사용하여 팬아웃을 관리하고 결과를 수집하는 사용자 지정 컨트롤러 패턴

다음 다이어그램은 산점도 수집의 예입니다.

산란-수집.

  1. 사용자는 Amazon Simple Notification Service(Amazon SNS) 주제에 병렬 메시지를 게시하여 작업을 분산시키는 요청을 중앙 조정자 함수로 보냅니다.

  2. 각 메시지에는 작업 메타데이터가 포함되어 있으며 전문 작업자 에게 라우팅됩니다 AWS Lambda.

  3. 각 작업자는 할당된 하위 작업(예: 외부 API 쿼리, 문서 처리, 데이터 분석)을 AWS Lambda 독립적으로 처리합니다.

  4. 결과는 Amazon Simple Queue Service(Amazon SQS)와 같은 공통 스토리지 계층에 기록됩니다.

  5. 애그리게이터 함수는 모든 응답이 완료될 때까지 기다린 다음 다음을 수행합니다.

    • 결과를 수집하고 집계합니다(예: 요약 병합, 가장 적합한 일치 항목 선택).

    • 최종 응답을 보내거나 다운스트림 워크플로를 트리거합니다.

산점도 수집 패턴의 일반적인 사용 사례는 다음과 같습니다.

  • 페더레이션 검색

  • 가격 비교 엔진

  • 집계된 데이터 분석

  • 다중 모델 추론

LLM 기반 병렬화(산점 수집 인식)

에이전트 시스템에서 병렬화는 하위 작업을 여러 LLM 호출 또는 에이전트에 분산하여 산란 수집을 면밀히 미러링하며, 각각 독립적으로 문제의 일부를 추론합니다. 반환된 결과는 종종 다른 LLM 또는 컨트롤러 에이전트인 집계 프로세스에 의해 수집되고 합성됩니다.

에이전트 병렬화

  1. 에이전트가 "이 10개 보고서에 대한 인사이트 요약" 요청을 제출합니다.

  2. 보고서를 10개의 병렬 LLM 요약 작업으로 분산합니다.

  3. 모든 요약을 반환하면 에이전트는 다음을 수행합니다.

    • 요약을 통합 브리핑으로 집계합니다.

    • 테마 또는 모순 식별

    • 합성된 출력을 사용자에게 전송합니다.

이 에이전트 워크플로는 확장 가능한 모듈식 적응형 병렬 추론을 지원합니다. 이는 높은 인지 처리량이 필요한 사용 사례에 적합합니다.

다음 다이어그램은 에이전트 병렬화의 예입니다.

에이전트 병렬화.

  1. 사용자가 멀티파트 쿼리 또는 문서 세트를 제출합니다.

  2. 컨트롤러 AWS Lambda 또는 단계 함수는 하위 작업을 분산합니다. 각 작업은 자체 프롬프트를 사용하여 Amazon Bedrock LLM 호출 또는 하위 에이전트를 호출합니다.

  3. 호출 및 하위 작업이 완료되면 결과가 저장되고(예: Amazon S3 또는 메모리 스토어) 집계 단계에서 출력을 병합, 비교 또는 필터링합니다.

  4. 시스템은 사용자 또는 다운스트림 에이전트에게 최종 응답을 반환합니다.

이 시스템에는 추적성, 내결함성 및 선택적 결과 가중치 또는 선택 로직이 포함된 분산 추론 루프가 있습니다.

요점

에이전트 병렬화는 산점도 수집 패턴을 사용하여 LLM 작업을 분산하므로 병렬 처리 및 지능형 결과 합성이 가능합니다.