기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
병렬화를 위한 워크플로
이 워크플로에는 여러 LLM 호출 또는 에이전트가 동시에 처리할 수 있는 독립적인 하위 작업으로 작업을 분류하는 작업이 포함됩니다. 그런 다음 출력이 프로그래밍 방식으로 집계되고 결과로 합성됩니다.
병렬화 워크플로는 작업을 동시에 처리할 수 있는 독립적인 비순차 하위 작업으로 분할하여 효율성, 처리량 및 확장성을 크게 개선할 수 있는 경우에 사용됩니다. 에이전트가 여러 입력에 걸쳐 콘텐츠를 분석하거나 생성해야 하는 데이터 중심, 배치 지향 또는 다중 관점 문제 공간에서 특히 강력합니다.
병렬화는 다음과 같은 경우에 특히 효과적입니다.
-
하위 작업은 서로의 중간 결과에 의존하지 않으므로 조정 없이 병렬로 실행할 수 있습니다.
-
작업에는 여러 항목에서 동일한 추론 프로세스를 반복하는 작업이 포함됩니다(예: 여러 문서 요약 또는 옵션 목록 평가).
-
다양성, 창의성 또는 견고성을 높이기 위해 여러 가설 또는 관점을 동시에 탐색합니다.
-
동시 LLM 실행을 통해 대용량 또는 고주파 요청의 지연 시간을 줄여야 합니다.
-
이 워크플로는 문서 처리 에이전트, 설문 조사 또는 비교 엔진, 배치 요약기, 다중 에이전트 브레인스토밍, 확장 가능한 분류 또는 레이블 지정 작업, 특히 신속한 병렬 추론이 성능 이점인 경우에 일반적으로 사용됩니다.
기능
-
LLM 작업의 병렬 실행( AWS Lambda AWS Fargate또는 AWS Step Functions 맵 상태 사용)
-
합성 단계에서 결과 정렬, 검증 또는 중복 제거 필요
-
상태 비저장 에이전트 루프에 적합
일반 사용 사례
-
여러 문서 또는 관점을 병렬로 분석
-
다양한 초안, 요약 또는 계획 생성
-
배치 작업 간 처리량 가속화
