View a markdown version of this page

프롬프트 체인 Saga 패턴 - AWS 권장 가이드
Saga 코레오그래피프롬프트 체인 패턴에이전트 코레오그래피요점

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

프롬프트 체인 Saga 패턴

LLM 프롬프트 체인을 이벤트 기반 Saga로 재구상함으로써 워크플로가 자율 에이전트 간에 분산되고, 복구 가능하며, 의미론적으로 조정되는 새로운 운영 모델을 잠금 해제합니다. 각 프롬프트-응답 단계는 원자성 작업으로 재구성되고, 이벤트로 방출되며, 전용 에이전트가 사용하고, 컨텍스트 메타데이터로 보강됩니다. 

다음 다이어그램은 LLM 프롬프트 체인의 예입니다.

LLM 프롬프트 체인.

Saga 코레오그래피

Saga 코레오그래피 패턴은 중앙 조정자가 없는 분산 시스템의 구현 접근 방식입니다. 대신 각 서비스 또는 구성 요소는 다음 워크플로 작업을 트리거하는 이벤트를 게시합니다. 이 패턴은 분산 시스템에서 여러 서비스의 트랜잭션을 관리하는 데 널리 사용됩니다. Saga에서 시스템은 일련의 조정된 로컬 트랜잭션을 실행합니다. 실패하면 시스템은 일관성을 유지하기 위해 보정 작업을 트리거합니다.

다음 다이어그램은 Saga 코레오그래피의 예입니다.

Saga 코레오그래피.

  1. 인벤토리 예약

  2. 결제 권한 부여

  3. 배송 주문 생성

3단계에 실패하면 시스템이 보상 작업(예: 결제 취소 또는 인벤토리 릴리스)을 호출합니다. 

이 패턴은 서비스가 느슨하게 결합되고 부분적으로 장애가 발생하더라도 시간이 지남에 따라 상태를 일관되게 해결해야 하는 이벤트 기반 아키텍처에서 특히 유용합니다.

프롬프트 체인 패턴

프롬프트 체인은 구조와 목적 모두에서 Saga 패턴과 유사합니다. 컨텍스트를 보존하고 롤백 및 개정을 허용하면서 순차적으로 빌드되는 일련의 추론 단계를 실행합니다.

에이전트 코레오그래피

  1. LLM은 복잡한 사용자 쿼리를 해석하고 가설을 생성합니다.

  2. LLM은 작업을 해결하기 위한 계획을 자세히 설명합니다.

  3. LLM은 하위 작업을 실행합니다(예: 도구 호출 사용 또는 지식 검색).

  4. LLM은 결과를 만족스럽지 않다고 간주하는 경우 출력을 구체화하거나 이전 단계를 재검토합니다.

중간 결과에 결함이 있는 경우 시스템은 다음 중 하나를 수행할 수 있습니다.

  • 다른 접근 방식을 사용하여 단계 재시도

  • 이전 프롬프트로 되돌리고 다시 계획합니다.

  • 평가자 루프(예: 평가자 최적화 패턴)를 사용하여 실패를 감지하고 수정합니다.

Saga 패턴과 마찬가지로 프롬프트 체인을 사용하면 부분 진행 및 롤백 메커니즘을 사용할 수 있습니다. 이는 데이터베이스 트랜잭션을 보정하는 대신 반복적인 개선 및 LLM 방향 수정을 통해 발생합니다.

다음 다이어그램은 에이전트 코레오그래피의 예입니다.

에이전트 안무.

  1. 사용자가 SDK를 통해 쿼리를 제출합니다.

  2. Amazon Bedrock 에이전트는 다음을 통해 추론을 오케스트레이션합니다.

    • 해석(LLM)

    • 계획(LLM)

    • 도구 또는 지식 기반을 통한 실행

    • 응답 구성

  3. 도구가 실패하거나 불충분한 데이터를 반환하는 경우 에이전트는 작업을 동적으로 다시 계획하거나 다시 설명할 수 있습니다.

  4. 메모리(예: 단기 벡터 스토어)는 여러 단계에서 상태를 유지할 수 있습니다.

요점

Saga 패턴이 보완 로직을 사용하여 분산 서비스 호출을 관리하는 경우 프롬프트 체인은 반사 시퀀싱 및 적응형 재계획을 통해 추론 작업을 관리합니다. 두 시스템 모두 점진적인 진행 상황, 분산된 결정점 및 장애 복구를 허용하며, 강체 롤백이 아닌 정보에 입각한 추론을 통해이 모든 것을 수행합니다.

프롬프트 체인은 사가스와 인지적으로 동등한 트랜잭션 추론을 도입합니다. 즉, 각 '사고'는 더 광범위한 목표 지향 대화의 일환으로 재평가, 개정 또는 중단됩니다.