기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
오케스트레이션 모델: 규칙 기반에서 AI 네이티브로
이벤트 기반 서버리스 AI 시스템에서 오케스트레이션은 이벤트가 시스템의 동작을 트리거하고 형성하는 방식을 결정하는 연결 로직입니다. 에서 AWS오케스트레이션은 두 가지 기본 모델을 따를 수 있습니다.
-
규칙 기반 오케스트레이션은 워크플로 및 상태 시스템을 사용하는 개발자가 정의합니다.
-
AI 네이티브 오케스트레이션은 의도와 컨텍스트를 기반으로 추론, 계획 및 행동하는 에이전트와 대규모 언어 모델(LLMs)을 기반으로 합니다.
각 모델은 유연하고 사후 대응적이며 지능적인 시스템을 구축하는 데 있어 고유한 역할을 합니다. 이를 통해 개발자는 절차 자동화에서 자율적인 목표 기반 시스템으로 전환할 수 있습니다.
를 사용한 규칙 기반 오케스트레이션 AWS Step Functions
Step Functions는 AWS Lambda, Amazon SageMaker, Amazon Bedrock, Amazon DynamoDB 및 Amazon Simple Storage Service(Amazon S3)와 같은 서비스를 오케스트레이션하는 시각적 워크플로 엔진을 제공합니다. 로직은 단계가 명시적으로 정의되고 전환은 조건 기반이라는 점에서 결정적입니다.
Step Functions를 사용한 규칙 기반 오케스트레이션의 주요 이점은 다음과 같습니다.
-
시각적 워크플로 콘솔을 통한 강력한 감사 가능성 및 가시성
-
기본 제공 오류 처리, 재시도 및 병렬 처리
-
경로가 잘 정의된 선형 또는 분기 제어 흐름에 이상적
다음 다이어그램은 문서 수집 및 처리의 예제 사용 사례의 워크플로를 보여줍니다.
이 예에서 법률 회사는 다음 단계에서 업로드된 계약의 분석을 자동화합니다.
-
이벤트 트리거 - 법적 문서가 Amazon S3 버킷에 업로드되어 Step Functions 워크플로로 라우팅되는 Amazon EventBridge 이벤트를 트리거합니다.
-
워크플로 - Step Functions는 다음 단계를 수행합니다.
-
문서 처리 - Lambda 함수는 문서를 정리하고 문서에 대한 초기 광학 문자 인식(OCR)을 수행합니다.
-
텍스트 추출 - Amazon Textract는 문서에서 키 텍스트와 데이터를 추출합니다.
-
분석 - Amazon Comprehend는 텍스트를 분석하여 위험 수준과 감정을 분류합니다.
-
요약 - Amazon Bedrock은 계약의 간결한 요약을 생성합니다.
-
데이터 스토리지 - 인덱싱을 위해 Amazon OpenSearch Service에 결과가 기록됩니다.
-
-
검색 - 법률 팀은 대시보드를 통해 계약 분석을 검색, 필터링 및 시각화할 수 있습니다.
이 아키텍처는 Step Functions의 AWS SDK 통합 기능을 활용하여 워크플로의 각와 직접 상호 작용 AWS 서비스 합니다. 이 접근 방식은 복잡성을 줄이고 각 처리 단계 사이에 별도의 Lambda 함수가 필요하지 않습니다. OpenSearch Service에 대한 최종 쓰기도 SDK 통합을 통해 처리됩니다. 따라서 Step Functions는 문서 분석 결과, 위험 분류, 감정 분석 및 AI 생성 요약을 OpenSearch Service로 직접 인덱싱할 수 있습니다. 법률 팀은 대시보드를 통해 계약 분석을 검색, 필터링 및 시각화하기 위한 정보에 액세스할 수 있습니다.
각 작업은 오류 처리가 내장된 정의된 상태입니다. AI는 결정을 내리지 않으며 오케스트레이션은 명시적입니다.
Amazon Bedrock Agents를 사용한 AI 네이티브 오케스트레이션
Step Functions가 상황 발생 방식을 관리하는 경우 Amazon Bedrock의 에이전트는 사용자 목표에 따라 어떤 일이 발생해야 하는지 결정합니다. Amazon Bedrock 에이전트 또는 Amazon Bedrock AgentCore를 기반으로 구축된 에이전트는 다음을 결합합니다.
-
Anthropic Claude 또는 Amazon Nova와 같은 LLM
-
Lambda 함수(또는 MCP 통합을 실행하기 위한 모델 컨텍스트 프로토콜(MCP) 클라이언트)와 같은 도구 통합 세트
-
컨텍스트 기반에 대한 선택적 지식 기반
-
기본 제공 메모리 및 목표 추적
에이전트는 자연어 입력과 그 이유를 해석하고 사용자의 의도를 이행하기 위해 도구를 자율적으로 호출하여 오케스트레이션 로직을 모델로 오프로드합니다.
Amazon Bedrock Agents를 사용한 AI 네이티브 오케스트레이션의 주요 이점은 다음과 같습니다.
-
시맨틱 유연성 - 다양한 자연어 입력을 해석합니다.
-
도구 자율성 - 런타임에 적합한 도구를 선택합니다.
-
컨텍스트 근거 - 지식 기반 콘텐츠를 정확하게 인용합니다.
-
개발자 유지 관리 최소화 - 흐름이 아닌 도구를 정의합니다.
다음 다이어그램은 Amazon Bedrock Agents를 사용한 고객 지원 자동화의 예제 사용 사례의 워크플로를 보여줍니다.
이 예제에서는 소매 웹 사이트의 사용자가 지원 챗봇에 메시지를 입력합니다. 다음 워크플로가 발생합니다.
-
이벤트 트리거 작업은 다음과 같습니다.
-
사용자는 “지난 주에 주문한 신발을 반환해야 합니다. 도움이 필요하신가요?"
-
메시지는 EventBridge를 통해 수신되고 라우팅됩니다.
-
EventBridge는 Amazon Bedrock 에이전트를 트리거합니다.
-
-
에이전트 추론 프로세스는 다음과 같습니다.
-
의도 추출 - 에이전트는 의도를 "반환 순서"로 식별합니다.
-
데이터 검색 - 에이전트는
GetOrderHistoryLambda 함수를 사용하여 CRM 시스템을 쿼리합니다. -
자격 확인 - 에이전트가
ProcessReturnLambda 함수를 호출하여 반환 자격을 확인합니다. -
응답 생성 - 에이전트가 적절한 응답을 공식화합니다.
-
-
고객 커뮤니케이션 작업은 에이전트가 "반환이 처리 중입니다. 곧 확인 이메일이 발송될 예정입니다.”
전체 워크플로는 Amazon Bedrock Agents가 정의된 작업 그룹을 통해 복잡한 비즈니스 로직을 오케스트레이션하는 방법을 보여줍니다. 고객 의도를 백엔드 시스템 및 프로세스와 연결하여 자동화되었지만 상황에 적합한 고객 서비스 경험을 제공합니다.
Amazon Bedrock AgentCore는 개별 에이전트를 넘어 Amazon Bedrock 에코시스템을 확장하여 자율 이벤트 기반 AI 시스템을 위한 완전한 런타임 및 메모리 아키텍처를 제공합니다.
Amazon Bedrock Agents는 단일 작업 또는 도메인에 대한 추론 및 작업 시퀀스를 오케스트레이션하는 데 중점을 둡니다. AgentCore는 분산된 서버리스 환경에서 다중 에이전트 워크플로를 구성, 조정 및 유지하기 위한 기본 인프라를 제공합니다.
다음 다이어그램은 AgentCore를 사용한 고객 지원 자동화의 예제 사용 사례의 워크플로를 보여줍니다.
이 예제는 이전 Amazon Bedrock Agents 예제와 동일한 작업을 따릅니다. 소매 웹 사이트의 사용자가 지원 챗봇에 메시지를 입력합니다. 다음 워크플로가 발생합니다.
-
사용자는 “지난 주에 주문한 신발을 반환해야 합니다. 도움이 필요하신가요?"
-
메시지는 EventBridge를 통해 수신되고 라우팅됩니다.
-
EventBridge는 AgentCore 런타임 엔드포인트를 트리거합니다.
AgentCore는 기존 오케스트레이션 모델을 보완하는 세 가지 주요 기능을 도입합니다.
-
AgentCore 런타임 - 내에서 사용자 지정 에이전트 로직을 실행하기 위한 관리형 실행 환경입니다 AWS. 기본적으로 AWS Lambda 및 Amazon ECS와 통합되어 온디맨드로 에이전트 동작을 확장하므로 컨테이너 또는 함수 인프라를 수동으로 관리할 필요가 없습니다.
-
AgentCore 메모리 - 컨텍스트, 상태 및 작업 기록을 위한 영구적이고 구조화된 스토리지를 제공합니다. 이를 통해 에이전트는 간접 호출 및 워크플로 전반에서 연속성을 유지하여 임시 및 장기 메모리 모드를 모두 지원할 수 있습니다. 메모리 데이터는 관찰성 및 규정 준수를 위해 DynamoDB 또는 Amazon Simple Storage Service(Amazon S3)와 동기화할 수 있습니다.
-
AgentCore Gateway - 모델 컨텍스트 프로토콜(MCP)을 통해 AWS 서비스 및 외부 APIs 안전하게 호출하기 위한 관리형 인터페이스입니다. 이러한 커넥터를 사용하면 에이전트가 엔터프라이즈 데이터, 도구 및 애플리케이션과 직접 상호 작용하여 사용자 지정 통합 코드 없이 더 풍부한 오케스트레이션을 수행할 수 있습니다.
이러한 구성 요소를 함께 사용하면 서버리스 이벤트 기반 아키텍처에서 작동하는 적응형 다중 에이전트 시스템을 구축할 수 있습니다. 예를 들어 AgentCore 런타임은 AgentCore 메모리를 사용하여 컨텍스트를 공유하고 결정적이고 감사 가능한 결과를 보장하는 EventBridge 또는 Step Functions를 통해 조정되는 여러 전문 에이전트를 호스팅할 수 있습니다.
고객 의도를 백엔드 시스템 및 프로세스와 연결하여 AgentCore는 자동화되었지만 상황에 맞는 적절한 고객 서비스 경험을 제공합니다.
오케스트레이션은 하드코딩되지 않습니다. LLM은 워크플로를 동적으로 결정하므로 시스템이 입력의 변형 및 모호성에 대한 복원력이 향상됩니다.
규칙 기반 또는 AI 네이티브: 언제 사용하나요?
AWS Step Functions 및 Amazon Bedrock Agents는 각각 다양한 오케스트레이션 시나리오에서 뛰어납니다. 제어된 프로세스에는 Step Functions를 사용하고 자연어 상호 작용과 유연한 목표 이행에는 Amazon Bedrock Agents를 사용하는 것이 가장 좋습니다. 다음 표에서는 다양한 사용 사례 유형에서 이러한 서비스를 비교합니다.
사용 사례 유형 |
Step Functions(규칙 기반) |
Amazon Bedrock Agents(AI 네이티브) |
|---|---|---|
결정적 워크플로 |
이상적 |
필요하지 않습니다. |
비정형 사용자 입력 |
리지드 |
해석하고 조정합니다. |
복잡한 비즈니스 규칙 |
조건을 사용한 모델 |
의미론 추론을 사용하여 추론할 수 있습니다. |
세분화된 감사 추적 필요 |
전체 상태 추적 |
에이전트 로그에 따라 추적이 제한됩니다. 그러나 가중치, 편향 및 모델 호출 로깅과 같은 도구는 이러한 제한을 완화할 수 있습니다. |
지연 시간에 민감한 자동화 |
실시간 조정 |
LLM 처리로 인해 약간 더 높지만 실시간입니다. |
목표 지향 사용자 경험 |
명시적 설계 필요 |
에이전트는 목표를 추론하고 흐름을 구성할 수 있습니다. |
이벤트 기반 오케스트레이션
규칙 기반 오케스트레이션이든 AI 네이티브 오케스트레이션이든 상관없이 이벤트는 서버리스 시스템에서 인텔리전스를 활성화하는 메커니즘입니다. 두 오케스트레이션 모델 모두에서 다음 순서가 발생합니다.
-
이벤트는 EventBridge를 통해 내보내집니다. 이벤트의 예로는 사용자 입력, 문서 업로드 및 트랜잭션이 있습니다.
-
이 이벤트는 적절한 오케스트레이터를 트리거합니다.
-
로직이 결정적일 경우 Step Functions
-
AWS Lambda 안무가 있는 설계를 위해 EventBridge를 구독하는 AWS 기본 런타임에 대한 또는 Amazon ECS 작업
-
로직이 동적 또는 대화형인 경우 Amazon Bedrock Agents
-
-
AgentCore 에이전트는 AgentCore SDK
를 사용하여 기본적으로 EventBridge 이벤트를 내보내고 구독할 수 있습니다. 이 접근 방식을 사용하면 에이전트는 AgentCore 메모리를 통해 장기 컨텍스트를 유지하면서 서버리스 워크플로에 직접 참여합니다. 이 통합은 이중 통신 계층을 형성합니다. -
EventBridge는 결정적이고 감사 가능한 이벤트 라우팅을 제공합니다.
-
AgentCore 메모리와 Agent2Agent 프로토콜(A2A)은 의미 체계 상태 공유 및 기능 검색을 제공합니다.
-
-
각 오케스트레이터는 AI 서비스를 조정하고 완료, 오류 및 다운스트림 트리거와 같은 추가 이벤트를 내보냅니다.
이 사후 대응 모델은 확장성, 복원력 및 모듈식 설계를 보장하여 시스템의 일부를 독립적으로 발전시킬 수 있습니다.
전략적 관점
EDA는 규칙 기반 오케스트레이션과 AI 네이티브 오케스트레이션 모델을 모두 지원하며 두 모델이 공존할 수 있도록 합니다. Step Functions는 안정적이고 반복 가능한 자동화를 제공하며 Amazon Bedrock Agents는 동적 컨텍스트 인식 인텔리전스를 도입합니다.
이를 통해 조직은 다음을 수행할 수 있습니다.
-
반복적이고 대량의 프로세스 자동화
-
지능형 적응형 사용자 대면 어시스턴트 제공
-
병목 현상이나 아키텍처 견고성 없이 AI 규모 조정
오케스트레이션은 더 이상 규칙뿐만 아니라 의도 해석, 도구 선택 및 자율 실행에 관한 것입니다. Serverless on는 구조화된 워크플로를 AWS Step Functions 위한와 의미 체계 오케스트레이션을 위한 Amazon Bedrock Agents를 AWS 결합합니다. 이 통합 프레임워크를 통해 차세대 에이전트, 서버리스 AI 시스템을 구축할 수 있습니다.