传奇编排模式 - AWS 规范性指导

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

传奇编排模式

随着由驱动的工作流程 LLMs 变得越来越复杂,跨越提示链、数据处理步骤、工具调用和代理协作,对智能编排的需求变得至关重要。这些工作流程可以作为事件驱动的编排模式来实现,而不是依赖紧密耦合的脚本或静态的预先确定的执行流程,从而使基于 LLM 的系统能够动态地协调、监控和调整自主代理之间的多步骤任务。

下图是协调器的示例:

管弦乐师。

活动编排

在传统的分布式系统中,事件编排是指一种模式,在这种模式中,中央协调员通过明确指挥多个服务或任务的控制流来管理复杂的工作流程。与事件编排(每项服务独立做出反应)不同,编排提供了对整个流程的集中逻辑、可见性和控制。

这通常使用以下工具来实现:

  • AWS Step Functions— 定义和执行有状态的工作流程

  • AWS Lambda— 在精心策划的流程中执行离散的任务

  • 亚马逊 SQS 或亚马逊 EventBridge — 触发异步步骤或响应

下图是传奇编排的示例:

传奇编曲。

AWS Step Functions 工作流管理客户订单流程:

  1. 创建订单 (AWS Lambda)

  2. 更新库存 (AWS Lambda)

  3. 付款 (AWS Lambda)

协调器通过管理重试、并行分支、超时和失败来协调每个步骤。

基于角色的代理系统(协调器)

在代理系统中,协调器模式反映了事件编排,但将逻辑分配给多个推理代理,每个推理代理都有明确的角色或专长。中央协调器代理解释整体任务,将其分解为子任务,然后将这些任务委托给工作代理,每个代理都针对特定领域(例如研究、编码、摘要、审查)进行了优化。

主管

  1. 用户提交了 “创建项目简介并总结排名前五的竞争对手” 的查询。

  2. 协调器代理执行以下操作:

    • 指派研究代理人寻找竞争对手的数据

    • 将原始发现结果发送给汇总代理

    • 将结果传递给简报撰稿人代理

    • 为用户编译最终输出

每个代理独立运行,但协调器负责协调任务。这就像处理工作流程任务的 Lambda 函数。

下图是主管的示例:

主管。
  1. 用户向 Amazon Bedrock 主管代理提交任务。

  2. 主管代理将请求解析为每个代理协作者的子任务。

  3. 每个子任务都分配给带有特定角色提示或工具链的协作者代理。

  4. 工作人员代理通过操作组呼叫外部人员 APIs 或工具。

  5. 每个工作代理都以结构化格式返回输出。

  6. 当所有工作人员返回结果时,主管会评估、综合并返回最终响应。

这种结构允许在复杂的多步骤代理工作流程中实现模块化、适应性和内省。

外卖

事件编排使用集中控制(例如 AWS Step Functions)来指导服务执行,而基于角色的代理系统则使用由 LLM 提供支持的 Orchestrator 代理来推理目标,将子任务委托给工作代理并合成最终输出。

在这两种范式中,协调器都会执行以下操作:

  • 维护上下文和执行流程

  • 处理分支、排序和错误处理

  • 通过分布式组件生成统一的结果

但是,代理编排增加了推理、适应性和语义委托。这使得它非常适合开放式、模棱两可和不断演变的任务。