路由工作流程 - AWS 规范性指导

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

路由工作流程

在路由模式中,分类器或路由器代理使用 LLM 来解释查询的意图或类别,然后将输入路由到专门的下游任务或代理。

路由工作流程。

路由工作流用于代理必须快速对输入意图、任务类型或域进行分类,然后将请求委托给专门的子代理、工具或工作流的场景。它在能力代理中特别有用,例如充当一般助理、企业功能的前门或跨域的面向用户的 AI 接口。

在以下情况下,路由特别有效:

  • 对各种任务(例如搜索、汇总、预订、计算)的请求进行分类。

  • 在进入更专业的工作流程之前,必须对输入进行预处理或标准化。

  • 不同的输入类型(例如,图像与文本、结构化查询与非结构化查询)需要自定义处理。

  • 代理充当对话总机,将任务委托给专业代理或微服务。

  • 这种工作流程在特定领域的副驾驶、客户支持机器人、企业服务路由器和多模式代理中很常见,在这些代理中,智能调度决定了代理行为的质量和效率。

功能

  • 初级法学硕士充当调度员

  • 路由可以调用不同的工作流程,甚至可以调用其他代理模式

  • 支持功能的模块化扩展

常见使用案例

  • 多域助手(“这是法律、医疗还是财务问题?”)

  • 通过法学硕士推理增强决策树

  • 动态工具选择(例如,搜索与代码生成)