路由的工作流程 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

路由的工作流程

在路由模式中,分類器或路由器代理程式會使用 LLM 來解譯查詢的意圖或類別,然後將輸入路由至專門的下游任務或代理程式。

路由的工作流程。

路由工作流程用於代理程式必須快速分類輸入意圖、任務類型或網域,然後將請求委派給專業子代理程式、工具或工作流程的情況。它在能力代理器中特別有用,例如作為一般助理的代理程式、企業函數的前門或跨網域面向使用者的 AI 界面。

路由在以下情況下特別有效:

  • 跨各種任務分類請求 (例如,搜尋、摘要、預訂、計算)。

  • 輸入必須先預先處理或標準化,才能進入更專業化的工作流程。

  • 不同的輸入類型 (例如影像與文字、結構化與非結構化查詢) 需要自訂處理。

  • 客服人員扮演對話式切換板的角色,將任務委派給專業客服人員或微服務。

  • 此工作流程在網域特定的 Copilot、客戶支援機器人、企業服務路由器和多模式代理程式中很常見,其中智慧分派可同時決定代理程式行為的品質和效率。

功能

  • 第一個傳遞 LLM 充當發送器

  • 路由可以叫用不同的工作流程,甚至是其他代理程式模式

  • 支援模組化功能擴展

常用案例

  • 多網域助理 (「這是法律、醫療或財務問題?」)

  • 使用 LLM 推理增強的決策樹

  • 動態工具選擇 (例如,搜尋與程式碼產生)