本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
路由的工作流程
在路由模式中,分類器或路由器代理程式會使用 LLM 來解譯查詢的意圖或類別,然後將輸入路由至專門的下游任務或代理程式。
路由工作流程用於代理程式必須快速分類輸入意圖、任務類型或網域,然後將請求委派給專業子代理程式、工具或工作流程的情況。它在能力代理器中特別有用,例如作為一般助理的代理程式、企業函數的前門或跨網域面向使用者的 AI 界面。
路由在以下情況下特別有效:
-
跨各種任務分類請求 (例如,搜尋、摘要、預訂、計算)。
-
輸入必須先預先處理或標準化,才能進入更專業化的工作流程。
-
不同的輸入類型 (例如影像與文字、結構化與非結構化查詢) 需要自訂處理。
-
客服人員扮演對話式切換板的角色,將任務委派給專業客服人員或微服務。
-
此工作流程在網域特定的 Copilot、客戶支援機器人、企業服務路由器和多模式代理程式中很常見,其中智慧分派可同時決定代理程式行為的品質和效率。
功能
-
第一個傳遞 LLM 充當發送器
-
路由可以叫用不同的工作流程,甚至是其他代理程式模式
-
支援模組化功能擴展
常用案例
-
多網域助理 (「這是法律、醫療或財務問題?」)
-
使用 LLM 推理增強的決策樹
-
動態工具選擇 (例如,搜尋與程式碼產生)