本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
LLM 工作流程
在客服人員模式中,我們探索了常見的 AI 客服人員模式,每個模式都以一組模組化功能為基礎:感知、動作、學習和認知。在許多代理程式模式中,認知模組的核心是大型語言模型 (LLM),能夠推理、規劃和決策。不過,單獨使用 LLM 並不足以產生智慧的目標導向行為。
為了可靠地執行複雜的任務,客服人員必須將 LLM 內嵌在結構化工作流程中,其中模型的功能透過工具、記憶體、規劃迴圈和協調邏輯增強。這些 LLM 工作流程可讓客服人員細分目標、路由子任務、呼叫外部服務、反映結果,以及與其他客服人員協調。
本章介紹建置強大、可擴展且智慧 LLM 驅動的認知模組的核心設計模式,這些模組是以可重複使用的工作流程組織而成。