本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。
# LLM 工作流程
在客服人員模式中，我們探索了常見的 AI 客服人員模式，每個模式都以一組模組化功能為基礎：感知、動作、學習和認知。在許多代理程式模式中，認知模組的核心是大型語言模型 (LLM)，能夠推理、規劃和決策。不過，單獨使用 LLM 並不足以產生智慧的目標導向行為。
為了可靠地執行複雜的任務，客服人員必須將 LLM 嵌入結構化工作流程中，其中模型的功能透過工具、記憶體、規劃迴圈和協調邏輯增強。這些 LLM 工作流程可讓客服人員細分目標、路由子任務、呼叫外部服務、反映結果，以及與其他客服人員協調。
本章介紹建置強大、可擴展且智慧 LLM 驅動的認知模組的核心設計模式，這些模組是以可重複使用的工作流程組織而成。
**Topics**
+ [LLM 擴增的認知概觀](overview-of-llm-augmented-cognition.md)
+ [提示鏈結的工作流程](workflow-for-prompt-chaining.md)
+ [路由的工作流程](workflow-for-routing.md)
+ [平行化的工作流程](workflow-for-parallelization.md)
+ [協同運作的工作流程](workflow-for-orchestration.md)
+ [評估者和反射改進迴圈的工作流程](workflow-for-evaluators-and-reflect-refine-loops.md)
+ [結論](conclusion-llm-workflows.md)
# LLM 擴增的認知概觀
在其核心上，軟體代理程式的認知模組可以檢視為包裝在擴增中的 LLM。代理程式可以使用下列建置區塊，在其環境中有效地推理原因：
+ **提示** – 使用內容、指示、範例和記憶體建立輸入架構
+ **擷取** – 透過向量搜尋或語意記憶體為 LLM 提示提供up-to-date或特定領域的知識，例如透過擷取擴增產生 (RAG)
+ **工具使用** – 讓 LLM 叫用 APIs或呼叫函數以擷取資訊或對資訊採取行動
+ **記憶體** – 使用結構化資料庫或內容摘要，將持久性或以工作階段為基礎的狀態納入推理迴圈
這些擴增是由工作流程組成，這些工作流程會定義 LLM 如何隨時間和跨任務使用，並將其從無狀態引擎轉換為動態推理代理程式。
![\[LLM 擴增。\]](http://docs.aws.amazon.com/zh_tw/prescriptive-guidance/latest/agentic-ai-patterns/images/llm-augmentation.png)
# 提示鏈結的工作流程
提示鏈結會將複雜的任務分解為一系列步驟，其中每個步驟都是獨立的 LLM 調用，可處理或建置前一個步驟的輸出。
![\[提示鏈結的工作流程。\]](http://docs.aws.amazon.com/zh_tw/prescriptive-guidance/latest/agentic-ai-patterns/images/workflow-for-prompt-chaining.png)
提示鏈結工作流程適用於任務邏輯上可分為循序推理步驟，以及中繼輸出通知下一個階段的情況。它在需要結構化思維、漸進式轉型或分層分析的工作流程中表現卓越，例如文件檢閱、程式碼產生、知識擷取和內容精簡。
## Description
+ 任務的複雜性超過單一 LLM 呼叫的內容視窗或推理深度。
+ 來自一個步驟的輸出 （例如，分析、摘要或規劃） 會成為後續決策或產生階段的輸入。
+ 您需要跨推理階段的透明度和控制 （例如，可稽核的中繼結果）。
+ 您想要在步驟之間插入外部驗證、篩選或擴充邏輯。
+ 它非常適合在管道型推理迴圈中操作的代理程式，例如研究代理程式、編輯助理、規劃系統和多階段 Copilot。
## 功能
+ LLM 呼叫的線性或分支鏈
+ 做為結構化輸入傳遞或內嵌到後續提示中的中繼結果
+ 可與 AWS Step Functions AWS Lambda或 代理程式特定的執行器協同運作
## 常用案例
+ 多步驟推理任務 （例如，「摘要評論重寫」)
+ 研究助理合成分層輸出 （例如，「搜尋擷取事實回答問題」)
+ 程式碼產生管道 (「產生計畫寫入程式碼測試程式碼解釋輸出」)
# 路由的工作流程
在路由模式中，分類器或路由器代理程式會使用 LLM 來解譯查詢的意圖或類別，然後將輸入路由至專門的下游任務或代理程式。
![\[路由的工作流程。\]](http://docs.aws.amazon.com/zh_tw/prescriptive-guidance/latest/agentic-ai-patterns/images/workflow-for-routing.png)
路由工作流程用於代理程式必須快速分類輸入意圖、任務類型或網域，然後將請求委派給專業子代理程式、工具或工作流程的情況。它在能力代理器中特別有用，例如作為一般助理的代理程式、企業函數的前門或跨網域面向使用者的 AI 界面。
路由在以下情況特別有效：
+ 跨各種任務分類請求 （例如，搜尋、摘要、預訂、計算）。
+ 輸入必須先預先處理或標準化，才能進入更專業化的工作流程。
+ 不同的輸入類型 （例如影像與文字、結構化與非結構化查詢） 需要自訂處理。
+ 客服人員扮演對話式切換板的角色，將任務委派給專業客服人員或微服務。
+ 此工作流程在網域特定的 Copilot、客戶支援機器人、企業服務路由器和多模式代理程式中很常見，其中智慧分派可同時決定代理程式行為的品質和效率。
## 功能
+ 第一個傳遞 LLM 充當發送器
+ 路由可以叫用不同的工作流程，甚至是其他代理程式模式
+ 支援模組化功能擴展
## 常用案例
+ 多網域助理 (「這是法律、醫療或財務問題？」)
+ 使用 LLM 推理增強的決策樹
+ 動態工具選擇 （例如，搜尋與程式碼產生）
# 平行化的工作流程
此工作流程涉及將任務細分為可由多個 LLM 呼叫或客服人員同時處理的獨立子任務。然後，輸出會以程式設計方式彙總並合成為結果。
![\[平行化的工作流程。\]](http://docs.aws.amazon.com/zh_tw/prescriptive-guidance/latest/agentic-ai-patterns/images/workflow-patterns-llm-parallelization.png)
當任務可分為可同時處理的獨立、非循序子任務時，會使用平行化工作流程，大幅提高效率、輸送量和可擴展性。它在大量資料、批次導向或多視角問題空間中特別強大，其中代理程式必須分析或跨多個輸入產生內容。
在下列情況下，平行化特別有效：
+ 子任務不依賴彼此的中繼結果，允許它們在沒有協調的情況下平行執行。
+ 任務涉及跨許多項目重複相同的推理程序 （例如，摘要多個文件或評估選項清單）。
+ 並行探索多個假設或觀點，以促進多樣性、創造力或穩健性。
+ 您需要透過並行 LLM 執行來減少大量或高頻率請求的延遲。
+ 此工作流程常用於文件處理代理程式、問卷或比較引擎、批次摘要器、多代理程式腦力激盪器，以及可擴展的分類或標籤任務，特別是快速、平行推理是效能優勢的情況。
## 功能
+ LLM 任務的平行執行 （使用 AWS Lambda AWS Fargate或 AWS Step Functions 映射狀態）
+ 在合成階段需要結果對齊、驗證或重複資料刪除
+ 非常適合無狀態代理程式迴圈
## 常用案例
+ 平行分析多個文件或觀點
+ 產生各種草案、摘要或計劃
+ 加速批次任務的輸送量
# 協同運作的工作流程
中央協調器代理程式使用 LLM 來規劃、分解子任務，並將子任務委派給專門的工作者代理程式或模型，每個都具有特定的角色或網域專業知識。這會反映人工團隊結構，並支援跨多個客服人員的緊急行為。
![\[協同運作的工作流程。\]](http://docs.aws.amazon.com/zh_tw/prescriptive-guidance/latest/agentic-ai-patterns/images/workflow-for-orchestration.png)
協同運作工作流程非常適合複雜、階層式或多學科，需要結構化分解和專門執行的案例。它特別適合需要分工的任務，其中任務的不同子元件最好由具有不同功能、知識或工具集的客服人員處理。
此工作流程在以下情況特別有效：
+ 任務可以分為不同範圍、類型或推理的子任務 （例如，規劃、研究、實作和測試）。
+ LLM 或中繼代理程式必須協調其他代理程式、監控進度和合成結果。
+ 您想要將客服人員的責任模組化，實現可擴展性、重複使用和特殊調校。
+ 系統需要以角色為基礎的行為，模擬人類團隊 （例如專案經理、開發人員和檢閱者） 如何協同運作。
協同運作非常適合多迴轉規劃代理程式、軟體開發 Copilot、企業程序代理程式和自主專案執行器。它在實作需要集中式任務明細但分散式執行邏輯的多代理程式系統時特別有用，可跨代理程式層實現可擴展性和更可解釋的行為。
## 功能
+ Orchestrator 執行目標中繼關聯
+ 工作者代理程式可能包含工具存取、記憶體或網域特定的提示
+ 可以是階層式 （亦即多層任務委派）
## 常用案例
+ 專案經理、協調研究人員、撰寫者和品質保證代理程式
+ 編碼結合規劃、執行和測試的 Copilot
+ 監督工具鏈或 API 存取模式的代理程式
# 評估者和反射改進迴圈的工作流程
此工作流程提供回饋迴圈，一個 LLM 產生結果，另一個 LLM 評估或評論結果。這可提升自我反射、最佳化和反覆改進。
![\[評估者的工作流程。\]](http://docs.aws.amazon.com/zh_tw/prescriptive-guidance/latest/agentic-ai-patterns/images/workflow-patterns-evaluator-reflect-refine-feedback-loop.png)
評估器工作流程非常適合輸出品質、準確性和一致性很重要，以及產生單一通道不可靠或不足的情況。當客服人員必須自我批評、反覆運算和精簡其輸出時，此工作流程會更好，無論是符合更高的正確性標準，還是根據意見回饋探索改善的替代方案。
此工作流程在以下情況特別有效：
+ 輸出涉及主觀品質指標 （例如，風格、色調和可讀性） 或目標條件 （例如，正確性、安全性和效能）。
+ 客服人員必須透過權衡、評估限制或最佳化目標來推斷。
+ 您需要內建備援和品質保證，尤其是在受管制、面向客戶或創意領域。
+ Human-in-the-loop審核非常昂貴或無法使用，需要自動驗證。
此工作流程用於內容產生、程式碼合成和檢閱、政策強制執行、一致性檢查、指令調校和 RAG 後製處理。它也適用於自我改善客服人員，其中持續意見回饋有助於隨著時間的推移形成更好的回應，以建立值得信任的自動決策迴圈。
## 常用案例
+ 與藍隊客服人員相比的紅隊客服人員
+ 產生、評估和修訂程式碼或計劃的代理程式
+ 品質保證、幻覺偵測和風格強制執行
## 功能
+ 支援使用不同模型的解耦產生和評估 （例如，產生 Claude 和評估 Mistral)
+ 意見回饋是結構化的，用於提示修改後的輸出
+ 支援多個反覆運算或收斂閾值
# 結論
LLMs提供現代軟體代理程式的認知核心，但原始模型調用不足以實現有目的、強大且可控制的智慧。若要從輸出產生移至結構化推理和目標一致行為，LLMs 必須嵌入刻意的工作流程模式中，以定義模型如何處理輸入、管理內容和協調動作。
LLM 工作流程引進建置代理程式認知模組的基礎：
+ 提示鏈結會將複雜的推理分解為模組化、可稽核的步驟。
+ 路由可啟用智慧型任務分類和目標委派。
+ 平行化可加速輸送量並促進多樣化推理。
+ 代理程式協同運作透過任務分解和角色型執行來建構多代理程式協同合作。
+ 評估器 （反射/反射迴圈） 可啟用自我改善、品質控制和對齊檢查。
每個工作流程都代表一個可編譯模式，可以適應客服人員的需求、任務的複雜性以及使用者的期望。這些工作流程並非互斥。它們正在建置區塊，通常合併為支援動態推理、多代理程式協調和企業級可靠性的混合架構。
當您轉換到客服人員工作流程模式的下一章時，這些 LLM 工作流程會重新顯示為大型系統中的內嵌結構，支援目標委派、工具協同運作、決策迴圈和生命週期自主性。掌握這些 LLM 工作流程對於設計軟體代理程式至關重要，不僅可以預測文字，還可以預測原因、調整和刻意採取行動。