本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
模式 5:基本代理程式 AI 工作流程
大型語言模型 (LLMs功能強大,但預設不受限制。他們缺乏對專屬資料、業務規則或操作限制的意識,使他們有直接與使用者或系統互動的風險。
企業面臨下列常見挑戰:
-
LLMs會在不知道答案時幻覺,對信任和合規構成風險。
-
回應缺乏領域特定事實、政策或即時狀態 (例如訂單、帳戶和權利) 的基礎。
-
動態任務自動化 (例如,訂單查詢、支援分類和 IT 操作) 通常需要叫用真正的 APIs 和工具,而不只是產生文字。
-
建置傳統意圖路由器、對話方塊管理員和規則型流程的成本高昂、脆弱且無法擴展。
為了解決這些挑戰,企業希望客服人員以智慧方式提出原因、自主行動,並事實上保持基礎。
基礎代理程式 AI 工作流程:具有信任和內容的自動化智慧
基礎化代理程式 AI 工作流程模式使用 Amazon Bedrock 代理程式來協調語意推理、工具調用和知識基礎。客服人員可讓 AI 助理使用企業 APIs 和文件,取得使用者輸入、了解意圖並完成多步驟任務。
與簡單的聊天機器人或靜態 LLM 提示不同,Amazon Bedrock 代理程式:
-
解譯自然語言目標。
-
動態選取和叫用工具 (使用 AWS Lambda 函數)。
-
搜尋或查詢知識庫,以保持企業事實的基礎。
-
傳回具有可追蹤性和可操作性的關聯式多步驟回應。
參考架構實作每一層,如下所示:
-
事件觸發 – 使用 Amazon API Gateway、聊天機器人 UI 或支援入口網站,透過 Amazon Bedrock 觸發客服人員互動
-
處理 – 實作 Lambda 來格式化輸入、套用安全內容 (例如使用者角色或權利),以及豐富中繼資料
-
推論 – 使用 Amazon Bedrock 代理程式接收提示、叫用 Lambda 工具 (例如
getOrderStatus)、透過知識庫執行接地,以及組合最終回應 -
後置處理 – 使用 Lambda 檢查客服人員輸出 (例如,如果「訂單遺失」,請向上呈報並通知支援團隊)
-
輸出 – 傳回代理程式對 UI 的回應,或將其記錄到 Amazon Simple Storage Service (Amazon S3) 或 Amazon OpenSearch Service 以進行稽核、訓練或分析
使用案例:零售客服人員
全球零售商想要自動回應常見的客戶查詢,例如:「我的訂單在哪裡?」、「我想要送回這些鞋子」和「我需要支付送回運送費用嗎?」
答案取決於客戶即時訂單資料、傳回資格和時間表,以及區域特定政策等因素。
為了回應此使用案例,以代理程式為基礎的工作流程會遵循下列步驟:
-
使用者使用應用程式或聊天輸入查詢。
-
API Gateway 會將查詢路由至 Amazon Bedrock 代理程式。
-
代理程式會執行下列動作:
-
剖析意圖 (「傳回請求」)
-
叫用 Lambda 工具
lookupOrderStatus -
透過知識庫執行政策查詢
-
如果符合資格
initiateReturn,呼叫 -
撰寫完整回應:「您的傳回已啟動。預期在電子郵件訊息中收到標籤。」
-
所有動作都是以企業護欄為基礎、記錄和執行。
Amazon Bedrock 代理程式在此模式中的主要功能
對於基本代理程式 AI 工作流程模式,Amazon Bedrock 代理程式提供下列主要功能和優點:
-
工具選擇可讓代理程式為每個任務選擇正確的 Lambda 函數 (工具)。
-
記憶體和工作階段狀態可讓客服人員維持整個回合的內容。
-
基本答案會從存放在 Amazon S3 的知識庫擷取授權資料。
-
思考鏈 (CoT) 推理可讓代理程式將複雜的提示分解為子目標,並依序採取行動。
-
安全內容允許使用 AWS Identity and Access Management (IAM) 和內容參數,根據租戶、使用者或角色來範圍化工具。
控管和控制基礎客服人員 AI 工作流程模式的最佳實務
若要讓基礎代理程式 AI 工作流程企業就緒,組織應考慮下列控制項:
-
版本控制代理程式組態 (例如,工具、指示和知識庫)。
-
使用結構化日誌和追蹤 IDs進行稽核。
-
套用提示政策、允許清單和管制檢查。
-
定義備用流程 (例如,升級至人工或重新路由至靜態常見問答集)。
這些控制項可以使用 Lambda、EventBridge 和代理程式核心AWS Step Functions周圍進行協調。
基礎客服人員 AI 工作流程模式的商業價值
此模式會在下列區域中提供值:
-
客戶體驗 – 針對 70-80% 的查詢啟用自助式解決方案,無需呈報
-
營運效率 – 減少支援票證數量和分類額外負荷
-
解決時間 – 使用真實資料提供即時答案,而不是等待人工客服人員
-
可擴展性 – 處理數千個並行互動,且人力人數沒有增長
-
跨網域重複使用 – 將相同的模式套用至多個網域,例如 IT 支援、HR 服務台、法務問答等
基礎代理程式 AI 工作流程可讓企業超越靜態 Q&A 並進入目標驅動型自動化,而不會犧牲控制、合規或準確性。透過結合 LLM 推理與安全、無伺服器 API 執行和知識擷取,Amazon Bedrock 代理程式可提供可運作的 AI 功能,而不只是回應。
接地代理程式是智慧型企業互動的架構,模組化、接地且已準備好進行擴展。