模式 5:基本代理程式 AI 工作流程 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

模式 5:基本代理程式 AI 工作流程

大型語言模型 (LLMs功能強大,但預設不受限制。他們缺乏對專屬資料、業務規則或操作限制的意識,使他們有直接與使用者或系統互動的風險。

企業面臨下列常見挑戰:

  • LLMs會在不知道答案時幻覺,對信任和合規構成風險。

  • 回應缺乏領域特定事實、政策或即時狀態 (例如訂單、帳戶和權利) 的基礎。

  • 動態任務自動化 (例如,訂單查詢、支援分類和 IT 操作) 通常需要叫用真正的 APIs 和工具,而不只是產生文字。

  • 建置傳統意圖路由器、對話方塊管理員和規則型流程的成本高昂、脆弱且無法擴展。

為了解決這些挑戰,企業希望客服人員以智慧方式提出原因、自主行動,並事實上保持基礎。

基礎代理程式 AI 工作流程:具有信任和內容的自動化智慧

基礎化代理程式 AI 工作流程模式使用 Amazon Bedrock 代理程式來協調語意推理、工具調用和知識基礎。客服人員可讓 AI 助理使用企業 APIs 和文件,取得使用者輸入、了解意圖並完成多步驟任務。

與簡單的聊天機器人或靜態 LLM 提示不同,Amazon Bedrock 代理程式:

  • 解譯自然語言目標。

  • 動態選取和叫用工具 (使用 AWS Lambda 函數)。

  • 搜尋或查詢知識庫,以保持企業事實的基礎。

  • 傳回具有可追蹤性和可操作性的關聯式多步驟回應。

參考架構實作每一層,如下所示:

  • 事件觸發 – 使用 Amazon API Gateway、聊天機器人 UI 或支援入口網站,透過 Amazon Bedrock 觸發客服人員互動

  • 處理 – 實作 Lambda 來格式化輸入、套用安全內容 (例如使用者角色或權利),以及豐富中繼資料

  • 推論 – 使用 Amazon Bedrock 代理程式接收提示、叫用 Lambda 工具 (例如 getOrderStatus)、透過知識庫執行接地,以及組合最終回應

  • 後置處理 – 使用 Lambda 檢查客服人員輸出 (例如,如果「訂單遺失」,請向上呈報並通知支援團隊)

  • 輸出 – 傳回代理程式對 UI 的回應,或將其記錄到 Amazon Simple Storage Service (Amazon S3) 或 Amazon OpenSearch Service 以進行稽核、訓練或分析

使用案例:零售客服人員

全球零售商想要自動回應常見的客戶查詢,例如:「我的訂單在哪裡?」、「我想要送回這些鞋子」和「我需要支付送回運送費用嗎?」

答案取決於客戶即時訂單資料、傳回資格和時間表,以及區域特定政策等因素。

為了回應此使用案例,以代理程式為基礎的工作流程會遵循下列步驟:

  1. 使用者使用應用程式或聊天輸入查詢。

  2. API Gateway 會將查詢路由至 Amazon Bedrock 代理程式。

  3. 代理程式會執行下列動作:

    • 剖析意圖 (「傳回請求」)

    • 叫用 Lambda 工具 lookupOrderStatus

    • 透過知識庫執行政策查詢

    • 如果符合資格initiateReturn ,呼叫

    • 撰寫完整回應:「您的傳回已啟動。預期在電子郵件訊息中收到標籤。」

所有動作都是以企業護欄為基礎、記錄和執行。

Amazon Bedrock 代理程式在此模式中的主要功能

對於基本代理程式 AI 工作流程模式,Amazon Bedrock 代理程式提供下列主要功能和優點:

  • 工具選擇可讓代理程式為每個任務選擇正確的 Lambda 函數 (工具)。

  • 記憶體和工作階段狀態可讓客服人員維持整個回合的內容。

  • 基本答案會從存放在 Amazon S3 的知識庫擷取授權資料。

  • 思考鏈 (CoT) 推理可讓代理程式將複雜的提示分解為子目標,並依序採取行動。

  • 安全內容允許使用 AWS Identity and Access Management (IAM) 和內容參數,根據租戶、使用者或角色來範圍化工具。

控管和控制基礎客服人員 AI 工作流程模式的最佳實務

若要讓基礎代理程式 AI 工作流程企業就緒,組織應考慮下列控制項:

  • 版本控制代理程式組態 (例如,工具、指示和知識庫)。

  • 使用結構化日誌和追蹤 IDs進行稽核。

  • 套用提示政策、允許清單和管制檢查。

  • 定義備用流程 (例如,升級至人工或重新路由至靜態常見問答集)。

這些控制項可以使用 Lambda、EventBridge 和代理程式核心AWS Step Functions周圍進行協調。

基礎客服人員 AI 工作流程模式的商業價值

此模式會在下列區域中提供值:

  • 客戶體驗 – 針對 70-80% 的查詢啟用自助式解決方案,無需呈報

  • 營運效率 – 減少支援票證數量和分類額外負荷

  • 解決時間 – 使用真實資料提供即時答案,而不是等待人工客服人員

  • 可擴展性 – 處理數千個並行互動,且人力人數沒有增長

  • 跨網域重複使用 – 將相同的模式套用至多個網域,例如 IT 支援、HR 服務台、法務問答等

基礎代理程式 AI 工作流程可讓企業超越靜態 Q&A 並進入目標驅動型自動化,而不會犧牲控制、合規或準確性。透過結合 LLM 推理與安全、無伺服器 API 執行和知識擷取,Amazon Bedrock 代理程式可提供可運作的 AI 功能,而不只是回應。

接地代理程式是智慧型企業互動的架構,模組化、接地且已準備好進行擴展。