本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
在 上操作代理式 AI AWS
Aaron Sempf、Brad Ryan、Bhargs Srivathsan 和 Akhil Bhaskar,Amazon Web Services
2025 年 8 月 (文件歷史記錄)
代理式 AI 不是功能,而是新的操作範例。投資於有紀律的架構、信任架構和符合業務的部署模型的組織將領導新一代的適應性智慧企業。
代理式 AI 代表自主軟體代理程式和生成式 AI 的收斂。它將客服人員的決策和目標導向行為與大型語言模型 (LLMs) 的語言理解和產生功能融合在一起。這些客服人員可以在動態企業環境中進行推理、行動、調整和協作。若要操作此潛力,企業必須將其思維從模型部署轉移到客服人員基礎設施。
本指南提供組織策略,將代理式 AI 從隔離實驗轉換為企業規模、創造價值的基礎設施。它可協助您在具有控管、可擴展性和業務一致性的工作流程中嵌入智慧型代理程式。
重點領域和建議
本指南在操作代理式 AI 時,著重於下列基本領域。針對每個重點領域提供組織和業務建議:
-
重點區域 1:釐清客服人員意圖和範圍 – 使客服人員符合業務優先事項和認知瓶頸。將客服人員視為數位團隊成員,而不只是工具。
-
重點領域 2:設計可編譯性和協同合作 – 透過任意代理程式接受具有模組化架構、語意通訊協定和動態委派的多代理程式系統。
-
重點區域 3:多租戶和控制的架構師 – 使用共用代理程式服務、集中式控管和角色型存取來建置可擴展的租戶感知基礎設施。
-
重點領域 4:透過身分、護欄和可觀測性建立信任 – 強制執行可追蹤性、執行時間控制和可解釋性,以獲得利益相關者的信任。
-
重點區域 5:管理生命週期 – 建立持續整合和持續部署 (CI/CD) 管道、提示版本控制、遙測和持續重新訓練,以支援代理式 AI 效能和效率。
-
重點區域 6:使客服人員模型與業務模型保持一致 – 透過以用量為基礎的模型、內部 ROI 指標和商業產品來獲利代理程式功能。
您可以使用本指南中的建議,為您的業務大規模代理式 AI 做好準備。其中概述了組織必須如何針對客服人員 AI 進行重組,包括為客服人員 (AgentOps) 團隊建置 DevOps、可互通系統,以及擴展採用率的變更管理策略。它強調決策優先的思維,並與 AWS Well-Architected Framework 保持一致。
目標對象
本指南適用於企業架構師、AI/ML 工程主管,以及正在設計和擴展代理系統、將 AI 嵌入核心業務工作流程,以及在生產環境中操作 LLMs 和自動代理程式的數位轉型策略師。若要了解本指南中的概念和建議,您應該熟悉現代雲端原生架構和分散式系統、大型語言模型、基礎模型功能,以及 AI 控管、DevOps 和平台工程的原則。
目標
透過實作本指南中的建議,您的組織可以實現下列業務成果:
-
透過自動化的目標導向代理程式加速決策和工作流程執行,以減少人力瓶頸和認知負載。
-
透過可重複使用的多租用戶代理程式平台,跨業務單位進行可擴展且符合成本效益的智慧型功能部署。
-
AI 系統中的彈性、信任和管理能力更高,可在受監管、關鍵任務或面對客戶的環境中自信地採用。
關於此內容系列
本指南是代理式 AI 相關系列的一部分 AWS。如需詳細資訊和檢視此系列中的其他指南,請參閱 AWS 規範性指導網站上的 客服人員 AI