View a markdown version of this page

上的模型內容通訊協定策略 AWS - AWS 方案指引
目標對象目標

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

上的模型內容通訊協定策略 AWS

Amazon Web Services （貢獻者)

2026 年 3 月 (文件歷史記錄)

本指南可協助您在整個組織中開發和實作模型內容協定 (MCP) 策略，以支援您的代理式 AI 旅程。隨著客服人員和語言模型逐漸成為業務營運的核心，建立 MCP 策略對於成功的客服人員解決方案至關重要。

本指南探討建置 MCP 策略的三個基礎支柱：MCP 工具設計、MCP 伺服器託管和 MCP 控管。透過解決這些互連元件，組織可以建立可擴展、安全且有效的系統，以跨其 AI 實作管理模型內容。本指南為組織在 AI 旅程的任何階段提供可行的洞察和策略指導，從初始實驗到完整規模的生產部署。這有助於他們開發量身訂做的 MCP 解決方案，以符合其特定需求和目標。

這些最佳實務衍生自企業規模部署 MCP 的組織的實際實作、目前 MCP 規格標準的分析，以及生產環境中自訂大型語言模型 (LLM) 應用程式的經驗教訓。

AI 系統在各種使用案例中使用越來越複雜且強大的 LLMs。LLMs擅長了解自然語言、產生類似人類的回應，以及推斷複雜的資訊。不過，若要將 LLMs 從對話界面轉換為可自動完成複雜任務的系統，組織正在採用 代理式 AI 架構、可感知其環境的 AI 系統、目標原因、自主決策、跨多個步驟協調，以及採取動作來代表使用者實現目標。此代理方法可協助組織建置 AI 系統，透過自然語言了解使用者意圖、自動協調多個資料來源和工具，並以傳統請求回應模式無法達成的規模提供個人化體驗。為了讓這些客服人員更有能力，組織需要提供現有工具和資料的存取權，以充實客服人員的情境理解，並允許其代表使用者採取行動。

MCP 提供 AI 工具整合的標準化通訊協定，可讓客服人員與外部資源之間進行一致的通訊。雖然 MCP 本身定義了通訊標準，但有效地實作它需要仔細考慮架構模式、安全模型、操作實務和效能最佳化策略，以實現可擴展、安全和可維護的解決方案。

本指南合成從企業 MCP 部署中學到的經驗教訓，提供符合 AWS Well-Architected Framework 的可行建議。它涵蓋 MCP 工具設計、MCP 伺服器託管和 MCP 控管的策略，這對於建置您自己的 MCP 解決方案至關重要。本指南中的建議對應至 AWS Well-Architected Framework 的下列五大支柱：

  • 安全性 – 字符隔離、縮小範圍憑證、單獨的讀取/寫入授權

  • 卓越營運 – 工具選擇準確度指標、用於迴歸測試的黃金資料集

  • 可靠性 – 每個使用者和每個工具速率限制、負載卸載

  • 效能效率 – 工作流程範圍工具、工具篩選、語意搜尋以減少內容時段用量

  • 成本最佳化 – 跨團隊可重複使用的 MCP 伺服器，透過工具篩選降低每個請求權杖的成本

目標對象

本指南適用於在其組織中實作代理式 AI 解決方案的架構師、開發人員和技術領導者。若要了解本指南中的概念，您應該了解 LLMs的運作方式，並具備 MCP、工具和提示工程的基礎知識。

目標

建置可立即生產的客服人員 AI 系統，意味著一起解決控管、最佳化和安全性問題，以支援組織的政策。以下說明本指南如何處理這些目標：

  • 控管 – 如果沒有集中控管，您就無法回答有關 AI 工作負載的稽核問題，包括哪些客服人員存取了哪些資料、具有哪些許可，以及何時存取了哪些資料。您也無法強制執行版本控制。本指南的 MCP 託管策略區段說明使用者如何執行因為缺乏系統強制執行而具有已知漏洞的過期本機 MCP 伺服器。

    對於受管制的產業，控管至關重要。稽核人員想要從單一窗格查看所有客服人員的政策強制執行和工具用量追蹤。MCP 控管提供此功能。

    透過遵循本指南中的建議，您可以在對等審核的基準中將任務準確性提高 28-32%。如需詳細資訊，請參閱 MARCO：多客服人員即時聊天協調 (ACL Anthology 網站）。控管不僅與合規有關，還改善了您的代理 AI 系統效能。

  • 最佳化 – 您的團隊可能會多次建置相同的整合。例如，當五個不同的團隊為其 AI 應用程式編寫自己的資料庫查詢指令碼來與其資料庫通訊時，這相當於開發成本的五倍，以及要維護的五組錯誤清單。MCP 可讓您建置一次，並在整個工程社群中共用。隨著您的代理程式計數增加，節省的複合數會增加。

    也有大多數團隊一開始不會注意到的每次請求成本問題。每個工具定義都會使用內容視窗字符。在 20 個工具中，您只會在描述上花費 5，000-10，000 個字符，以及使用者查詢。這會增加延遲和 LLM 推論成本，並在模型難以從可用工具清單中選擇正確的工具時降低準確性。

    與直接存取 APIs 的代理程式相比，使用結構化工具包裝函式的代理程式在資料庫任務上的準確度約為三倍 （如需詳細資訊，請參閱 LLMs的中介軟體：工具是複雜環境中語言代理程式的檢測工具)。如何設計和向 AI 模型展示工具非常重要。本指南建議為工具提供清晰的結構描述、將它們限定為實際工作流程而非原始端點，以及限制內容視窗中的資訊。本指南的 MCP 工具設計策略章節深入探討這些層面。

  • 安全與合規 – 想像一個代理式 AI 系統，該系統會美化清除步驟，並嘗試刪除生產資料庫。如果代理繼承了使用者的完整管理員登入資料，則刪除可能會經歷。透過只授予讀取和建立存取權的權杖隔離和縮小範圍憑證，它會安全地失敗。

    受管制的工作流程會進一步強化這一點。本指南提供範例 （在處理病患資料之前需要 HIPAA 驗證和個人身分識別資訊匿名化的醫療保健管道）。在 MCP 工具中嵌入此類邏輯意味著每次合規都會發生確定性。