View a markdown version of this page

客服人員建置器 - AWS 上的生成式 AI 應用程式建置器
AgentCore 整合代理程式組態串流和處理記憶體管理可觀測性工作流程建置器

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

客服人員建置器

Agent Builder 提供在 Amazon Bedrock AgentCore 上建立、部署和管理生產就緒 AI 代理程式的平台。本節說明技術元件和實作詳細資訊。

AgentCore 整合

Agent Builder 使用組態型部署方法搭配預先建置的代理程式映像，以啟用快速、安全且可擴展的代理程式部署。

預先建置的代理程式映像

客服人員容器映像由 GAAB 團隊在 CI/CD 管道期間建置，並發佈至公有 ECR 儲存庫。每個映像版本都繫結至 GAAB 解決方案版本 （例如 v4.0.0 → gaab-strands-agent：v4.0.0)。影像是以 Strands SDK 為基礎，並包含：

  • 代理程式執行時間環境

  • MCP 用戶端整合

  • 記憶體管理功能

  • OpenTelemetry 檢測

ECR 提取快取

解決方案使用 ECR Pull-Through Cache 自動將代理程式映像從公有 ECR 儲存庫分佈到客戶的私有 ECR。此 AWS 受管服務：

  • 第一次提取時快取映像 (2-5 分鐘延遲）

  • 消除自訂映像複製邏輯

  • 提供後續部署的本機映像可用性

  • 為每個部署建立唯一的快取規則，以避免衝突

組態儲存

代理程式組態與現有的使用案例組態一起存放在 DynamoDB 中。每個組態包括：

  • 系統提示範本

  • 模型提供者和模型 ID

  • 模型參數 （溫度、max_tokens)

  • MCP 伺服器參考和端點

  • 記憶體設定 （長期記憶體切換）

  • 部署中繼資料

映像版本登錄檔

DynamoDB 資料表會追蹤可用的代理程式映像版本及其快取 URIs，啟用版本管理和回溯相容性。

代理程式組態

系統提示

系統提示會定義客服人員行為、人格和功能。管理員使用者可以：

  • 透過客服人員建置器 UI 編輯預設範本

  • 包含工具用量和回應格式的說明

  • 隨時重設為預設範本

模型選取

代理程式建置器支援 v4.0.0 中的 Amazon Bedrock 模型：

  • 模型提供者：Amazon Bedrock （僅限 v4.0.0 中的選項）

  • 模型選擇：Claude、Nova 和其他 Bedrock 模型

  • 模型參數：溫度、max_tokens、top_p 和模型特定設定

MCP 伺服器整合

模型內容通訊協定伺服器可讓代理程式存取企業工具和資料：

  • 透過 GET /mcp API 端點的伺服器探索

  • 動態組態，無需變更程式碼

  • 身分驗證和端點管理

  • 客服人員的工具功能公開

串流和處理

即時串流

Agent Builder 使用從 AgentCore 橋接到 WebSocket 的 Server-Sent Events (SSE) 進行即時回應串流：

  • Lambda 函數會建立與 AgentCore 執行期的 SSE 連線

  • 串流會橋接至 API Gateway WebSocket

  • 啟用token-by-token回應交付至用戶端

  • 維持長時間執行請求的連線

處理限制條件

v4.0.0 中的代理程式處理僅限於 Lambda 執行逾時：

  • 最長處理時間：15 分鐘

  • 同步處理模型

  • 適合對話客服人員和中等工作流程

  • 針對 v4.1+ 規劃的延伸非同步支援

記憶體管理

短期記憶體

使用自訂 MemoryHookProvider 的所有客服人員預設啟用：

  • 透過 Strands 回呼處理常式擷取對話事件

  • 依 actorId 和 sessionId 組織內容隔離

  • 在工作階段中維護對話內容

  • 自動整合 AgentCore 記憶體

長期記憶體

從 strands_tools 使用 AgentCore Memory Tool 的選用功能：

  • 客服人員建置器使用者介面中的簡單切換

  • 具有預設設定的語意記憶體策略

  • 透過自然工具呼叫的代理程式控制存取

  • 跨工作階段存放擷取的洞見

  • 使用 conversationId 做為 sessionId

可觀測性

AWS OpenTelemetry Distro (ADOT)

容器建置期間會自動檢測代理程式：

  • 自動產生代理程式操作的追蹤

  • 跨服務界限的分散式追蹤

  • 具有相互關聯 IDs結構式記錄

  • 與 CloudWatch 交易搜尋整合

身分驗證流程

使用者透過 Amazon Cognito 使用自訂 Lambda 授權方驗證的 JWT 權杖進行身分驗證，該授權方會根據使用者群組從 DynamoDB 擷取 IAM 政策。

工作流程建置器

工作流程建置器透過建立主管客服人員，使用客服人員做為工具委派模式來協調多個客服人員建置器客服人員，以啟用多重客服人員協調。

工作流程架構

關鍵元件

  • 主管客服人員：接收使用者請求並委派給專業客服人員的進入點客服人員

  • 專門客服人員：客服人員建置器使用案例已註冊為主管的工具

  • 代理程式登錄檔：存放代理程式組態和中繼資料的 DynamoDB 資料表

  • 協同運作層：將 代理程式的 SDK 實作作為工具模式

客服人員執行個體化

建立本機代理程式

所有專門代理程式都會在相同的 AgentCore 執行時間內於本機執行個體化：

  1. 從 DynamoDB 擷取代理程式組態

  2. 建立每個 Agent Builder 代理程式的本機執行個體

  3. 每個代理程式都會維護自己的 MCP 伺服器連線

  4. 主管客服人員將專業客服人員註冊為工具

  5. Strands SDK 管理客服人員選擇和委派