模式 2:使用 Amazon Bedrock 進行代理式 AI 協調 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

模式 2:使用 Amazon Bedrock 進行代理式 AI 協調

隨著企業尋求改善使用者參與度、自動化內容繁重的工作流程,以及建置更智慧的助理,他們面臨一組常見的挑戰:

  • 內容產生是人力密集、不一致和緩慢的 (例如,撰寫行銷文案、說明文章、狀態摘要)。

  • 使用者介面需要越來越個人化的對話體驗,傳統邏輯樹和FAQs無法支援。

  • 開發人員很難整合多個系統、擷取相關資訊,以及即時呈現一致且內容豐富的回應。

傳統自動化工具可以是剛性的。他們遵循固定規則,無法根據內容、語言細微程度或使用者語氣來調整輸出。

代理式 AI 協同運作模式:靈活、智慧、目標驅動

代理式 AI 協同運作模式使用 Amazon Bedrock 將大型語言模型 (LLM) 型協同運作引入無伺服器架構,讓基礎模型 (FMs) 能夠:

  • 解譯自然語言提示。

  • 視需要叫用工具或 APIs。

  • 以企業知識為基礎的接地輸出。

  • 動態產生結構化、量身打造的內容。

使用 Amazon Bedrock 代理程式時,協同運作會變得自主且以目標為導向。LLM 會決定要呼叫哪些工具、要擷取哪些資訊,以及如何制定最終回應。代理式目標驅動方法是 LLM 支援的數位助理、內容管道和智慧型界面的基礎。

參考架構實作每一層,如下所示:

  • 事件觸發 - 使用 Amazon API Gateway 進行使用者輸入、聊天機器人訊息或業務工作流程觸發

  • 預先處理 - 實作 AWS Lambda來格式化輸入,並將意圖路由至適當的 Amazon Bedrock 代理程式

  • 協調 - 部署 Amazon Bedrock 代理程式以剖析提示、叫用工具 (例如 Lambda 和資料 APIs),以及擷取知識庫內容

  • 推論 - 使用代理程式調用 FM (例如 Anthropic Claude 或 Amazon Nova Pro) 來產生回應

  • 後處理 - 使用 Lambda 在交付前記錄、驗證或充實輸出

  • 輸出 - 將回應傳送到 Web、應用程式,或將其存放在 Amazon Simple Storage Service (Amazon S3) 或 Amazon OpenSearch Service 中。

使用案例:自動產生行銷內容

行銷團隊花費數小時撰寫產品摘要、搜尋引擎最佳化 (SEO) 程式碼片段,以及跨多個區域和語言推出新產品的電子郵件副本。手動複製寫入非常昂貴、緩慢且不一致。

在此使用案例中,生成式 AI 協同運作解決方案包含下列步驟:

  1. 行銷人員透過 Web 表單輸入最少的產品詳細資訊,例如名稱、功能和目標市場。

  2. API Gateway 會將輸入路由至 Amazon Bedrock 代理程式。

  3. 代理程式會執行下列動作:

    • 查詢品牌基調、現有產品描述和法規指導方針的知識庫

    • 叫用 Lambda 函數,從內部 APIs 擷取競爭定位資料

    • 使用 Amazon Nova Pro 撰寫當地語系化且品牌一致的產品描述

  4. 產生的複本會透過 UI 傳回,並封存在 Amazon S3 中,以確保品質保證和分發。

此整個工作流程以秒為單位進行協調,具有完整的可追蹤性和適應性。

為什麼使用 Amazon Bedrock 代理程式協同運作很重要

透過 Amazon Bedrock Agents,開發人員可以定義工具和目標,而不是複雜的工作流程。LLM 使用自然語言驅動協同運作。

下表將傳統協同運作方法與使用 Amazon Bedrock Agents 的代理程式 AI 協同運作進行比較。

挑戰

傳統協同運作方法

代理式 AI 協同運作

非結構化輸入

手動路由

LLMs 解釋意義和意圖。

工具協調

硬式編碼整合邏輯

客服人員在執行時間選擇工具。

產生內容

人力工作或範本

隨需和適應性產生。

個人化

靜態規則或使用者區段

語意基礎和即時適應。

LLM 協同運作的控管考量

強大的協同運作是責任。採用此模式的企業應該:

  • 版本和檢閱提示、工具和代理程式組態。

  • 使用 Amazon Bedrock 知識庫實作接地。

  • 使用 IAM 角色來控制代理程式對函數和資料的存取。

  • 啟用可稽核性和信任的記錄和管制。

透過使用採用 Amazon Bedrock 技術的生成式 AI 協同運作模式,企業可以超越聊天機器人和範本,並進入情境式自動化智慧領域。

從行銷內容到支援回應和內部通訊,再到產品文件,此模式可實現可擴展的創造力和決策。它提供企業雲端環境中預期的可靠性、可觀測性和安全性。

生成式 AI 協同運作模式的商業價值

生成式 AI 協同運作模式會在下列區域中提供值:

  • 速度 – 將建立內容的周轉時間從幾小時縮短為幾秒鐘

  • 一致性 – 維持對語言和團隊的基調、指導方針和政策的遵循

  • 可擴展性 – 讓小型團隊支援全球營運

  • 敏捷性 – 可輕鬆適應新的內容類型或使用者流程

  • 成本效益 - 減少對手動程序的依賴,並縮短time-to-market