本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
模式 2:使用 Amazon Bedrock 進行代理式 AI 協調
隨著企業尋求改善使用者參與度、自動化內容繁重的工作流程,以及建置更智慧的助理,他們面臨一組常見的挑戰:
-
內容產生是人力密集、不一致和緩慢的 (例如,撰寫行銷文案、說明文章、狀態摘要)。
-
使用者介面需要越來越個人化的對話體驗,傳統邏輯樹和FAQs無法支援。
-
開發人員很難整合多個系統、擷取相關資訊,以及即時呈現一致且內容豐富的回應。
傳統自動化工具可以是剛性的。他們遵循固定規則,無法根據內容、語言細微程度或使用者語氣來調整輸出。
代理式 AI 協同運作模式:靈活、智慧、目標驅動
代理式 AI 協同運作模式使用 Amazon Bedrock 將大型語言模型 (LLM) 型協同運作引入無伺服器架構,讓基礎模型 (FMs) 能夠:
-
解譯自然語言提示。
-
視需要叫用工具或 APIs。
-
以企業知識為基礎的接地輸出。
-
動態產生結構化、量身打造的內容。
使用 Amazon Bedrock 代理程式時,協同運作會變得自主且以目標為導向。LLM 會決定要呼叫哪些工具、要擷取哪些資訊,以及如何制定最終回應。代理式目標驅動方法是 LLM 支援的數位助理、內容管道和智慧型界面的基礎。
參考架構實作每一層,如下所示:
-
事件觸發 - 使用 Amazon API Gateway 進行使用者輸入、聊天機器人訊息或業務工作流程觸發
-
預先處理 - 實作 AWS Lambda來格式化輸入,並將意圖路由至適當的 Amazon Bedrock 代理程式
-
協調 - 部署 Amazon Bedrock 代理程式以剖析提示、叫用工具 (例如 Lambda 和資料 APIs),以及擷取知識庫內容
-
推論 - 使用代理程式調用 FM (例如 Anthropic Claude 或 Amazon Nova Pro) 來產生回應
-
後處理 - 使用 Lambda 在交付前記錄、驗證或充實輸出
-
輸出 - 將回應傳送到 Web、應用程式,或將其存放在 Amazon Simple Storage Service (Amazon S3) 或 Amazon OpenSearch Service 中。
使用案例:自動產生行銷內容
行銷團隊花費數小時撰寫產品摘要、搜尋引擎最佳化 (SEO) 程式碼片段,以及跨多個區域和語言推出新產品的電子郵件副本。手動複製寫入非常昂貴、緩慢且不一致。
在此使用案例中,生成式 AI 協同運作解決方案包含下列步驟:
-
行銷人員透過 Web 表單輸入最少的產品詳細資訊,例如名稱、功能和目標市場。
-
API Gateway 會將輸入路由至 Amazon Bedrock 代理程式。
-
代理程式會執行下列動作:
-
查詢品牌基調、現有產品描述和法規指導方針的知識庫
-
叫用 Lambda 函數,從內部 APIs 擷取競爭定位資料
-
使用 Amazon Nova Pro 撰寫當地語系化且品牌一致的產品描述
-
-
產生的複本會透過 UI 傳回,並封存在 Amazon S3 中,以確保品質保證和分發。
此整個工作流程以秒為單位進行協調,具有完整的可追蹤性和適應性。
為什麼使用 Amazon Bedrock 代理程式協同運作很重要
透過 Amazon Bedrock Agents,開發人員可以定義工具和目標,而不是複雜的工作流程。LLM 使用自然語言驅動協同運作。
下表將傳統協同運作方法與使用 Amazon Bedrock Agents 的代理程式 AI 協同運作進行比較。
挑戰 |
傳統協同運作方法 |
代理式 AI 協同運作 |
|---|---|---|
非結構化輸入 |
手動路由 |
LLMs 解釋意義和意圖。 |
工具協調 |
硬式編碼整合邏輯 |
客服人員在執行時間選擇工具。 |
產生內容 |
人力工作或範本 |
隨需和適應性產生。 |
個人化 |
靜態規則或使用者區段 |
語意基礎和即時適應。 |
LLM 協同運作的控管考量
強大的協同運作是責任。採用此模式的企業應該:
-
版本和檢閱提示、工具和代理程式組態。
-
使用 Amazon Bedrock 知識庫實作接地。
-
使用 IAM 角色來控制代理程式對函數和資料的存取。
-
啟用可稽核性和信任的記錄和管制。
透過使用採用 Amazon Bedrock 技術的生成式 AI 協同運作模式,企業可以超越聊天機器人和範本,並進入情境式自動化智慧領域。
從行銷內容到支援回應和內部通訊,再到產品文件,此模式可實現可擴展的創造力和決策。它提供企業雲端環境中預期的可靠性、可觀測性和安全性。
生成式 AI 協同運作模式的商業價值
生成式 AI 協同運作模式會在下列區域中提供值:
-
速度 – 將建立內容的周轉時間從幾小時縮短為幾秒鐘
-
一致性 – 維持對語言和團隊的基調、指導方針和政策的遵循
-
可擴展性 – 讓小型團隊支援全球營運
-
敏捷性 – 可輕鬆適應新的內容類型或使用者流程
-
成本效益 - 減少對手動程序的依賴,並縮短time-to-market