協同運作模型:從規則型到 AI 原生 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

協同運作模型:從規則型到 AI 原生

在事件驅動的無伺服器 AI 系統中,協同運作是可決定事件如何觸發和塑造系統行為的連線邏輯。在 中 AWS,協同運作可以遵循兩個主要模型:

  • 規則型協同運作是由開發人員使用工作流程和狀態機器來定義。

  • AI 原生協同運作由客服人員和大型語言模型 (LLMs) 提供支援,可根據意圖和內容來推理、規劃和採取行動。

每個模型在建置靈活、被動和智慧系統方面都扮演著獨特的角色。它們共同讓開發人員能夠從程序自動化轉移到自動化的目標驅動型系統。

使用 的規則型協同運作 AWS Step Functions

Step Functions 提供視覺化工作流程引擎,可協調 AWS Lambda、Amazon SageMaker、Amazon Bedrock、Amazon DynamoDB 和 Amazon Simple Storage Service (Amazon S3) 等服務。邏輯是決定性的,因為步驟是明確定義的,而轉換是以條件為基礎。

規則型協同運作與 Step Functions 的主要優點包括:

  • 透過視覺化工作流程主控台提供強大的可稽核性和可見性

  • 內建錯誤處理、重試和平行處理

  • 適用於具有明確定義路徑的線性或分支控制流程

下圖顯示文件擷取和處理的範例使用案例的工作流程。

文件擷取和處理的規則型協同運作範例。

在此範例中,律師事務所會在下列步驟中自動分析上傳的合約:

  1. 事件觸發 – 法律文件會上傳至 Amazon S3 儲存貯體,這會觸發 Amazon EventBridge 事件,該事件會路由至 Step Functions 工作流程。

  2. 工作流程 – Step Functions 會執行下列步驟:

    1. 文件處理 – Lambda 函數會清除並對文件執行初始光學字元辨識 (OCR)。

    2. 文字擷取 – Amazon Textract 會從文件中擷取金鑰文字和資料。

    3. 分析 – Amazon Comprehend 會分析文字以分類風險層級和情緒。

    4. 摘要 – Amazon Bedrock 會產生合約的簡潔摘要。

    5. 資料儲存 – 結果會寫入 Amazon OpenSearch Service 進行索引。

  3. 擷取 – 法務團隊可以透過儀表板搜尋、篩選和視覺化合約分析。

此架構利用 Step Functions 的 AWS SDK 整合功能,直接與工作流程 AWS 服務 中的每個 互動。這種方法可降低複雜性,並消除每個處理步驟之間對個別 Lambda 函數的需求。OpenSearch Service 的最終寫入也會透過 SDK 整合處理。因此,Step Functions 可以將文件分析結果、風險分類、情緒分析和 AI 產生的摘要直接索引到 OpenSearch Service。法務團隊可以透過儀表板存取資訊,以搜尋、篩選和視覺化合約分析。

每個任務都是具有內建錯誤處理的定義狀態。AI 不會做出任何決策,協調也很明確。

Amazon Bedrock 代理程式的 AI 原生協同運作

在 Step Functions 管理事情發生方式的地方,Amazon Bedrock 的代理程式會根據使用者目標決定應該發生的情況。Amazon Bedrock 代理程式或建置在 Amazon Bedrock AgentCore 上的代理程式結合了下列項目:

  • Anthropic Claude 或 Amazon Nova 等 LLM

  • 一組工具整合,例如執行 MCP 整合的 Lambda 函數 (或模型內容通訊協定 (MCP) 用戶端)

  • 內容式接地的選用知識庫

  • 內建記憶體和目標追蹤

代理程式會解譯自然語言輸入、其原因,並自動叫用工具以滿足使用者的意圖,將協同運作邏輯卸載至模型。

使用 Amazon Bedrock 代理程式進行 AI 原生協同運作的主要優點包括:

  • 語意彈性 – 解譯各種自然語言輸入。

  • 工具自主權 – 在執行時間選取正確的工具。

  • 內容基礎 - 準確引用知識庫內容。

  • 最低限度的開發人員維護 – 定義工具,而非流程。

下圖顯示使用 Amazon Bedrock Agents 進行客戶支援自動化的範例使用案例工作流程。

透過 Amazon Bedrock 代理程式使用 AI 協同運作的工作流程。

在此範例中,零售網站上的使用者在支援聊天機器人中輸入訊息。發生下列工作流程:

  1. 事件觸發動作如下所示:

    1. 使用者傳送訊息:「我需要傳回上週訂購的鞋子。您可以提供協助嗎?」

    2. 訊息會透過 EventBridge 接收和路由。

    3. EventBridge 會觸發 Amazon Bedrock 代理程式。

  2. 代理程式推理程序如下所示:

    1. 意圖擷取 – 客服人員將意圖識別為「傳回順序」。

    2. 資料擷取 – 客服人員使用 GetOrderHistory Lambda 函數查詢 CRM 系統。

    3. 資格檢查 – 客服人員呼叫 ProcessReturn Lambda 函數來驗證傳回資格。

    4. 回應產生 – 代理程式會制定適當的回應。

  3. 當客服人員回應「您的傳回正在處理中時,會發生客戶通訊動作。很快就會收到確認電子郵件。」

整個工作流程示範 Amazon Bedrock Agents 如何透過定義的動作群組協調複雜的商業邏輯。透過將客戶意圖與後端系統和程序連線,它可提供自動化但情境適當的客戶服務體驗。

Amazon Bedrock AgentCore 將 Amazon Bedrock 生態系統延伸到個別代理程式之外,為自動事件驅動的 AI 系統提供完整的執行時間和記憶體架構。

Amazon Bedrock 代理程式著重於協調單一任務或網域的推理和動作序列。AgentCore 提供基礎基礎設施,可在分散式無伺服器環境中建構、協調和保留多代理程式工作流程。

下圖顯示使用 AgentCore 進行客戶支援自動化的範例使用案例的工作流程。

使用 EventBridge、AgentCore 和 Lambda 的客戶支援自動化工作流程。

此範例遵循與先前 Amazon Bedrock Agents 範例相同的動作:零售網站上的使用者在支援聊天機器人中輸入訊息。發生下列工作流程:

  1. 使用者傳送訊息:「我需要傳回上週訂購的鞋子。您可以提供協助嗎?」

  2. 訊息會透過 EventBridge 接收和路由。

  3. EventBridge 會觸發 AgentCore 執行期端點。

AgentCore 引入了三個關鍵功能來補充現有的協同運作模型:

  • AgentCore 執行期 – 用於在其中執行自訂代理程式邏輯的受管執行環境 AWS。它原生與 AWS Lambda 和 Amazon ECS 整合,可隨需擴展代理程式行為,無需手動管理容器或函數基礎設施。

  • AgentCore 記憶體 – 為內容、狀態和任務歷史記錄提供持久的結構化儲存。這可讓客服人員在叫用和工作流程之間維持連續性,同時支援暫時性和長期記憶體模式。記憶體資料可以與 DynamoDB 或 Amazon Simple Storage Service (Amazon S3) 同步,以實現可觀測性和合規性。

  • AgentCore Gateway – 透過模型內容通訊協定 (MCP) 安全地叫用 AWS 服務 和外部 APIs的受管界面。這些連接器可讓客服人員直接與企業資料、工具和應用程式互動,無需自訂整合程式碼即可實現更豐富的協同運作。

這些元件可以一起建置適應性、多代理程式系統,以跨無伺服器、事件驅動的架構運作。例如,AgentCore 執行期可以託管多個專業代理程式,透過 EventBridge 或 Step Functions 進行協調,使用 AgentCore 記憶體來共用內容並確保確定性、可稽核的結果。

藉由將客戶意圖與後端系統和程序連線,AgentCore 可提供自動化但情境上適當的客戶服務體驗。

協同運作不是硬式編碼。LLM 會動態決定工作流程,讓系統對輸入中的變化和模棱兩可性更具彈性。

規則型或 AI 原生:何時使用?

AWS Step Functions 和 Amazon Bedrock 代理程式會在不同的協同運作案例中各自表現出色。最佳實務是將 Step Functions 用於受控程序,並將 Amazon Bedrock Agents 用於自然語言互動和靈活實現目標。下表會比較各種使用案例類型的這些服務。

使用案例類型

Step Functions (以規則為基礎)

Amazon Bedrock 代理程式 (AI 原生)

確定性工作流程

理想

不需要。

非結構化使用者輸入

剛性

解譯和調整。

複雜的商業規則

使用條件建立模型

可以使用語意推理來推斷。

需要精細的稽核線索

完整狀態追蹤

有限追蹤,取決於客服人員日誌。不過,權重、偏差和模型調用記錄等工具可以減輕此限制。

延遲敏感自動化

即時協調

即時,雖然由於 LLM 處理而稍微較高。

目標導向的使用者體驗

需要明確的設計

客服人員可以推斷目標並建構流程。

事件驅動的協同運作

無論是使用規則型還是 AI 原生協同運作,事件都是在無伺服器系統中啟用智慧的機制。在這兩種協同運作模型中,會發生下列序列:

  1. 事件會透過 EventBridge 發出。事件的範例包括使用者輸入、文件上傳和交易。

  2. 該事件會觸發適當的協調器:

    • 如果邏輯是確定性的 Step Functions

    • AWS Lambda 或 Amazon ECS 任務,用於訂閱 EventBridge 的 AWS 原生執行時間,以進行編排設計

    • 如果邏輯是動態或對話式,Amazon Bedrock 代理程式

  3. AgentCore 代理程式可以使用 AgentCore SDK 以原生方式發出和訂閱 EventBridge 事件。透過這種方法,客服人員會直接參與無伺服器工作流程,同時透過 AgentCore Memory 維護長期內容。此整合會形成雙通訊層

    • EventBridge 提供確定性且可稽核的事件路由。

    • AgentCore 記憶體加上Agent2Agent通訊協定 (A2A) 提供語意狀態共用和功能探索。

  4. 每個協調器會協調 AI 服務,並發出進一步的事件,例如完成、錯誤和下游觸發。

此被動模型可確保可擴展性、彈性和模組化設計,允許系統的各個部分獨立發展。

策略觀點

EDA 同時支援規則型協同運作和 AI 原生協同運作模型,並可讓這兩個模型共存。Step Functions 提供可靠、可重複的自動化,而 Amazon Bedrock Agents 引入了動態的內容感知智慧。

它們共同為組織提供執行下列動作的能力:

  • 自動化重複、大量程序

  • 提供智慧、適應性使用者面向的助理

  • 在沒有瓶頸或架構剛性的情況下擴展 AI

協調不再只是關於規則,而是關於意圖解釋、工具選擇和自動執行。上的無伺服器 AWS AWS Step Functions 結合了結構化工作流程和 Amazon Bedrock 代理程式,以進行語意協調。此統一架構可讓您建置新一代的代理、無伺服器 AI 系統。