本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
從事件驅動到認知擴增系統
現代雲端架構,特別是基於無伺服器和事件驅動原則的架構,傳統上依賴路由、廣發和擴充等模式來建立回應、可擴展的系統。代理式 AI 系統以這些基礎為基礎,同時圍繞 LLM 擴增推理和認知靈活性重新建構它們。這種方法允許更複雜的問題解決和自動化功能,可能會徹底改變在雲端環境中處理複雜任務的方式。
事件驅動型架構
下圖顯示典型的分散式系統:
-
使用者向 Amazon API Gateway 提交請求。
-
Amazon API Gateway 會將請求路由到 AWS Lambda 函數。
-
AWS Lambda 透過查詢 Amazon Aurora 資料庫來執行資料擴充
-
Amazon API Gateway 會將富集的承載傳回給發起人。
此結構既可靠又可擴展,但基本上是靜態的。業務規則和邏輯路徑必須明確編碼,並且適應不斷變化的內容或不完整的資訊會受到限制。
Cognition 擴增工作流程
代理架構會將認知增強功能新增至事件驅動型系統。下圖顯示代理程式對等項目:
-
使用者透過 SDK 或 API 呼叫提交查詢。
-
Amazon Bedrock 代理程式會收到查詢。
-
代理程式透過叫用 LLM 來解譯查詢
-
代理程式透過搜尋 Amazon Bedrock 知識庫或其他外部資料來源來執行語意擴充。
-
LLM 會合成內容豐富的目標對齊回應。
-
系統會傳回合成的回應給使用者。
在此流程中,LLM 會使用邏輯、了解意圖、擷取並結合相關內容,然後決定如何做出最佳回應。此模式會反映傳統擴充模式,其中訊息會先以外部資料增強,再進一步路由。不過,在代理系統中,此擴充不是靜態查詢。相反地,擴充是動態的、語意引導的,並由目的驅動。
核心洞察
每個 LLM 工作流程都可以映射到代理工作流程模式,該模式會鏡像和發展傳統的事件驅動型架構樣式。代理程式工作流程的基本建置區塊是使用資料、工具和記憶體來增強 LLM 內容的能力。這會建立推理迴圈,以掌握資訊、適應性並與使用者意圖保持一致。當傳統系統使用查詢資料來豐富訊息時,代理系統可讓軟體運作的方式不如指令碼,更像是智慧協作者。