View a markdown version of this page

功能和優勢 - AWS 上的生成式 AI 應用程式建置器

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

功能和優勢

AWS 上的生成式 AI 應用程式建置器解決方案提供下列功能:

快速實驗

此解決方案可讓使用者透過移除部署具有不同組態的多個執行個體所需的繁重工作,並比較輸出和效能,來快速實驗。使用各種 LLMs、提示工程、企業知識庫、護欄、AI 代理器和其他參數的多種組態進行實驗。

選擇和可設定性

透過各種 LLMs 的預先建置連接器,例如透過 Amazon Bedrock 提供的模型,此解決方案可讓您靈活地部署您選擇的模型,以及您偏好的 AWS 和領導 FM 服務。您也可以啟用 Amazon Bedrock 代理程式來執行各種任務和工作流程。

客服人員建置器

使用完整的生命週期管理來建置和部署生產就緒 AI 代理器。設定系統提示、整合企業工具和資料存取的模型內容通訊協定 (MCP) 伺服器,以及啟用記憶體功能以在對話之間保留內容。代理程式部署在 Amazon Bedrock AgentCore 上,具有延長的執行時間支援和即時串流回應。

工作流程建置器

使用階層委派,將多個客服人員建置器客服人員協調到複雜的工作流程中。建立主管代理程式,以自動選取和協調專門的 Agent Builder 代理程式來處理多步驟任務。設定客服人員描述、委派策略和工作流程層級記憶體,同時重複使用現有的客服人員建置器部署。

生產就緒

此解決方案採用 AWS Well-Architected 設計原則,提供企業級安全性和可擴展性,具有高可用性和低延遲,確保與具有高效能標準的應用程式無縫整合。

可擴展的模組化架構

透過整合現有的專案或原生連接其他 AWS 服務,擴展此解決方案的功能。由於這是開放原始碼應用程式,因此您可以使用隨附的 LangChain 協同運作層或 Lambda 函數來連接您選擇的服務。

與 Service Catalog AppRegistry 和 Application Manager 整合,AWS Systems Manager 的功能

此解決方案包含 Service Catalog AppRegistry 資源,可將解決方案的 CloudFormation 範本及其基礎資源註冊為 AWS Service Catalog AppRegistry 和 AWS Systems Manager Application Manager 中的應用程式。透過此整合,您可以集中管理解決方案的資源。