本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
此解決方案有助於開發、快速實驗和部署生成式人工智慧 (AI) 應用程式
AWS 上的生成式 AI 應用程式建置器可促進生成式人工智慧 (AI) 應用程式的開發、快速實驗和部署,而不需要 AI 的深入經驗。此 AWS 解決方案可協助您加速開發並簡化實驗:
-
擷取您的業務特定資料和文件
-
評估和比較大型語言模型 (LLMs的效能
-
使用 AI 代理器執行多步驟任務和工作流程
-
快速建置可擴展的應用程式,並使用企業級架構部署這些應用程式
AWS 上的生成式 AI 應用程式建置器包含與下列項目的整合:
-
Amazon Bedrock
上提供的 LLMs -
您已部署在 Amazon SageMaker AI
上的 LLMs -
適用於擷取增強生成的 Amazon Bedrock 知識庫
(RAG) https://aws.amazon.com/what-is/retrieval-augmented-generation/ -
Amazon Bedrock Guardrails
可實作保護措施並減少幻覺 -
Amazon Bedrock 代理
程式可建置可執行任務協調和完成的代理程式工作流程 -
Amazon Bedrock AgentCore
可透過延長執行時間支援來建置、部署和管理生產就緒 AI 代理器 -
適用於企業資料和工具整合的模型內容通訊協定 (MCP)
伺服器
此外,此解決方案使用 LangChain 連接器啟用與您選擇的模型的連線。這些連接器可在搭配 解決方案部署的 AWS Lambda
此實作指南提供 AWS 解決方案上的生成式 AI 應用程式建置器概觀、其參考架構和元件、規劃部署的考量事項,以及將解決方案部署到 Amazon Web Services (AWS) 雲端的組態步驟。
本指南適用於解決方案架構師、商業決策者、DevOps 工程師、資料科學家和雲端專業人員,他們想要在其環境中在 AWS 上實作生成式 AI 應用程式建置器。
使用此導覽表快速找到這些問題的答案:
| 如果您想要 . . . | 讀取 . . . |
|---|---|
|
了解執行此解決方案的成本。 執行此解決方案的預估成本會根據您部署的元件和查詢數量而有所不同。 在美國東部 (維吉尼亞北部) 區域中,使用預設參數和 100 名作用中使用者執行部署儀表板一個月的成本約為每月 20.12 USD。 對於使用 LLM 每天執行 100 個查詢的 1 個商業使用者,未使用 RAG 部署的文字使用案例成本約為每月 12.39 USD。 啟用 RAG 的使用案例,搭配支援每天 8,000 次互動的 Amazon Kendra 索引,其成本約為每月 204.26 USD,加上知識庫的成本。 |
|
|
了解此解決方案的安全考量。 |
|
|
了解如何規劃此解決方案的配額。 |
|
|
了解哪些 AWS 區域支援此解決方案。 |
|
|
檢視或下載此解決方案中包含的 AWS CloudFormation 範本,以自動部署此解決方案的基礎設施資源 (「堆疊」)。 |
|
|
存取原始程式碼,並選擇性地使用 AWS 雲端開發套件 (AWS CDK) 來部署解決方案。 |