View a markdown version of this page

採用分層方法來進行生成式 AI 開發 - AWS 方案指引

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

採用分層方法來進行生成式 AI 開發

為了建置強大且可擴展的生成式 AI 平台，組織需要一個全面的環境來實現創新，同時保持控制和安全性。此策略文件建議由四個基本層組成的企業就緒環境，如下圖所示。

企業就緒生成式 AI 環境的四層。

下列每個層在企業成功採用和擴展生成式 AI 方面都扮演重要角色：

  1. 資料和運算基礎設施 – 可靠的基礎設施為開發、訓練和部署生成式 AI 應用程式提供了基礎。此層可確保組織擁有必要的運算資源和資料管理功能，以支援從小型實驗到大規模生產部署的各種使用案例。對於 Amazon Elastic Compute Cloud (Amazon EC2)，請考慮使用 AWS Trainium、AWS Inferentia、UltraClusters、Elastic Fabric Adapter、適用於 ML、Nitro System 和 Neuron 的容量區塊。 AWS AWS

  2. 已核准的基礎模型和工具 – 此層可讓您的組織存取已核准、預先訓練的模型，同時維護安全性和合規性。團隊可以實驗不同的模型、評估其有效性，並針對特定使用案例選擇最適合的模型。您可以使用 Amazon Bedrock 建立護欄、建置代理程式、自訂模型或匯入您自己的自訂模型。

  3. 安全性與控管 – 此層可協助您確保生成式 AI 應用程式遵守組織政策、合規要求、法律和隱私權要求，以及道德準則。在此圖層中，您會在所有生成式 AI 計畫中實作一致的安全控制和控管機制。

  4. 可重複的應用程式模式 – 此層透過為常見的生成式 AI 使用案例提供標準化範本和最佳實務，加速開發並提升一致性。提供可重複的模式有助於防止重複工作，並快速擴展成功的解決方案。可重複模式的範例包括智慧文件處理、擷取增強生成 (RAG)、聊天式助理和客服人員工作流程。

這種分層方法提供下列主要優點：

  • 它可清楚區分生成式 AI 實作的不同層面。

  • 它在所有生成式 AI 計畫中促進一致的安全性和管理。

  • 它可協助您建置可擴展的基礎設施，以滿足組織需求。

  • 它將加速開發的方法標準化。

  • 它透過經過驗證的模式和實務降低風險。

透過實作這四個層，組織可以為其生成式 AI 計畫建立堅實的基礎，同時保持適應新需求和機會的靈活性。