View a markdown version of this page

在 上建置企業就緒的生成式 AI 平台 AWS - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

在 上建置企業就緒的生成式 AI 平台 AWS

Ratan Kumar、Jeffrey Zeng 和 Viral Shah,Amazon Web Services

2025 年 6 月 (文件歷史記錄)

通常會聽到原型很容易、示範很酷,但生產很困難。生成式 AI 應用程式尤其如此。此策略文件提供全方位的指引,協助組織實作安全、可擴展且有效的生成式 AI 平台 AWS。它概述了四層架構方法,其中包含可靠的基礎設施、基礎模型選擇、強大的安全性和控管,以及可重複的應用程式模式。

AI 可協助組織提供差異化的產品和服務。在 AI 的不同領域中,生成式 AI 已成為強大的媒介。它重新定義了企業如何模擬案例、最佳化操作,並為他們的客戶提供令人信服的數位體驗。

雖然許多組織正在建立許多生成式 AI 原型,但他們很難將這些原型擴展為生產就緒的解決方案。為了促進廣泛採用生成式 AI,企業必須解決幾個關鍵挑戰:

  • 基礎設施準備度和可擴展性

  • 安全與合規要求

  • 負責任的 AI 實作

  • 與現有應用程式和程序整合

  • 保護敏感資料和智慧財產權

  • 成本最佳化和投資報酬率 (ROI) 測量

此外,您需要考慮採用生成式 AI 的解決方案的 ROI。如何將生成式 AI 整合到現有的應用程式? 如何確保 AI 產生的建議安全可靠? 使用現有基礎模型或微調模型時,如何協助保護敏感資料和智慧財產權?

透過開發企業就緒的生成式 AI 功能,您可以克服這些挑戰。此策略文件提供路線圖,協助您了解並加速生成式 AI 計畫,同時維持安全與安全標準的合規性。它還描述了如何使用 AWS 服務,例如 Amazon Bedrock 和 Amazon Q,以實現您的目標業務成果。這些服務可以驅動從客戶服務自動化到開發人員生產力工具的所有功能。他們也可以協助您實作聊天式助理和 AI 客服人員,以轉換您的業務營運。

注意

在實作本指南之前,我們建議您使用生成式 AI 工作負載評估來評估組織的生成式 AI 準備程度。此策略文件以本指南中記錄的企業生成式 AI 採用已建立的 AWS 最佳實務和模式為基礎。

目標對象

此策略文件適用於執行長 (CEOs)、技術長 (CTOs)、資訊長 (CIOs) 和其他負責推動 AI 創新和數位轉型的資深技術領導者。若要使用此策略文件,您應該熟悉商業和技術管理概念,例如企業架構、雲端運算模型、IT 控管架構、策略技術規劃和數位轉型計劃。

目標

透過實作此策略文件中的建議,組織可以實現以下目標業務成果:

  • 將原型轉換為生產就緒的生成式 AI 解決方案,以提供可衡量的商業價值

  • 協助分散式團隊更快速地進行實驗,同時維護安全性和管理

  • 透過適當的控制和管控,建立對已核准基礎模型的全企業存取權

  • 透過可重複使用的應用程式模式和標準化工具來減少開發時間和成本

  • 透過安全的自助式存取生成式 AI 功能加速創新

  • 實作負責任的 AI 實務,以促進道德使用和合規

  • 建立可擴展的架構來評估和採用新的基礎模型

  • 透過適當的驗證和控制機制,建立對 AI 產生內容的信任

  • 最佳化營運成本,同時維持高效能和安全標準

  • 將生成式 AI 功能無縫整合到現有的企業應用程式中