本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

企業生成式 AI 採用和擴展的最佳實務

在整個企業中成功採用和擴展生成式 AI 需要組織結構、標準化流程和技術功能的策略平衡。下列最佳實務取自各種組織的成功實作，為整個企業提供有效採用的架構。

組織結構和控管

考慮建立 AI 卓越中心和模型控管委員會。

AI 卓越中心

建立 AI 卓越中心 (AI CoE) (AWS 部落格文章），以引導整個組織的生成式 AI 計畫。AI CoE 應提供建置生成式 AI 應用程式的指引、最佳實務和技術功能。透過定期與業務單位互動，AI CoE 有助於識別採用生成式 AI 的機會，同時維持控管和品質標準。

模型控管委員會

擁有具有明確角色和責任的專用模型控管委員會至關重要。該委員會為基礎模型制定評估標準，審查用量請求，並驗證是否符合道德 AI 原則。委員會與法律和合規團隊緊密合作，監督模型效能和風險評估。這為創新和負責任的 AI 使用建立了平衡的方法。

標準化和技術卓越性

請考慮建立可重複使用的生成式 AI 模式和工具程式庫，並建立全企業存取架構，以普及對 AI 資源的存取。

模式程式庫和工具

為常見的生成式 AI 應用程式開發一套標準化工具和預先定義的模式。建立包含妥善記錄模式、程式碼範本和架構圖表的集中式儲存庫。此標準化可減少進入的障礙、改善跨實作的一致性，並透過提供明確的起點加速開發。

全企業存取架構

透過請求存取、訓練和加入的簡化程序，促進整個組織對進階工具的存取，例如 Amazon Q Business 和 Amazon Q Developer。AI 資源的普及化可讓跨部門的團隊有能力，同時維持適當的安全控制和管理。

程序實作

實作可協助您管理下列項目的程序：

服務管理

內部服務管理程序對於組織和控制生成式 AI 採用至關重要。這些程序應涵蓋新模型的技術評估、法律審查和存取請求。透過建立明確的工作流程和責任，組織可以維持適當的監督，同時改善生成式 AI 解決方案的部署和操作效率。

模型選擇和評估

系統化的模型選擇方法對於平衡功能、成本和效能至關重要。使用頂層模型開始proof-of-concept開發，以快速驗證商業價值並取得利益相關者的支持。在驗證使用案例之後，系統性地根據已建立的效能基準評估較小的模型，以最佳化生產成本。此方法可加速初始開發，同時提升符合成本效益的擴展。此程序需要明確傳達效能期望，並仔細記錄所需功能。

效能監控和最佳化

有效的監控和最佳化需要全方位方法來追蹤技術和業務指標。開發儀表板來追蹤關鍵指標，例如推論延遲、輸送量、錯誤率和每個推論的成本。設定異常或效能降低的提醒。定期執行效能審查，以確保模型持續符合業務需求。

成本管理應該是主動且策略性的。定期檢閱模型使用模式和運算資源最佳化，有助於維持高效率的操作。實作成本分配標籤和預算監控，以維持不同使用案例和業務單位費用的可見性。

安全和合規

必須在生成式 AI 實作生命週期中嵌入安全和合規考量。開發全面的風險管理架構，以解決資料隱私權、模型安全性和道德 AI 考量。此架構應與現有的企業安全政策保持一致，並解決生成式 AI 應用程式的獨特挑戰。

透過分層方法實作安全控制，從強大的存取管理和身分驗證開始。確保採取適當的網路安全和資料保護措施，包括全面的稽核記錄和監控功能。建立生成式 AI 應用程式特有的明確事件回應程序。

實作建議

若要在整個企業成功採用生成式 AI，請考慮下列重要建議：

透過仔細關注這些最佳實務和建議，組織可以為永續生成式 AI 採用奠定堅實的基礎，同時保持安全性、效率和道德考量。