

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 企業生成式 AI 採用和擴展的最佳實務
<a name="best-practices"></a>

在整個企業中成功採用和擴展生成式 AI 需要組織結構、標準化流程和技術功能的策略平衡。下列最佳實務取自各種組織的成功實作，為整個企業提供有效採用的架構。

**Topics**
+ [組織結構和控管](#best-practices-governance)
+ [標準化和技術卓越性](#best-practices-standardization)
+ [程序實作](#best-practices-process)
+ [實作建議](#best-practices-implementation-recs)

## 組織結構和控管
<a name="best-practices-governance"></a>

考慮建立 AI 卓越中心和模型控管委員會。

### AI 卓越中心
<a name="best-practices-governance-coe"></a>

建立 [AI 卓越中心 (AI CoE)](https://aws.amazon.com/blogs/machine-learning/establishing-an-ai-ml-center-of-excellence/) (AWS 部落格文章），以引導整個組織的生成式 AI 計畫。AI CoE 應提供建置生成式 AI 應用程式的指引、最佳實務和技術功能。透過定期與業務單位互動，AI CoE 有助於識別採用生成式 AI 的機會，同時維持控管和品質標準。

### 模型控管委員會
<a name="best-practices-governance-gov-committee"></a>

擁有具有明確角色和責任的專用模型控管委員會至關重要。該委員會為基礎模型制定評估標準，審查用量請求，並驗證是否符合道德 AI 原則。委員會與法律和合規團隊緊密合作，監督模型效能和風險評估。這為創新和負責任的 AI 使用建立了平衡的方法。

## 標準化和技術卓越性
<a name="best-practices-standardization"></a>

請考慮建立可重複使用的生成式 AI 模式和工具程式庫，並建立全企業存取架構，以普及對 AI 資源的存取。

### 模式程式庫和工具
<a name="best-practices-standardization-library"></a>

為常見的生成式 AI 應用程式開發一套標準化工具和預先定義的模式。建立包含妥善記錄模式、程式碼範本和架構圖表的集中式儲存庫。此標準化可減少進入的障礙、改善跨實作的一致性，並透過提供明確的起點加速開發。

### 全企業存取架構
<a name="best-practices-standardization-framework"></a>

透過請求存取、訓練和加入的簡化程序，促進整個組織對進階工具的存取，例如 Amazon Q Business 和 Amazon Q Developer。AI 資源的普及化可讓跨部門的團隊有能力，同時維持適當的安全控制和管理。

## 程序實作
<a name="best-practices-process"></a>

實作可協助您管理下列項目的程序：
+ 服務
+ 模型選擇和評估
+ 效能監控和評估
+ 安全和合規

### 服務管理
<a name="best-practices-process-services"></a>

內部服務管理程序對於組織和控制生成式 AI 採用至關重要。這些程序應涵蓋新模型的技術評估、法律審查和存取請求。透過建立明確的工作流程和責任，組織可以維持適當的監督，同時改善生成式 AI 解決方案的部署和操作效率。

### 模型選擇和評估
<a name="best-practices-process-selection"></a>

**

系統化的模型選擇方法對於平衡功能、成本和效能至關重要。使用頂層模型開始proof-of-concept開發，以快速驗證商業價值並取得利益相關者的支持。在驗證使用案例之後，系統性地根據已建立的效能基準評估較小的模型，以最佳化生產成本。此方法可加速初始開發，同時提升符合成本效益的擴展。此程序需要明確傳達效能期望，並仔細記錄所需功能。

### 效能監控和最佳化
<a name="best-practices-process-monitoring"></a>

有效的監控和最佳化需要全方位方法來追蹤技術和業務指標。開發儀表板來追蹤關鍵指標，例如推論延遲、輸送量、錯誤率和每個推論的成本。設定異常或效能降低的提醒。定期執行效能審查，以確保模型持續符合業務需求。

成本管理應該是主動且策略性的。定期檢閱模型使用模式和運算資源最佳化，有助於維持高效率的操作。實作成本分配標籤和預算監控，以維持不同使用案例和業務單位費用的可見性。

### 安全和合規
<a name="best-practices-process-security"></a>

必須在生成式 AI 實作生命週期中嵌入安全和合規考量。開發全面的風險管理架構，以解決資料隱私權、模型安全性和道德 AI 考量。此架構應與現有的企業安全政策保持一致，並解決生成式 AI 應用程式的獨特挑戰。

透過分層方法實作安全控制，從強大的存取管理和身分驗證開始。確保採取適當的網路安全和資料保護措施，包括全面的稽核記錄和監控功能。建立生成式 AI 應用程式特有的明確事件回應程序。

## 實作建議
<a name="best-practices-implementation-recs"></a>

若要在整個企業成功採用生成式 AI，請考慮下列重要建議：
+ 從定義明確的有限範圍專案開始，這些專案可以展現明確的商業價值。
+ 記錄成功指標和學習，以通知未來的專案。
+ 逐步擴展成功的實作，並確保有適當的控制和支援機制。
+ 透過定期審查流程和程序，持續專注於持續改進。
+ 建立涵蓋技術和負責 AI 實務的完整訓練計畫。
+ 為知識分享和跨團隊協作建立明確的機制。

透過仔細關注這些最佳實務和建議，組織可以為永續生成式 AI 採用奠定堅實的基礎，同時保持安全性、效率和道德考量。