View a markdown version of this page

生成式 AI 成熟度模型層級 3：啟動 - AWS 方案指引
焦點和條件關鍵活動轉換策略

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

生成式 AI 成熟度模型層級 3：啟動

在此層級，組織會從proof-of-concept計畫轉換到將精選、經過驗證的生成式 AI 解決方案有系統地部署到生產環境中。此層級代表從實驗轉移到專注於強大的控管通訊協定、即時監控系統和專用支援基礎設施。公司專注於啟動幾個可展現明確業務影響的生產級應用程式。此層級強調營運嚴謹性 - 實作全面的啟動架構、建立明確的控管準則，以及維護強大的安全標準。發佈可靠的生成式 AI 解決方案，可提供可量化的結果，為組織做好更廣泛採用的準備。

焦點和條件

在此層級，組織會在生產環境中有系統地部署生成式 AI 解決方案，並實作強大的控管、監控和支援機制。這些機制提供一致的價值和卓越營運，同時維持安全和合規標準。重點從實驗生成式 AI 應用程式轉移到部署生產就緒解決方案，透過強大的啟動程序、全面的控管架構和系統性效能監控來提供可衡量的商業價值。此層級著重於部署一系列可供生產使用的生成式 AI 解決方案，做為啟動架構和控管機制的基礎實作。

以下是達到此層級的條件：

  • 生產就緒的生成式 AI 解決方案正在提供可衡量的業務成果。

  • 組織已實作基準安全、控管和負責任的 AI 架構。

  • 操作控制已建立，並包含自動監控和提醒系統。

  • 組織已定義 AI 決策的human-in-the-loop程序。

  • 對於跨職能 AI 團隊，已定義初步角色和營運責任。

關鍵活動

下表顯示每個採用支柱的關鍵活動。

採用支柱 活動
商業

  • 為生成式 AI 操作簽署 RACI 矩陣的第一個版本。

  • 識別平台架構、開發和支援所需的關鍵角色。

  • 透過全方位儀表板測量營運效率和商業價值。

  • 追蹤並最佳化營運成本和資源使用率。
人物

  • 為架構、開發和維護建立生成式 AI 平台團隊或隊伍。

  • 實作永遠可用的分層支援結構和訓練計劃。
控管

  • 從企業架構審查委員會取得正式的架構背書。

  • 建立負責任的 AI 政策架構並保護利益相關者的核准。

  • 建立 AI 實作審查的跨職能監督委員會。

  • 對於生成式 AI 解決方案，請維護控管核准、風險評估、標準化設計模式和技術規格的文件。
平台

  • 實作生成式 AI 解決方案的自動化 CI/CD 管道。

  • 將基礎設施部署為程式碼 (IaC) 以管理 AWS 資源。

  • 為生成式 AI 解決方案記錄設計模式和技術規格。

  • 維護生成式 AI 平台元件的 CMDB 記錄。
安全

  • 針對生成式 AI 解決方案及其資料管道實作強大的安全控制。

  • 實作負責 AI 的初步政策。

  • 最佳化可擴展的基礎設施，以支援即時資料擷取、向量搜尋和微調。

  • 定期執行安全評估和稽核。

  • 部署 Amazon Bedrock Guardrail，以標準化生成式 AI 應用程式的安全性和隱私權控制。
作業

  • 建立 SLA 架構和效能指標。

  • 監控模型效能和護欄違規。設定提醒。

  • 建立具有自動提醒系統的操作儀表板。

  • 遵循變更管理和資產管理的 ITIL 程序。

  • 建立集中式知識儲存庫，其中包含操作 Runbook、程序手冊、FAQs和故障診斷指南。

  • 建立資料可觀測性實務。追蹤資料歷程、來源和品質指標，以在擴展之前識別差距。

  • 建立具有明確呈報路徑的分層支援層級。

  • 實作定期效能審查並分析客戶意見回饋。

實現更高水準的轉型策略

若要擴展生成式 AI 計畫，組織應該：

  • 正式化生成式 AI 操作模型 – 正式化整個組織的 RACI 矩陣。

  • 增強生成式 AI 平台 – 對現有的生成式 AI 實作進行評估，以識別可重複使用的模式和元件。評估技術堆疊是否已準備好進行擴展。開始規劃和設計模組化架構，這些架構具有集中式提示管理、自動化評估架構和標準化模式，可有效率地擴展生成式 AI 解決方案。

  • 擴展使用案例 – 將 AI 功能整合到多個部門，並探索新的應用程式。

  • 改善開發人員體驗 – 將現有平台 轉換為自助式內部平台。此平台是全方位的環境，可為整個企業的 AI 開發提供標準化工具、工作流程和控管。

  • 分享知識 – 建立內部來源實務，並建立元件市場，以跨團隊共用可重複使用的 AI 資產。內部來源實務是在組織內套用開放原始碼開發方法的策略。

  • 設定營運擴展 – 透過自動化事件回應和容量規劃，增強您的支援基礎設施。這可讓基礎設施做好擴展的準備，以適應整個企業採用生成式 AI。

  • 投資進階分析 – 在雲端中使用進階分析工具，例如用於指標的 Amazon CloudWatch 和用於視覺化的 Amazon Quick，以使用資料分析進行持續改進。

  • 檢閱資料控管模型 – 評估您的資料控管模型目前是否支援自助式功能，同時維護標準化政策和存取控制。過度限制或集中的方法可能會阻礙您擴展核心團隊以外資料計畫的能力，尤其是跨不同業務單位。

透過採取這些動作，組織可以：

  • 擴展整個組織的生成式 AI 計劃，以獲得廣泛的影響。

  • 繼續增強平台，同時識別提高生產力和可重複使用性的機會。

  • 改善開發人員體驗並減少認知負載。

  • 培養資料驅動型文化。

  • 透過將組織定位為生成式 AI 領導者來吸引頂尖人才。