View a markdown version of this page

生成式 AI 成熟度模型層級 2：實驗 - AWS 方案指引
焦點和條件關鍵活動轉換策略

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

生成式 AI 成熟度模型層級 2：實驗

根據上一個層級建立的基礎意識，實驗層級標記了從理論探索到生成式 AI 技術實際實作的關鍵轉換。在此層級，組織會超越概念性的理解，以參與實作 PoC 專案和試行計畫。這些 PoC 和試行專案旨在驗證商業價值並建置核心能力。此層級的特徵是結構化實驗，其中組織組成專用團隊、建立控管架構，並開始開發內部技術專業知識。透過精心控制的試行專案，組織可以測試其有關生成式 AI 潛力的假設，同時將風險降至最低並最大化學習機會。這為成功計畫的廣泛實作和擴展設定了階段。

焦點和條件

在此層級，組織會使用生成式 AI 技術，從探索轉換到實作 PoC 實驗和試行專案。重點在於透過結構化試行計劃驗證商業價值，並建立核心能力。此層級強調實際學習、建立內部功能和技術專業知識，以及建立基礎和控管架構。

以下是達到此層級的條件：

  • 組織有進行中的試行專案和概念驗證。

  • 專用、跨職能的團隊會指派給生成式 AI 計畫。

  • 已建立結構化的內部訓練計畫。

  • 這些組織已選取並驗證 AI 模型和工具。

  • 組織已定義其初始控管和資料架構。

關鍵活動

下表顯示每個採用支柱的關鍵活動。

採用支柱 活動
商業

  • 根據商業價值和可行性，定義策略使用案例並排定優先順序。

  • 針對 PoCs，建立衡量投資報酬率 (ROI) 的成功指標和架構。

  • 為每個 PoC 建立值評估計分卡。

  • 將 PoCs的範圍限制在具有明確成功指標的可管理規模。

  • 對於每個 PoC，測量 ROI 並評估其是否達到成功條件。
人物

  • 在提示工程、RAG 和模型微調中實作結構化訓練計劃。

  • 建立生成式 AI 認證路徑和職業發展架構。

  • 僱用生成式 AI 和資料科學專家。

  • 與外部專家合作，例如生成式 AI AWS 創新中心或 AWS專業服務，共同建置 PoC、提供支援和轉移知識。

  • 建立 AI 認證路徑和職業發展架構。
控管

  • 開發包含生成式 AI 資料控管的初步架構，例如用於向量搜尋的內容品質。

  • 建立模型評估標準和品質控制。

  • 為生成式 AI 專案設定風險評估通訊協定。

  • 設定以道德和負責任的方式使用生成式 AI 的指導方針。訓練開發人員、資料科學家和生成式 AI 專家，以符合這些準則。
平台

  • 設定 PoC 的基礎基礎設施，例如 AWS 登陸區域和開發人員所需的許可。

  • 為生成式 AI 實驗和 PoC 開發設定環境，例如 Amazon Bedrock 遊樂場或 Amazon SageMaker AI JupyterLab 空間或筆記本執行個體。

  • 實作開發人員可以輕鬆使用的 RAG 方法或代理程式工作流程。對於 RAG 方法，請考慮 Amazon Bedrock 知識庫，對於代理工作流程，請考慮 Amazon Bedrock 代理程式。

  • 設定管理提示、模型和提示評估的架構或管道。這些資源應可協助開發人員快速評估 PoC 應用程式的結果和效能。

  • 實作早期資料整合工作，包括結構化和非結構化資料管道。設定 RAG 實驗的向量資料庫。

  • 根據成本、效能和使用案例適用性評估基礎模型。您可以使用 Amazon Bedrock、Amazon SageMaker AI 和 Amazon SageMaker AI JumpStart。
安全

  • 實作資料存取控制以訓練生成式 AI 模型，並確保這些模型符合合規要求。Amazon Q Business 可以透過啟用精細控制來簡化 RAG 的實作，這些控制允許生成式 AI 工作負載僅擷取使用者獲授權存取的資料。

  • 在用於訓練模型的資料集中，制定保護個人身分識別資訊 (PII) 的策略。
作業

  • 為下列項目建立文件和支援程序：

    • PoC 實作和學習

    • 基本平台組態和安全控制

    • 測試和評估程序

    • 正在移至生產環境的成功 PoCs的移交程序

實現更高水準的轉型策略

組織可以執行下列動作，轉換為下一個成熟度層級：

  • 建立生產級基礎設施以支援生成式 AI – AWS 服務 用於實作 CI/CD 管道、標準化部署模式和適當的生產部署擴展機制。

  • 實作控管 – 建立生產級控管架構，以管理持續產生的 AI 用量和模型更新。

  • 實作可觀測性 – 實作專為生成式 AI 工作負載而調整的可觀測性、監控和記錄實務。這包括模型效能指標、用量模式和回應品質評估。

  • 專注於合規性 – 確保您符合資料隱私權和安全性的產業標準和法規。

  • 建置專用 AI 團隊 – 設定團隊，為生成式 AI 解決方案建立和維護標準化的生產路徑。

  • 實作卓越營運 – 建立事件回應和呈報程序。建立服務層級協議 (SLAs) 和效能指標。實作成本最佳化策略。

透過採取這些動作，組織可以：

  • 驗證生成式 AI 應用程式是否穩定、可靠，並持續為組織提供價值。

  • 隨著不同部門的需求和用量增加，支援生成式 AI 解決方案的成長。

  • 管理風險、維持監督，並在 AI 計畫成為業務營運不可或缺的一部分時，使其符合法規標準。

  • 提供生成式 AI 解決方案的持續監控、改善和支援。這可減少對臨機操作或臨時專案團隊的依賴。

  • 讓組織做好準備，從隔離的專案轉移到策略性且具凝聚力的方法，其中 AI 成為業務流程的核心推動者。組織已準備好進一步擴展和更廣泛的採用。