View a markdown version of this page

生成式 AI 成熟度模型级别 3：发布 - AWS 规范性指导
重点和标准主要活动转型策略

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

生成式 AI 成熟度模型级别 3：发布

在这个层面上，组织从 proof-of-concept举措过渡到有条不紊地将经过验证的精选生成式人工智能解决方案部署到生产环境中。这个级别代表着从实验转向专注于强大的治理协议、实时监控系统和专门的支持基础设施的关键转变。各公司专注于推出一些具有明显业务影响的生产级应用程序。该级别强调操作的严谨性——实施全面的启动框架，制定明确的治理指导方针，并保持严格的安全标准。发布可靠的生成式 AI 解决方案，提供可量化的结果，让组织为更广泛的采用做好准备。

重点和标准

在这个层面上，组织系统地将生成式人工智能解决方案部署到生产环境中，并实施强大的治理、监控和支持机制。这些机制可提供一致的价值和卓越的运营，同时保持安全性和合规性标准。重点从实验性的生成式人工智能应用程序转移到部署生产就绪型解决方案，这些解决方案通过强大的发布流程、全面的治理框架和系统的性能监控来提供可衡量的商业价值。该级别侧重于部署一定数量的生产就绪生成式人工智能解决方案，这些解决方案可作为启动框架和治理机制的基础实现。

以下是达到此级别的标准：

  • 生产就绪的生成式 AI 解决方案正在提供可衡量的业务成果。

  • 该组织已经实施了基准安全、治理和负责任的人工智能框架。

  • 建立了操作控制措施，包括自动监控和警报系统。

  • 该组织已经定义了人工智能决策的 human-in-the-loop流程。

  • 对于跨职能的人工智能团队，已经定义了初步角色和运营职责。

主要活动

下表显示了每个采用支柱的关键活动。

收养支柱 活动
商业

  • 签署 RACI 矩阵的第一个版本，用于生成式 AI 运算。

  • 确定平台架构、开发和支持所需的关键角色。

  • 通过全面的仪表板衡量运营效率和业务价值。

  • 跟踪和优化运营成本和资源利用率。
People

  • 创建生成式 AI 平台团队或小组，负责架构、开发和维护。

  • 实施始终可用的分层支持结构和培训计划。
Governance

  • 获得企业架构审查委员会的正式架构认可。

  • 建立负责任的人工智能政策框架并获得利益相关者的批准。

  • 为人工智能实施审查设立跨职能监督委员会。

  • 对于生成式 AI 解决方案，请保留有关治理批准、风险评估、标准化设计模式和技术规范的文档。
平台

  • 为生成式 AI 解决方案实施自动化 CI/CD 管道。

  • 部署基础设施即代码 (IaC) 来管理 AWS 资源。

  • 记录生成式 AI 解决方案的设计模式和技术规范。

  • 维护生成式 AI 平台组件的 CMDB 记录。
安全性

  • 为生成式 AI 解决方案及其数据管道实施强大的安全控制。

  • 实施负责任的人工智能的初步政策。

  • 优化可扩展基础架构，以支持实时数据摄取、矢量搜索和微调。

  • 定期进行安全评估和审计。

  • 部署 Amazon Bedrock Guardrails，对生成式 AI 应用程序的安全和隐私控制进行标准化。
操作

  • 建立 SLA 框架和绩效指标。

  • 监控模型性能和护栏违规情况。设置警报。

  • 创建具有自动警报系统的操作仪表板。

  • 遵循 ITIL 流程进行变更管理和资产管理。

  • 建立了包含操作手册、行动手册和故障排除指南的集中式知识库。 FAQs

  • 建立数据可观测性实践。跟踪数据沿袭、来源和质量指标，以便在扩展之前识别差距。

  • 建立分层支持级别，有明确的上报路径。

  • 定期进行绩效评估并分析客户反馈。

更上一层楼的转型策略

为了扩大生成式人工智能计划的规模，组织应：

  • 正式确定生成式 AI 运营模式 — 正式确定整个组织的 RACI 矩阵。

  • 增强生成式 AI 平台 — 对现有的生成式 AI 实现进行评估，以识别可重复使用的模式和组件。评估技术堆栈是否已准备好进行扩展。开始构想和设计模块化架构，该架构具有集中式提示管理、自动评估框架和标准化模式，可有效扩展生成式 AI 解决方案。

  • 扩展用例 — 整合多个部门的 AI 功能并探索新的应用程序。

  • 改善开发者体验 — 将现有平台转变为自助服务内部平台。该平台是一个全面的环境，可为整个企业的 AI 开发提供标准化工具、工作流程和治理。

  • 共享知识 — 建立内部资源实践并创建组件市场，以便在团队之间共享可重复使用的 AI 资产。内部源代码实践是在组织内应用开源开发方法的策略。

  • 设置运营扩展 — 通过自动事件响应和容量规划增强您的支持基础架构。这为基础架构做好了扩展准备，以便在企业范围内采用生成式人工智能。

  • 投资高级分析 — 使用云端的高级分析工具，例如使用亚马逊 CloudWatch获取指标，使用Amaz on Q uick进行可视化，使用数据分析进行持续改进。

  • 审查数据治理模型 — 评估您的数据治理模型当前是否支持自助服务功能，同时保持标准化的策略和访问控制。过于严格或集中的方法可能会阻碍你将数据计划扩展到核心团队以外的能力，尤其是在不同的业务部门之间。

通过采取这些行动，组织可以：

  • 在整个组织中扩展生成式 AI 计划，以产生广泛影响。

  • 继续增强平台，同时寻找提高生产力和可重复使用性的机会。

  • 改善开发者体验并减少认知负担。

  • 培养数据驱动的文化。

  • 通过将组织定位为生成式 AI 领导者，吸引顶尖人才。