View a markdown version of this page

生成式 AI 成熟度模型第 2 级：实验 - AWS 规范性指导
重点和标准主要活动转型策略

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

生成式 AI 成熟度模型第 2 级：实验

在上一级别建立的基础意识的基础上，实验级别标志着生成式人工智能技术从理论探索到实际实施的关键过渡。在这个层面上，组织超越了概念理解，转而参与实践PoC项目和试点计划。这些 PoC 和试点项目旨在验证业务价值并培养核心能力。该级别的特点是结构化实验，组织可以组建专门的团队，建立治理框架，并开始培养内部技术专业知识。通过精心控制的试点项目，组织可以检验他们对生成式人工智能潜力的假设，同时最大限度地降低风险并最大限度地利用学习机会。这为更广泛地实施和扩大成功举措奠定了基础。

重点和标准

在这个层面上，组织从探索过渡到使用生成式人工智能技术的实践PoC实验和试点项目。重点是通过结构化的试点计划和培养核心能力来验证商业价值。这个级别强调实践学习、建立内部能力和技术专长，以及建立基础和治理框架。

以下是达到此级别的标准：

  • 该组织正在积极开展试点项目，概念验证正在进行中。

  • 专门的跨职能团队负责生成式人工智能计划。

  • 制定了结构化的内部培训计划。

  • 这些组织已经选择并验证了人工智能模型和工具。

  • 该组织已经定义了其最初的治理和数据框架。

主要活动

下表显示了每个采用支柱的主要活动。

收养支柱 活动
商业

  • 根据业务价值和可行性定义战略用例并确定其优先级。

  • 为 PoCs此，建立衡量投资回报率 (ROI) 的成功指标和框架。

  • 为每个 PoC 创建价值评估记分卡。

  • 将范围限制在具有明确成功指标的可管理范围内。 PoCs

  • 对于每个 PoC，衡量投资回报率并评估其是否达到成功标准。
People

  • 在及时的工程、RAG 和模型微调中实施结构化培训计划。

  • 创建生成式 AI 认证途径和职业发展框架。

  • 聘请生成式 AI 和数据科学专家。

  • 与外部专家（例如 AWS 生成式人工智能创新中心或 AWS专业服务）合作，共同构建 PoC、提供支持和转移知识。

  • 建立 AI 认证途径和职业发展框架。
Governance

  • 制定初步框架，涵盖生成式 AI 的数据治理，例如用于矢量搜索的内容质量。

  • 建立模型评估标准和质量控制。

  • 为生成式 AI 项目制定风险评估协议。

  • 为合乎道德和负责任地使用生成式人工智能制定指导方针。培训开发人员、数据科学家和生成式 AI 专家遵守这些指南。
平台

  • 为 PoC 设置基础架构，例如 landing AWS zon e 和开发者所需的权限。

  • 为生成式 AI 实验和 PoC 开发设置环境，例如 Amazon Bedrock 游乐场、亚马逊 A SageMaker I JupyterLab 空间或笔记本实例。

  • 实施开发人员可以轻松使用的 RAG 方法或代理工作流程。对于 RAG 方法，可以考虑 Amazon Bedrock 知识库；对于代理工作流程，可以考虑 A ma zon Bedrock Agents。

  • 设置管理提示、模型和提示评估的框架或管道。这些资源应该可以帮助开发人员快速评估 PoC 应用程序的结果和性能。

  • 实施早期的数据集成工作，包括结构化和非结构化数据管道。为 RAG 实验设置矢量数据库。

  • 根据成本、性能和用例适用性评估基础模型。你可以使用 Amazon Bedrock、Amazon SageMaker AI 和亚马逊 A SageMaker I JumpStart。
安全性

  • 为训练生成式 AI 模型实施数据访问控制，并确保它们符合合规性要求。Amazon Q Bus iness 可以通过启用精细控制来简化 RAG 的实施，允许生成式 AI 工作负载仅检索用户有权访问的数据。

  • 制定保护用于训练模型的数据集中的个人身份信息 (PII) 的策略。
操作

  • 为以下内容创建文档和支持流程：

    • PoC 的实施和学习

    • 基本平台配置和安全控制

    • 测试和评估程序

    • 成功移交正在转向生产 PoCs 的成功流程

更上一层楼的转型策略

通过执行以下操作，组织可以过渡到下一个成熟度级别：

  • 创建生产级基础设施以支持生成式 AI — 用于 AWS 服务 为生产部署实现 CI/CD 管道、标准化部署模式和适当的扩展机制。

  • 实施治理 — 建立生产级治理框架，以管理持续的生成式 AI 使用和模型更新。

  • 实现可观察性 — 实施专门针对生成式 AI 工作负载的可观察性、监控和日志记录实践。这包括模型性能指标、使用模式和响应质量评估。

  • 专注于合规性 — 确保遵守数据隐私和安全的行业标准和法规。

  • 组@@ 建专门的 AI 团队 — 组建一个团队，为生成式 AI 解决方案创建和维护标准化生产路径。

  • 实施卓越运营-创建事件响应和上报流程。制定服务级别协议 (SLAs) 和性能指标。实施成本优化策略。

通过采取这些行动，组织可以：

  • 验证生成式 AI 应用程序是否稳定、可靠，并持续为组织创造价值。

  • 随着各部门需求和使用量的增加，Support 支持生成式 AI 解决方案的发展。

  • 管理风险，保持监督，并使人工智能计划与监管标准保持一致，因为它们已成为业务运营不可或缺的一部分。

  • 为生成式 AI 解决方案提供持续监控、改进和支持。这减少了对临时或临时项目团队的依赖。

  • 让组织做好准备，从孤立的项目转向战略性和凝聚力的方法，让人工智能成为业务流程的核心推动力。该组织已准备好进一步扩大规模和更广泛地采用。