View a markdown version of this page

企业生成式 AI 采用和扩展的最佳实践 - AWS 规范性指导

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

企业生成式 AI 采用和扩展的最佳实践

要在整个企业中成功采用和扩展生成式人工智能,就需要在组织结构、标准化流程和技术能力之间取得战略平衡。以下最佳实践来自不同组织的成功实施,为整个企业的有效采用提供了一个框架。

组织结构和治理

考虑设立人工智能卓越中心和模范治理委员会。

人工智能卓越中心

建立人工智能卓越中心 (AI CoE)(AWS 博客文章),以指导整个组织的生成式人工智能计划。AI CoE 应为构建生成式 AI 应用程序提供指导、最佳实践和技术能力。通过与业务部门的定期接触,AI CoE帮助确定采用生成式人工智能的机会,同时保持治理和质量标准。

模范治理委员会

必须设立一个具有明确作用和职责的专门示范治理委员会。该委员会制定基础模型的评估标准,审查使用请求,并验证是否符合道德人工智能原则。该委员会与法律和合规团队密切合作,监督模型表现和风险评估。这为创新和负责任的人工智能使用确立了一种平衡的方法。

标准化和卓越技术

考虑建立一个包含可重复使用的生成式 AI 模式和工具库,并创建一个企业范围的访问框架,实现对 AI 资源的访问民主化。

模式库和工具

为常见的生成式 AI 应用程序开发一套标准化工具和预定义模式。创建一个包含有据可查的模式、代码模板和架构图的集中式存储库。这种标准化降低了进入门槛,提高了实现之间的一致性,并通过提供明确的起点来加快开发速度。

企业范围的访问框架

通过简化的申请访问权限、培训和入职流程,为整个组织访问高级工具(例如 Amazon Q Business 和 Amazon Q Developer)提供便利。人工智能资源的这种民主化为跨部门的团队提供了权力,同时保持了适当的安全控制和治理。

流程实施

实施可帮助您管理以下内容的流程:

  • Services

  • 模型选择和评估

  • 绩效监测和评估

  • 安全与合规

服务管理

内部服务管理流程对于组织和控制生成式人工智能的采用至关重要。这些流程应包括对新车型的技术评估、法律审查和准入申请。通过建立明确的工作流程和职责,组织可以保持适当的监督,同时提高生成式人工智能解决方案的部署和运营效率。

模型选择和评估

系统的模型选择方法对于平衡能力、成本和性能至关重要。使用顶级模型开始 proof-of-concept开发,以快速验证业务价值并获得利益相关者的支持。在用例得到验证后,根据既定的性能基准系统地评估较小的模型,以优化生产成本。这种方法可以加速初始开发,同时促进经济高效的扩展。此过程需要就性能预期进行明确的沟通,并仔细记录所需功能。

性能监控和优化

有效的监控和优化需要一种全面的方法来跟踪技术和业务指标。开发仪表板以跟踪关键指标,例如推理延迟、吞吐量、错误率和每次推理成本。设置异常或性能下降警报。定期进行绩效评估,确保模型继续满足业务需求。

成本管理应是积极主动和战略性的。定期审查模型使用模式和计算资源优化有助于保持高效运营。实施成本分配标签和预算监控,以保持对不同用例和业务部门的支出的可见性。

安全与合规

在生成式 AI 实现生命周期中,必须将安全性和合规性考虑因素嵌入其中。制定全面的风险管理框架,以解决数据隐私、模型安全和道德人工智能注意事项。该框架应与现有的企业安全政策保持一致,并应对生成式人工智能应用程序的独特挑战。

从强大的访问管理和身份验证开始,通过分层方法实施安全控制。确保采取适当的网络安全和数据保护措施,包括全面的审计记录和监控功能。制定针对生成式 AI 应用的明确事件响应程序。

实施建议

要在整个企业中成功采用生成式人工智能,请考虑以下关键建议:

  • 从定义明确、范围有限的项目开始,这些项目可以证明明确的商业价值。

  • 记录成功指标和学习成果,为未来的项目提供信息。

  • 逐步扩大成功的实施规模,并确保适当的控制和支持机制到位。

  • 通过定期审查流程和程序,保持对持续改进的关注。

  • 创建全面的培训计划,涵盖技术实践和负责任的人工智能实践。

  • 建立明确的知识共享和跨团队协作机制。

通过仔细关注这些最佳实践和建议,组织可以为可持续的生成式人工智能采用奠定坚实的基础,同时保持安全性、效率和道德方面的考虑。