亚马逊 Nova Forg - 亚马逊 SageMaker AI

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

亚马逊 Nova Forg

Amazon Nova Forge 是一项 first-of-its-kind服务,它为组织提供了使用Nova构建自己的前沿模型的最简单、最具成本效益的方法。

Amazon Nova Forge 引入了 “开放训练” 模型的概念,该模型使组织能够访问各种早期模型检查点,并能够在模型训练的每个阶段将专有数据与亚马逊策划的数据集混合在一起。这使模型能够最大限度地从专有数据中学习,同时最大限度地降低忘记推理等基础技能的风险。

Nova Forge 提供以下关键能力:

  • 访问模型开发各个阶段的检查点,并在新的 Nova 模型广泛上市之前加以利用

  • 将您的专有数据与 Amazon Nova 精心策划的训练数据融为一体

  • 在您的环境中使用奖励功能进行强化学习

  • 使用经过优化的按钮式配方,通过可视化工作流程或命令行界面使用 Nova 进行构建

  • 使用内置的负责任的 AI 工具包实现自定义安全护栏

先决条件

订阅新星锻造厂

要请求访问 Nova Forge 服务,第一步是将以下键值对作为标签添加到您的角色中:伪造订阅。将这些标签添加到角色后,请前往 SageMaker AI 控制台 > 模型训练和自定义,然后单击 Nova Forge。在此页面上,您将找到有关服务、定价信息和功能的详细信息。您可以在此页面申请订阅,然后管理您的订阅。

  1. 该角色应有权调用 apiListAttachedRolePolicy,并且响应中应包含AdministratorAccessAmazonSageMakerFullAccess策略。

  2. 登录角色应有权调用 apiListRoleTags,响应标签应包含tag.key=forge-subscription

其他先决条件

还要确保满足以下先决条件:

  1. 一般先决条件

  2. SageMaker HyperPod 用户的其他步骤:向 HyperPod 集群添加受限实例组 (RIG)(要完成此处的步骤)

初始 HyperPod 设置

按照AWS文档中的步骤将 HyperPod CLI 连接到您的集群。确保使用nova-lite-2.0-release分支而不是release_v2进行测试。本主题包括:

  • 设置 AWS IAM 权限和策略

  • 配置 HyperPod CLI

  • 使用必要的实例组创建集群

  • 连接到集群

验证:完成设置后,确认您可以成功运行hyperpod connect-cluster并访问您的集群。

设置 Nova Forge 的权限

要允许访问 Nova Forge 模型和数据组合,请向 HyperPod集群的执行角色授予访问 Nova Forge S3 存储桶的权限。

  1. 找到你的执行角色。

    您的执行角色遵循命名约定:

    arn:aws:iam::<AWS_ACCOUNT_ID>:role/<your-cluster-name>-9610a1d3ExecRole

    要找到你的执行角色,请执行以下操作:

    1. 导航到 IAM → 中的角色 AWS 管理控制台

    2. 搜索您的集群名称(例如9610a1d3Exec

    3. 找到与上述模式相匹配的角色

    4. 或者,如果集群已创建,则可以在 SageMaker AI > 集群管理 > [您的集群名称] > 实例 > 受限实例组 > 执行角色 ARN AWS 管理控制台 下查看执行角色 ARN

  2. 将更改应用于现有装备(如果适用)

    重要

    如果您在创建 RIG 后授予了此权限,则必须更新集群才能使更改生效。有关更新集群的说明,请参阅下面的故障排除部分。

    注意

    如果没有此权限,您的 RIG 将无法访问 Forge 功能所需的 Nova 数据集或模型检查点。