Amazon Nova Forge - Amazon Nova
先決條件初始 SageMaker HyperPod 設定

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

Amazon Nova Forge

Amazon Nova Forge 是first-of-its-kind的服務，為組織提供使用 Nova 建置自己的前沿模型最簡單且最具成本效益的方式。

Amazon Nova Forge 引進「開放式訓練」模型的概念，可讓組織存取各種早期模型檢查點，並在模型訓練的每個階段，將專屬資料與 Amazon 策劃的資料集混合。這可讓模型最大限度地從專屬資料中學習，同時將忘記基礎技能的風險降至最低，例如推理。

Nova Forge 提供下列重要功能：

  • 跨模型開發的所有階段存取檢查點，並在新 Nova 模型廣泛推出之前加以利用

  • 使用 Amazon Nova 策劃的訓練資料混合您的專屬資料

  • 在您的環境中使用獎勵函數執行強化學習

  • 使用最佳化的按鈕配方，透過視覺化工作流程或命令列界面使用 Nova 建置

  • 在訓練過程中，使用負責任的 AI Toolkit 使模型與 Amazon Nova 負責任的 AI 指導方針保持一致，並在推論期間實作執行時間控制來調整模型回應

先決條件

訂閱 Nova Forge

若要請求存取 Amazon Nova Forge 服務，請將下列標籤新增至您的主控台 IAM 角色：值為 true 的金鑰 forge-subscription。將此標籤新增至角色後，請前往 SageMaker AI 主控台 > 模型訓練和自訂，然後按一下 Nova Forge。在此頁面上，您將找到有關服務、定價資訊和功能的詳細資訊。您可以從此頁面請求訂閱，然後管理訂閱。

  1. 角色應具有呼叫 api 的許可ListAttachedRolePolicy，且回應應包含 AdministratorAccess或 AmazonSageMakerFullAccess政策。

  2. 登入角色應具有呼叫 api 的許可ListRoleTags，且回應標籤應包含 tag.key=forge-subscription。

其他先決條件

也請確定下列先決條件已完成：

  1. 一般先決條件

  2. 使用者的其他步驟：將受限制執行個體群組 (RIG) 新增至 SageMaker HyperPod 叢集 （若要完成以下步驟，請參閱此處)

初始 SageMaker HyperPod 設定

請依照 Amazon Web Services 文件中的步驟，將 HyperPod CLI 連接至您的叢集。請確定您使用 SageMaker HyperPod CLI 的nova-lite-2.0-release分支。本主題涵蓋：

  • 設定 IAM 許可和政策

  • 設定 SageMaker HyperPod CLI

  • 使用必要的執行個體群組建立叢集

  • 連線至叢集

驗證：完成設定後，請確認您可以成功執行hyperpod connect-cluster和存取叢集。