创建集 SageMaker HyperPod 群

在创建集 SageMaker HyperPod 群之前：

1. 确保现有 Amazon EKS 集群已启动并运行。有关如何设置 Amazon EKS 集群的详细说明，请参阅 Amazon EKS 用户指南中的创建 Amazon EKS 集群。

2. 按照 使用 Helm 在 Amazon EKS 集群上安装软件包 中的说明安装 Helm 图表。如果您创建了 Amazon Nova SageMaker HyperPod 集群，则需要一个单独的 Helm 图表。

准备生命周期配置脚本然后上传到 Amazon S3 存储桶，如 s3://amzn-s3-demo-bucket/Lifecycle-scripts/base-config/。

要快速入门，请on_create.sh从 AWS ome 分布式训练 GitHub 存储库下载示例脚本，然后将其上传到 S3 存储桶。您还可以包括其他设置说明、一系列安装脚本或要在 HyperPod 集群配置阶段执行的命令。

如果您创建受限实例组，则无需下载并运行生命周期脚本。相反，您需要运行 install_rig_dependencies.sh。

运行 install_rig_dependencies.sh 脚本的先决条件包括：

install_rig_dependencies.sh 脚本将执行以下操作。

准备一个 JSON 格式的 CreateClusterAPI 请求文件。对于 ExecutionRole，请提供使用托管的 AmazonSageMakerClusterInstanceRolePolicy 从 的 IAM 角色适用于 SageMaker HyperPod 部分创建的 IAM 角色的 ARN。

// create_cluster.json
{
    "ClusterName": "string",
    "InstanceGroups": [{
        "InstanceGroupName": "string",
        "InstanceType": "string",
        "InstanceCount": number,
        "LifeCycleConfig": {
            "SourceS3Uri": "s3://amzn-s3-demo-bucket-sagemaker/lifecycle-script-directory/src/",
            "OnCreate": "on_create.sh"
        },
        "ExecutionRole": "string",
        "ThreadsPerCore": number,
        "OnStartDeepHealthChecks": [
            "InstanceStress", "InstanceConnectivity"
        ]
    }],
    "RestrictedInstanceGroups": [ 
      { 
         "EnvironmentConfig": { 
            "FSxLustreConfig": { 
               "PerUnitStorageThroughput": number,
               "SizeInGiB": number
            }
         },
         "ExecutionRole": "string",
         "InstanceCount": number,
         "InstanceGroupName": "string",
         "InstanceStorageConfigs": [ 
            { ... }
         ],
         "InstanceType": "string",
         "OnStartDeepHealthChecks": [ "string" ],
         "OverrideVpcConfig": { 
            "SecurityGroupIds": [ "string" ],
            "Subnets": [ "string" ]
         },
         "ScheduledUpdateConfig": { 
            "DeploymentConfig": { 
               "AutoRollbackConfiguration": [ 
                  { 
                     "AlarmName": "string"
                  }
               ],
               "RollingUpdatePolicy": { 
                  "MaximumBatchSize": { 
                     "Type": "string",
                     "Value": number
                  },
                  "RollbackMaximumBatchSize": { 
                     "Type": "string",
                     "Value": number
                  }
               },
               "WaitIntervalInSeconds": number
            },
            "ScheduleExpression": "string"
         },
         "ThreadsPerCore": number,
         "TrainingPlanArn": "string"
      }
   ],
    "VpcConfig": {
        "SecurityGroupIds": ["string"],
        "Subnets": ["string"]
    },
    "Tags": [{
        "Key": "string",
        "Value": "string"
    }],
    "Orchestrator": {
        "Eks": {
            "ClusterArn": "string",
            "KubernetesConfig": {
                "Labels": {
                    "nvidia.com/mig.config": "all-3g.40gb"
                }
            }
        }
    },
    "NodeRecovery": "Automatic"
}

{
    "InstanceGroupName": "flexible-ig",
    "InstanceRequirements": {
        "InstanceTypes": ["ml.p5.48xlarge", "ml.p4d.24xlarge", "ml.g6.48xlarge"]
    },
    "InstanceCount": 10,
    "LifeCycleConfig": {
        "SourceS3Uri": "s3://amzn-s3-demo-bucket-sagemaker/lifecycle-script-directory/src/",
        "OnCreate": "on_create.sh"
    },
    "ExecutionRole": "arn:aws:iam::111122223333:role/iam-role-for-cluster"
}

配置为创建与 EKS SageMaker HyperPod 集群关联的新集群时，请注意以下几点。

运行 create-cluster 命令如下。

aws sagemaker create-cluster \
    --cli-input-json file://complete/path/to/create_cluster.json

这将返回新集群的 ARN。