本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

Amazon EKS 上增強型叢集操作的持續佈建

使用 Amazon EKS 協同運作建立的 Amazon SageMaker HyperPod 叢集現在支援持續佈建，這項新功能可提高執行大規模 AI/ML 工作負載的彈性和效率。持續佈建可讓您快速開始訓練、無縫擴展、在不中斷操作的情況下執行維護，以及具有叢集操作的精細可見性。

運作方式

持續佈建系統引入了取代傳統請求型模型的所需狀態架構。此新架構可跨不同資源層級進行平行、非封鎖操作，同時維持系統穩定性和效能。持續佈建系統：

持續佈建預設為停用。若要使用此功能，請將 --node-provisioning-mode 設定為 Continuous。

啟用持續佈建後，您可以同時啟動多個擴展操作，而無需等待先前的操作完成。這可讓您同時擴展相同叢集中的不同執行個體群組，並將多個擴展請求提交至相同的執行個體群組。

持續佈建也可讓您存取 DescribeClusterEvent 和 ListClusterEvent，以取得詳細的事件監控和操作可見性。

用量計量

具有持續佈建的 HyperPod 叢集會使用執行個體層級計量，以提供反映實際資源用量的準確計費。這種計量方法與傳統的叢集層級計費不同，因為其獨立追蹤每個執行個體。

執行個體層級計費

透過持續佈建，計費會在個別執行個體層級開始和停止，而不是等待叢集層級狀態變更。此方法提供下列優勢：

計費生命週期

HyperPod 叢集中的每個執行個體都遵循此計費生命週期：

建立已啟用持續佈建的叢集

下列AWS CLI操作會建立啟用一個執行個體群組和連續佈建的 HyperPod 叢集。

aws sagemaker create-cluster \ 
--cluster-name $HP_CLUSTER_NAME \
--orchestrator 'Eks={ClusterArn='$EKS_CLUSTER_ARN'}' \
--vpc-config '{
   "SecurityGroupIds": ["'$SECURITY_GROUP'"],
   "Subnets": ["'$SUBNET'"]
}' \
--instance-groups '{
   "InstanceGroupName": "ig-1",
   "InstanceType": "ml.c5.2xlarge",
   "InstanceCount": 2,
   "LifeCycleConfig": {
      "SourceS3Uri": "s3://'$BUCKET_NAME'",
      "OnCreate": "on_create_noop.sh"
   },
   "ExecutionRole": "'$EXECUTION_ROLE'",
   "ThreadsPerCore": 1,
   "TrainingPlanArn": ""
}' \
--node-provisioning-mode Continuous


// Expected Output:
{
    "ClusterArn": "arn:aws:sagemaker:us-west-2:<account-id>:cluster/<cluster-id>"
}

建立了您的叢集後，您可以使用 ListClusterNodes 或 DescribeClusterNode 來進一步了解叢集中的節點。

呼叫這些操作將傳回 ClusterInstanceStatusDetails 物件與下列其中一個值：

最小容量需求 (MinCount)

MinCount 功能可讓您指定執行個體群組轉換為 InService 狀態之前，必須成功佈建的執行個體數量下限。此功能可更好地控制擴展操作，並有助於防止部分佈建的執行個體群組無法有效地用於訓練工作負載的情況。

MinCount 的運作方式

當您建立或更新已啟用 MinCount 的執行個體群組時，會發生下列行為：

MinCount 操作期間的執行個體群組狀態

已設定 MinCount 的執行個體群組會顯示下列狀態行為：

在 Creating或 Updating 狀態期間，適用下列限制：

自動轉返行為

如果執行個體群組無法在 3 小時內達到其 MinCount，系統會自動啟動轉返，以防止無限期等待：

每次更新 MinCount 時，3 小時逾時都會重設。例如，如果您多次更新 MinCount，逾時期間會從最近的更新開始。

MinCount 事件

系統會發出特定事件，協助您追蹤 MinCount 操作：

您可以使用 ListClusterEvents 監控這些事件，以追蹤 MinCount 操作的進度。

API 用量

MinCount 是在執行個體群組組態中使用 MinInstanceCount 參數來指定：

aws sagemaker create-cluster \
--cluster-name $HP_CLUSTER_NAME \
--orchestrator 'Eks={ClusterArn='$EKS_CLUSTER_ARN'}' \
--vpc-config '{
   "SecurityGroupIds": ["'$SECURITY_GROUP'"],
   "Subnets": ["'$SUBNET'"]
}' \
--instance-groups '{
   "InstanceGroupName": "worker-group",
   "InstanceType": "ml.p4d.24xlarge",
   "InstanceCount": 64,
   "MinInstanceCount": 50,
   "LifeCycleConfig": {
      "SourceS3Uri": "s3://'$BUCKET_NAME'",
      "OnCreate": "on_create.sh"
   },
   "ExecutionRole": "'$EXECUTION_ROLE'"
}' \
--node-provisioning-mode Continuous

MinCount 用量的主要考量事項：