翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon EKS での拡張クラスターオペレーションの継続的なプロビジョニング

Amazon EKS オーケストレーションで作成された Amazon SageMaker HyperPod クラスターは、大規模な AI/ML ワークロードを実行する柔軟性と効率を高める新機能である継続的なプロビジョニングをサポートするようになりました。継続的なプロビジョニングにより、トレーニングをすばやく開始し、シームレスにスケーリングし、オペレーションを中断することなくメンテナンスを実行し、クラスターオペレーションをきめ細かく可視化できます。

仕組み

継続的プロビジョニングは、各インスタンスを個別に管理するイベント駆動型アーキテクチャを介して動作します。HyperPod クラスターを作成するときは、各インスタンスグループにインスタンスの必要数を指定します。継続的プロビジョニングシステム：

継続的プロビジョニングはデフォルトで無効になっています。この機能を使用するには、 --node-provisioning-modeを に設定しますContinuous。

継続的プロビジョニングを有効にすると、以前のオペレーションが完了するのを待たずに、複数のスケーリングオペレーションを同時に開始できます。これにより、同じクラスター内の異なるインスタンスグループを同時にスケーリングし、同じインスタンスグループに複数のスケーリングリクエストを送信できます。

また、継続的なプロビジョニングにより、DescribeClusterEvent と ListClusterEvent にアクセスして、詳細なイベントモニタリングと運用の可視性を実現できます。

使用状況の計測

継続的プロビジョニングを備えた HyperPod クラスターは、インスタンスレベルの計測を使用して、実際のリソース使用量を反映する正確な請求を提供します。この計測アプローチは、各インスタンスを個別に追跡することで、従来のクラスターレベルの請求とは異なります。

インスタンスレベルの請求

継続的なプロビジョニングでは、請求はクラスターレベルの状態の変化を待つのではなく、個々のインスタンスレベルで開始および停止します。このアプローチには以下の利点があります。

請求ライフサイクル

HyperPod クラスター内の各インスタンスは、この請求ライフサイクルに従います。

継続的プロビジョニングを有効にしてクラスターを作成する

次の AWS CLI オペレーションでは、1 つのインスタンスグループで継続的なプロビジョニングが有効になっている HyperPod クラスターを作成します。

aws sagemaker-dev create-cluster \ 
--cluster-name $HP_CLUSTER_NAME \
--orchestrator 'Eks={ClusterArn='$EKS_CLUSTER_ARN'}' \
--vpc-config '{
   "SecurityGroupIds": ["'$SECURITY_GROUP'"],
   "Subnets": ["'$SUBNET'"]
}' \
--instance-groups '{
   "InstanceGroupName": "ig-1",
   "InstanceType": "ml.c5.2xlarge",
   "InstanceCount": 2,
   "LifeCycleConfig": {
      "SourceS3Uri": "s3://'$BUCKET_NAME'",
      "OnCreate": "on_create_noop.sh"
   },
   "ExecutionRole": "'$EXECUTION_ROLE'",
   "ThreadsPerCore": 1,
   "TrainingPlanArn": ""
}' \
--node-provisioning-mode Continuous


// Expected Output:
{
    "ClusterArn": "arn:aws:sagemaker:us-west-2:<account-id>:cluster/<cluster-id>"
}

クラスターを作成したら、ListClusterNodes または DescribeClusterNode を使用して、クラスター内のノードに関する詳細情報を確認できます。

これらのオペレーションを呼び出すと、次のいずれかの値を持つ ClusterInstanceStatusDetails オブジェクトが返されます。