翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

SageMaker HyperPod クラスターのスケールダウン

Amazon SageMaker HyperPod クラスターで実行中のインスタンス数をスケールダウンできます。リソース使用率の削減やコストの最適化など、さまざまな理由でクラスターをスケールダウンする必要がある場合があります。

次のページでは、スケールダウンを行うための 2 つの主な方法について説明します。

重要な考慮事項

インスタンスグループレベルでスケールダウンする

UpdateCluster オペレーションを使用すると、インスタンスグループのインスタンス数をスケールダウンしたり、インスタンスグループ全体を削除したりするなど、SageMaker HyperPod クラスターの設定を変更できます。これは、ワークロードの変更に基づいてクラスターに割り当てられたリソースを調整したり、コストを最適化したり、インスタンスグループのインスタンスタイプを変更したりする場合に役に立ちます。

インスタンスグループをスケールダウンする

このアプローチは、アイドル状態のインスタンスグループがあり、スケールダウンのために任意のインスタンスを終了しても安全である場合に使用します。スケールダウンする UpdateCluster リクエストを送信すると、HyperPod はインスタンスを終了対象としてランダムに選択し、インスタンスグループの指定された数のノードにスケールダウンします。

UpdateCluster JSON オブジェクトの例は、次のとおりです。現在 2 つのインスタンスが実行されている状況を想定します。例に示されるとおり、InstanceCount フィールドを 1 に設定すると、HyperPod はインスタンスの 1 つをランダムに選択して終了します。

{
  "ClusterName": "name-of-cluster-to-update",
  "InstanceGroups": [
    {
      "InstanceGroupName": "training-instances",
      "InstanceType": "instance-type",
      "InstanceCount": 1,
      "LifeCycleConfig": {
        "SourceS3Uri": "s3://amzn-s3-demo-bucket/training-script.py",
        "OnCreate": "s3://amzn-s3-demo-bucket/setup-script.sh"
      },
      "ExecutionRole": "arn:aws:iam::123456789012:role/SageMakerRole",
      "ThreadsPerCore": number-of-threads,
      "OnStartDeepHealthChecks": [
        "InstanceStress",
        "InstanceConnectivity"
      ]
    }
  ],
  "NodeRecovery": "Automatic"
}

インスタンスグループを削除する

UpdateCluster オペレーションを使用すると、不要になったインスタンスグループ全体を SageMaker HyperPod クラスターから完全に削除できます。これはシンプルなスケールダウンのみでなく、クラスターの設定から特定のインスタンスグループを完全に排除できます。

UpdateCluster JSON オブジェクトの例は、次のとおりです。クラスターに現在 3 つのインスタンスグループ、トレーニンググループ、プロトタイプトレーニンググループ、推論サービスグループがある場合を想定します。プロトタイプトレーニンググループを削除します。

{
  "ClusterName": "name-of-cluster-to-update",
  "InstanceGroups": [
    {
      "InstanceGroupName": "training",
      "InstanceType": "instance-type",
      "InstanceCount": ,
      "LifeCycleConfig": {
        "SourceS3Uri": "s3://amzn-s3-demo-bucket/training-script.py",
        "OnCreate": "s3://amzn-s3-demo-bucket/setup-script.sh"
      },
      "ExecutionRole": "arn:aws:iam::123456789012:role/SageMakerRole",
      "ThreadsPerCore": number-of-threads,
      "OnStartDeepHealthChecks": [
        "InstanceStress",
        "InstanceConnectivity"
      ]
    },
    {
      "InstanceGroupName": "inference-serving",
      "InstanceType": "instance-type",
      "InstanceCount": 2,
      [...]
    },
  ],
  "InstanceGroupsToDelete": [ "prototype-training" ],
  "NodeRecovery": "Automatic"
}

インスタンスレベルでスケールダウンする

BatchDeleteClusterNodes オペレーションを使用すると、終了する個々のノードを指定して SageMaker HyperPod クラスターをスケールダウンできます。BatchDeleteClusterNodes は、ターゲットノードの削除とクラスターの最適化をさらにきめ細かく制御できます。例えば、BatchDeleteClusterNodes を使用すると、メンテナンス、ローリングアップグレード、またはリソースの地理的な再調整のターゲットノードを削除できます。

API リクエストと応答

BatchDeleteClusterNodes リクエストを送信すると、SageMaker HyperPod はインスタンス ID に基づいてノードを削除します。API は、クラスター名と削除するノード ID のリストを含むリクエストを受け入れます。

応答には 2 つのセクションがあります。

検証とエラー処理

API は、次のとおり、さまざまな検証を実行します。

API レスポンスコード

例

以下は、AWS CLI を使用してインスタンスレベルでクラスターをスケールダウンする例です。

aws sagemaker batch-delete-cluster-nodes --cluster-name "cluster-name" --node-ids '["i-111112222233333", "i-111112222233333"]'