As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Reduzindo a escala de um cluster SageMaker HyperPod

Você pode reduzir o número de instâncias em execução no seu SageMaker HyperPod cluster da Amazon. Talvez você queira reduzir a escala verticalmente de um cluster por vários motivos, como redução da utilização de recursos ou otimização de custos.

A seguinte página descreve duas abordagens principais para reduzir a escala verticalmente:

Considerações importantes

Reduzir a escala verticalmente em nível de grupo de instâncias

A UpdateClusteroperação permite que você faça alterações na configuração do seu SageMaker HyperPod cluster, como reduzir o número de instâncias de um grupo de instâncias ou remover grupos de instâncias inteiros. Isso pode ser útil quando você deseja ajustar os recursos alocados ao cluster com base em alterações em sua workload, otimizar custos ou alterar o tipo de instância de um grupo de instâncias.

Reduzir a escala verticalmente de um grupo de instâncias

Use essa abordagem quando você tiver um grupo de instâncias ocioso e for seguro encerrar qualquer uma das instâncias para reduzir a escala verticalmente. Quando você envia uma UpdateCluster solicitação para reduzir a escala, escolhe HyperPod aleatoriamente as instâncias para encerramento e reduz a escala até o número especificado de nós para o grupo de instâncias.

Veja a seguir um exemplo de um objeto JSON UpdateCluster. Considere o caso em que seu grupo de instâncias tem duas instâncias em execução no momento. Se você definir o InstanceCountcampo como 1, conforme mostrado no exemplo, selecionará HyperPod aleatoriamente uma das instâncias e a encerrará.

{
  "ClusterName": "name-of-cluster-to-update",
  "InstanceGroups": [
    {
      "InstanceGroupName": "training-instances",
      "InstanceType": "instance-type",
      "InstanceCount": 1,
      "LifeCycleConfig": {
        "SourceS3Uri": "s3://amzn-s3-demo-bucket/training-script.py",
        "OnCreate": "s3://amzn-s3-demo-bucket/setup-script.sh"
      },
      "ExecutionRole": "arn:aws:iam::123456789012:role/SageMakerRole",
      "ThreadsPerCore": number-of-threads,
      "OnStartDeepHealthChecks": [
        "InstanceStress",
        "InstanceConnectivity"
      ]
    }
  ],
  "NodeRecovery": "Automatic"
}

Excluir grupos de instâncias

Você pode usar a UpdateClusteroperação para remover grupos de instâncias inteiros do seu SageMaker HyperPod cluster quando eles não forem mais necessários. Isso vai além da simples redução da escala vertical, permitindo que você elimine completamente grupos de instâncias específicos da configuração do cluster.

Veja a seguir um exemplo de um objeto JSON UpdateCluster. Considere o caso em que um cluster tem três grupos de instâncias no momento, um grupo training, um prototype-training e um inference-serving. Você deseja excluir o grupo prototype-training.

{
  "ClusterName": "name-of-cluster-to-update",
  "InstanceGroups": [
    {
      "InstanceGroupName": "training",
      "InstanceType": "instance-type",
      "InstanceCount": ,
      "LifeCycleConfig": {
        "SourceS3Uri": "s3://amzn-s3-demo-bucket/training-script.py",
        "OnCreate": "s3://amzn-s3-demo-bucket/setup-script.sh"
      },
      "ExecutionRole": "arn:aws:iam::123456789012:role/SageMakerRole",
      "ThreadsPerCore": number-of-threads,
      "OnStartDeepHealthChecks": [
        "InstanceStress",
        "InstanceConnectivity"
      ]
    },
    {
      "InstanceGroupName": "inference-serving",
      "InstanceType": "instance-type",
      "InstanceCount": 2,
      [...]
    },
  ],
  "InstanceGroupsToDelete": [ "prototype-training" ],
  "NodeRecovery": "Automatic"
}

Reduzir a escala verticalmente em nível de instância

A BatchDeleteClusterNodes operação permite que você reduza um SageMaker HyperPod cluster especificando os nós individuais que você deseja encerrar. BatchDeleteClusterNodesfornece um controle mais granular para remoção direcionada de nós e otimização de clusters. Por exemplo, você pode usar BatchDeleteClusterNodes para excluir nós específicos em caso de manutenção, atualizações contínuas ou rebalanceamento geográfico de recursos.

Solicitação e reposta da API

Quando você envia uma BatchDeleteClusterNodes solicitação, SageMaker HyperPod exclui os nós por instância IDs. A API aceita uma solicitação com o nome do cluster e uma lista de nós IDs a serem excluídos.

A resposta inclui duas seções:

Validação e tratamento de erros

A API executa várias validações, como:

Códigos de resposta da API

Exemplo

Veja abaixo um exemplo de como reduzir a escala verticalmente de um cluster em nível da instância usando a AWS CLI:

aws sagemaker batch-delete-cluster-nodes --cluster-name "cluster-name" --node-ids '["i-111112222233333", "i-111112222233333"]'