As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Configuração da governança de tarefas

Esta seção inclui informações sobre como configurar o complemento EKS de governança de SageMaker HyperPod tarefas da Amazon. Isso inclui a concessão de permissões que possibilitam definir a priorização de tarefas, a alocação de computação a equipes, como a computação ociosa é compartilhada e a preempção de tarefas para equipes.

Se estiver encontrando problemas na configuração, consulte Solução de problemas para ver soluções de problemas conhecidas.

Configurações do Kueue

HyperPod O complemento EKS de governança de tarefas instala o Kueue para seus clusters EKS. HyperPod O Kueue é um sistema nativo do Kubernetes que gerencia cotas e de que forma os trabalhos as consomem.

HyperPod a governança de tarefas aproveita o Kueue para enfileiramento de Kubernetes-native tarefas, agendamento e gerenciamento de cotas, e é instalada com o complemento EKS de governança de tarefas. HyperPod Quando instalado, HyperPod cria e modifica recursos do SageMaker AI-managed KubernetesKueueManagerConfig, como,, ClusterQueuesLocalQueues, e. WorkloadPriorityClasses ResourceFlavors ValidatingAdmissionPolicies Embora os administradores do Kubernetes tenham a flexibilidade de modificar o estado desses recursos, é possível que qualquer alteração feita em um SageMaker AI-managed recurso seja atualizada e substituída pelo serviço.

As informações a seguir descrevem as definições de configuração utilizadas pelo complemento de governança de HyperPod tarefas para configurar o Kueue.

  apiVersion: config.kueue.x-k8s.io/v1beta2
    kind: Configuration
    health:
      healthProbeBindAddress: :8081
    metrics:
      bindAddress: :8443
      enableClusterQueueResources: true
    webhook:
      port: 9443
    manageJobsWithoutQueueName: false
    leaderElection:
      leaderElect: true
      resourceName: c1f6bfd2.kueue.x-k8s.io
    controller:
      groupKindConcurrency:
        Job.batch: 5
        Pod: 5
        Workload.kueue.x-k8s.io: 5
        LocalQueue.kueue.x-k8s.io: 1
        ClusterQueue.kueue.x-k8s.io: 1
        ResourceFlavor.kueue.x-k8s.io: 1
    clientConnection:
      qps: 50
      burst: 100
    integrations:
      frameworks:
      - "batch/job"
      - "kubeflow.org/mpijob"
      - "ray.io/rayjob"
      - "ray.io/raycluster"
      - "jobset.x-k8s.io/jobset"
      - "kubeflow.org/paddlejob"
      - "kubeflow.org/pytorchjob"
      - "kubeflow.org/tfjob"
      - "kubeflow.org/xgboostjob"
      - "kubeflow.org/jaxjob"
      - "workload.codeflare.dev/appwrapper"
      - "pod"
      - "deployment"
      - "statefulset"
      - "leaderworkerset.x-k8s.io/leaderworkerset"
      externalFrameworks:
      - "HyperPodPyTorchJob.v1.sagemaker.amazonaws.com"
    managedJobsNamespaceSelector:
      matchExpressions:
        - key: kubernetes.io/metadata.name
          operator: NotIn
          values: [ kube-system, kueue-system ]
    fairSharing:
      preemptionStrategies: [LessThanOrEqualToFinalShare, LessThanInitialShare]
    resources:
      excludeResourcePrefixes: []

Para ter mais informações sobre cada entrada da configuração, consulte Configuration na documentação do Kueue.

HyperPod Pré-requisitos de governança de tarefas

HyperPod configuração de governança de tarefas

Veja a seguir informações sobre como configurar a governança de HyperPod tarefas.

Setup using the SageMaker AI console

Veja a seguir informações sobre como configurar a governança de HyperPod tarefas usando o SageMaker HyperPod console.

Você já tem todas as seguintes permissões anexadas se já tiver concedido permissões para gerenciar o Amazon CloudWatch Observability EKS e visualizar o painel do HyperPod cluster por meio do console de SageMaker IA noHyperPod Configuração do complemento Amazon CloudWatch Observability EKS. Se você não tiver configurado isso, use a política de exemplo abaixo para conceder permissões para gerenciar o complemento de governança de HyperPod tarefas e visualizar o painel do HyperPod cluster por meio do console do SageMaker AI.

JSON

JSON

{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "eks:ListAddons",
                "eks:CreateAddon",
                "eks:UpdateAddon",
                "eks:DescribeAddon",
                "eks:DescribeAddonVersions",
                "sagemaker:DescribeCluster",
                "sagemaker:DescribeClusterNode",
                "sagemaker:ListClusterNodes",
                "sagemaker:ListClusters",
                "eks:DescribeCluster",
                "eks:AccessKubernetesApi"
            ],
            "Resource": "*"
        }
    ]
}

Navegue até a guia Painel no SageMaker HyperPod console para instalar a governança de SageMaker HyperPod tarefas da Amazon Add-on.

Setup using the Amazon EKS AWS CLI

Use o AWS CLI comando create-addon EKS de exemplo para configurar a governança de HyperPod tarefas da API do Amazon EKS e a interface do usuário do console usando AWS CLI:

aws eks create-addon --region region --cluster-name cluster-name --addon-name amazon-sagemaker-hyperpod-taskgovernance

Você pode ver a guia Políticas no console do HyperPod SageMaker AI se a instalação for bem-sucedida. Você também pode usar o seguinte exemplo de AWS CLI comando describe-addon EKS para verificar o status.

aws eks describe-addon --region region --cluster-name cluster-name --addon-name amazon-sagemaker-hyperpod-taskgovernance