Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Configuration de la gouvernance des tâches

Cette section contient des informations sur la façon de configurer le module complémentaire Amazon SageMaker HyperPod Task Governance EKS. Cela inclut l’octroi d’autorisations qui vous permettent de définir la priorité des tâches, l’allocation de calcul pour les équipes, la manière dont les ressources de calcul inactives sont partagées et la préemption des tâches pour les équipes.

Si vous rencontrez des problèmes lors de la configuration, consultez Dépannage pour découvrir les solutions de dépannage connues.

Paramètres Kueue

HyperPod Le module complémentaire EKS de gouvernance des tâches installe Kueue pour vos clusters HyperPod EKS. Kueue est un système natif de Kubernetes qui gère les quotas et la façon dont les tâches les consomment.

HyperPod la gouvernance des tâches exploite Kueue pour la mise en file Kubernetes-native d'attente des tâches, la planification et la gestion des quotas, et est installée avec le module complémentaire EKS de gouvernance des HyperPod tâches. Une fois installé, HyperPod crée et modifie des ressources SageMaker AI-managed Kubernetes telles queKueueManagerConfig,, ClusterQueuesLocalQueues, WorkloadPriorityClasses et. ResourceFlavors ValidatingAdmissionPolicies Bien que les administrateurs de Kubernetes aient la possibilité de modifier l'état de ces ressources, il est possible que les modifications apportées à une SageMaker AI-managed ressource soient mises à jour et remplacées par le service.

Les informations suivantes décrivent les paramètres de configuration utilisés par le module complémentaire de gouvernance des HyperPod tâches pour configurer Kueue.

  apiVersion: config.kueue.x-k8s.io/v1beta2
    kind: Configuration
    health:
      healthProbeBindAddress: :8081
    metrics:
      bindAddress: :8443
      enableClusterQueueResources: true
    webhook:
      port: 9443
    manageJobsWithoutQueueName: false
    leaderElection:
      leaderElect: true
      resourceName: c1f6bfd2.kueue.x-k8s.io
    controller:
      groupKindConcurrency:
        Job.batch: 5
        Pod: 5
        Workload.kueue.x-k8s.io: 5
        LocalQueue.kueue.x-k8s.io: 1
        ClusterQueue.kueue.x-k8s.io: 1
        ResourceFlavor.kueue.x-k8s.io: 1
    clientConnection:
      qps: 50
      burst: 100
    integrations:
      frameworks:
      - "batch/job"
      - "kubeflow.org/mpijob"
      - "ray.io/rayjob"
      - "ray.io/raycluster"
      - "jobset.x-k8s.io/jobset"
      - "kubeflow.org/paddlejob"
      - "kubeflow.org/pytorchjob"
      - "kubeflow.org/tfjob"
      - "kubeflow.org/xgboostjob"
      - "kubeflow.org/jaxjob"
      - "workload.codeflare.dev/appwrapper"
      - "pod"
      - "deployment"
      - "statefulset"
      - "leaderworkerset.x-k8s.io/leaderworkerset"
      externalFrameworks:
      - "HyperPodPyTorchJob.v1.sagemaker.amazonaws.com"
    managedJobsNamespaceSelector:
      matchExpressions:
        - key: kubernetes.io/metadata.name
          operator: NotIn
          values: [ kube-system, kueue-system ]
    fairSharing:
      preemptionStrategies: [LessThanOrEqualToFinalShare, LessThanInitialShare]
    resources:
      excludeResourcePrefixes: []

Pour plus d’informations sur chaque entrée de configuration, consultez Configuration dans la documentation de Kueue.

HyperPod Prérequis en matière de gouvernance des tâches

HyperPod configuration de la gouvernance des tâches

Vous trouverez ci-dessous des informations sur la configuration de la gouvernance des HyperPod tâches.

Setup using the SageMaker AI console

Vous trouverez ci-dessous des informations sur la configuration de la gouvernance des HyperPod tâches à l'aide de la SageMaker HyperPod console.

Vous disposez déjà de toutes les autorisations suivantes si vous avez déjà accordé des autorisations pour gérer Amazon CloudWatch Observability EKS et afficher le tableau de bord du HyperPod cluster via la console SageMaker AI duHyperPod Configuration du module complémentaire Amazon CloudWatch Observability EKS. Si vous ne l'avez pas configuré, utilisez l'exemple de politique ci-dessous pour accorder les autorisations nécessaires pour gérer le module complémentaire de gouvernance des HyperPod tâches et afficher le tableau de bord du HyperPod cluster via la console SageMaker AI.

JSON

JSON

{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "eks:ListAddons",
                "eks:CreateAddon",
                "eks:UpdateAddon",
                "eks:DescribeAddon",
                "eks:DescribeAddonVersions",
                "sagemaker:DescribeCluster",
                "sagemaker:DescribeClusterNode",
                "sagemaker:ListClusterNodes",
                "sagemaker:ListClusters",
                "eks:DescribeCluster",
                "eks:AccessKubernetesApi"
            ],
            "Resource": "*"
        }
    ]
}

Accédez à l'onglet Tableau de bord de la SageMaker HyperPod console pour installer la gouvernance des SageMaker HyperPod tâches Amazon Add-on.

Setup using the Amazon EKS AWS CLI

Utilisez l'exemple de AWS CLI commande create-addon EKS pour configurer la gouvernance des HyperPod tâches, l'API Amazon EKS et l'interface utilisateur de la console à l'aide des éléments AWS CLI suivants :

aws eks create-addon --region region --cluster-name cluster-name --addon-name amazon-sagemaker-hyperpod-taskgovernance

Vous pouvez consulter l'onglet Politiques de la console HyperPod SageMaker AI si l'installation a réussi. Vous pouvez également utiliser l'exemple de AWS CLI commande describe-addon EKS suivant pour vérifier l'état.

aws eks describe-addon --region region --cluster-name cluster-name --addon-name amazon-sagemaker-hyperpod-taskgovernance