View a markdown version of this page

SageMaker Opérateurs d'IA pour Kubernetes - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

SageMaker Opérateurs d'IA pour Kubernetes

SageMaker AI Operators for Kubernetes permet aux développeurs et aux data scientists qui utilisent Kubernetes de former, d'ajuster et de déployer plus facilement des modèles d'apprentissage automatique (ML) dans l'IA. SageMaker Vous pouvez installer ces opérateurs d' SageMaker IA sur votre cluster Kubernetes dans Amazon Elastic Kubernetes Service (Amazon EKS) pour créer des tâches d' SageMaker IA de manière native à l'aide de l'API Kubernetes et des outils Kubernetes en ligne de commande tels que. kubectl Ce guide explique comment configurer et utiliser les opérateurs pour exécuter l'entraînement de modèles, le réglage des hyperparamètres ou l'inférence (en temps réel et par lots) sur l' SageMaker IA à partir d'un cluster Kubernetes. Les présentes procédures et directives supposent que vous connaissez Kubernetes et ses commandes de base.

Important

Nous interrompons le développement et le support technique de la version originale d' SageMaker Operators for Kubernetes.

Si vous utilisez actuellement une version v1.2.2 ou une version antérieure d' SageMaker Operators for Kubernetes, nous vous recommandons de migrer vos ressources vers le contrôleur de service ACK pour Amazon. SageMaker Le contrôleur de service ACK est une nouvelle génération d' SageMaker opérateurs pour Kubernetes basée sur AWS Controllers for Kubernetes (ACK).

Pour en savoir plus sur les étapes de migration, consultez Migrer les ressources vers la dernière version d'Operators.

Pour les réponses aux questions fréquemment posées sur la fin du support de la version originale d' SageMaker Operators for Kubernetes, voir Annonce de la fin du support de la version originale d' SageMaker AI Operators pour Kubernetes

Note

Il n’y a pas frais supplémentaires liés à l’utilisation de ces opérateurs. Toutes les ressources d' SageMaker IA que vous utilisez par l'intermédiaire de ces opérateurs sont payantes.

Qu’est-ce qu’un opérateur ?

Un opérateur Kubernetes est un contrôleur d'applications qui gère des applications pour le compte d'un utilisateur de Kubernetes. Les contrôleurs du plan de contrôle comprennent différentes boucles de commande qui écoutent un gestionnaire d'état central (ETCD) pour réguler l'état de l'application qu'ils contrôlent. Des exemples de telles applications incluent le Cloud-controller-manager etkube-controller-manager. Les opérateurs fournissent généralement un niveau d'abstraction supérieur à celui de l'API Kubernetes brute, ce qui permet aux utilisateurs de déployer et de gérer plus facilement des applications. Pour ajouter de nouvelles fonctionnalités à Kubernetes, les développeurs peuvent étendre l'API Kubernetes en créant une ressource personnalisée qui contient leur logique et leurs composants spécifiques à l'application ou au domaine. Les opérateurs dans Kubernetes permettent aux utilisateurs d’appeler ces ressources personnalisées de manière native et d’automatiser les flux associés.

Comment fonctionne AWS Les contrôleurs pour Kubernetes (ACK) fonctionnent-ils ?

Les opérateurs SageMaker IA pour Kubernetes vous permettent de gérer les tâches dans l' SageMaker IA à partir de votre cluster Kubernetes. La dernière version d' SageMaker AI Operators for Kubernetes est basée sur AWS Controllers for Kubernetes (ACK). ACK inclut un environnement d'exécution de contrôleur commun, un générateur de code et un ensemble de contrôleurs AWS spécifiques à un service, dont le contrôleur SageMaker AI.

Le schéma suivant illustre le fonctionnement d’ACK.

Explication de l'opérateur d' SageMaker IA basé sur ACK pour Kubernetes.

Dans ce schéma, un utilisateur de Kubernetes souhaite exécuter un entraînement de modèles sur l' SageMaker IA depuis le cluster Kubernetes à l'aide de l'API Kubernetes. L'utilisateur lance un appel à et kubectl apply transmet un fichier qui décrit une ressource personnalisée Kubernetes décrivant la SageMaker tâche de formation. kubectl applytransmet ce fichier, appelé manifeste, au serveur API Kubernetes qui s'exécute dans le nœud du contrôleur Kubernetes (étape 1 du schéma de flux de travail). Le serveur d'API Kubernetes reçoit le manifeste contenant la spécification de la tâche de SageMaker formation et détermine si l'utilisateur est autorisé à créer une ressource personnalisée de ce type sageMaker.services.k8s.aws/TrainingJob et si la ressource personnalisée est correctement formatée (étape 2). Si l’utilisateur est autorisé et si la ressource personnalisée est valide, le serveur d’API Kubernetes écrit (étape 3) la ressource personnalisée dans son magasin de données etcd, puis répond (étape 4) à l’utilisateur pour lui indiquer que la ressource personnalisée a été créée. Le contrôleur SageMaker AI, qui s'exécute sur un nœud de travail Kubernetes dans le contexte d'un Kubernetes Pod normal, est averti (étape 5) qu'une nouvelle ressource personnalisée a été créée. sageMaker.services.k8s.aws/TrainingJob Le contrôleur SageMaker IA communique ensuite (étape 6) avec l' SageMaker API, appelant l'CreateTrainingJobAPI SageMaker AI pour créer la tâche de formation dans AWS. Après avoir communiqué avec l' SageMaker API, le contrôleur SageMaker IA appelle le serveur API Kubernetes pour mettre à jour (étape 7) l'état de la ressource personnalisée avec les informations qu'elle a reçues de l'IA. SageMaker Le contrôleur SageMaker AI fournit donc aux développeurs les mêmes informations que celles qu'ils auraient reçues à l'aide du AWS SDK.

Présentation des autorisations

Les opérateurs accèdent aux ressources d' SageMaker IA en votre nom. Le rôle IAM assumé par l'opérateur pour interagir avec les AWS ressources est différent des informations d'identification que vous utilisez pour accéder au cluster Kubernetes. Le rôle diffère également de celui que vous AWS assumez lors de l'exécution de vos tâches d'apprentissage automatique.

L’image suivante explique les différentes couches d’authentification.

SageMaker Opérateur IA pour les différentes couches d'authentification de Kubernetes.