Conditions préalables à la création d'un point de terminaison interactif sur Amazon EMR on EKS - Amazon EMR

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Conditions préalables à la création d'un point de terminaison interactif sur Amazon EMR on EKS

Cette section décrit les conditions préalables à la configuration d'un point de terminaison interactif qu'EMR Studio peut utiliser pour se connecter à un cluster Amazon EMR on EKS et exécuter des charges de travail interactives.

AWS CLI

Suivez les étapes décrites dans Installer ou mettre à jour vers la dernière version du AWS CLI pour installer la dernière version du AWS Command Line Interface (AWS CLI).

Installation d'eksctl

Suivez les étapes décrites dans Installer kubectl pour installer la dernière version d'eksctl. Si vous utilisez Kubernetes en version 1.22 ou ultérieure pour votre cluster Amazon EKS, utilisez une version eksctl supérieure à 0.117.0.

Cluster Amazon EKS

Créez un cluster Amazon EKS. Enregistrez le cluster en tant que cluster virtuel dans Amazon EMR on EKS. Les exigences et considérations pour ce cluster sont les suivantes :

  • Le cluster doit se trouver dans le même cloud privé virtuel (VPC) Amazon que votre EMR Studio.

  • Le cluster doit disposer d'au moins un sous-réseau privé pour activer les points de terminaison interactifs, pour lier les référentiels Git et pour lancer l'équilibreur de charge Application Load Balancer en mode privé.

  • Il doit y avoir au moins un sous-réseau privé en commun entre votre EMR Studio et le cluster Amazon EKS que vous utilisez pour enregistrer votre cluster virtuel. Ainsi, votre point de terminaison interactif apparaît comme une option dans vos espaces de travail Studio et active la connectivité de Studio à l'équilibreur de charge Application Load Balancer.

    Vous pouvez choisir entre deux méthodes pour connecter votre Studio et votre cluster Amazon EKS :

    • Créez un cluster Amazon EKS et associez-le aux sous-réseaux appartenant à votre EMR Studio.

    • Vous pouvez également créer un EMR Studio et spécifier les sous-réseaux privés de votre cluster Amazon EKS.

  • ARM optimisé pour Amazon EKS Amazon Linux AMIs n'est pas pris en charge pour Amazon EMR sur les points de terminaison interactifs EKS.

  • Les points de terminaison interactifs fonctionnent avec les clusters Amazon EKS qui utilisent des versions de Kubernetes allant jusqu'à 1.30.

  • Seuls les groupes de nœuds gérés par Amazon EKS sont pris en charge.

Autorisation d'Amazon EMR on EKS à accéder aux clusters

Suivez les étapes décrites dans la rubrique Autorisation de l'accès aux clusters pour Amazon EMR on EKS pour accorder à Amazon EMR on EKS l'accès à un espace de noms spécifique de votre cluster.

Activation d'IRSA sur le cluster Amazon EKS

Pour activer les rôles IAM pour les comptes de service (IRSA) sur le cluster Amazon EKS, suivez les étapes décrites dans la rubrique Activation des rôles IAM pour les comptes de service (IRSA).

Création d'un rôle d'exécution des tâches IAM

Vous devez créer un rôle IAM pour exécuter des charges de travail sur Amazon EMR sur des points de terminaison interactifs EKS. Dans cette documentation, nous appelons ce rôle IAM le rôle d'exécution des tâches. Ce rôle IAM est attribué à la fois au conteneur de point de terminaison interactif et aux conteneurs d'exécution réels créés lorsque vous soumettez des tâches avec EMR Studio. Vous aurez besoin du nom Amazon Resource Name (ARN) associé à votre rôle d'exécution des tâches pour Amazon EMR on EKS. Deux étapes sont nécessaires pour cela :

Autorisation des utilisateurs à accéder à Amazon EMR on EKS

L'entité IAM (utilisateur ou rôle) qui fait la demande de création d'un point de terminaison interactif doit également disposer des autorisations Amazon EC2 et emr-containers des autorisations suivantes. Suivez les étapes décrites dans Autorisation des utilisateurs à accéder à Amazon EMR on EKS pour accorder ces autorisations qui permettent à Amazon EMR on EKS de créer, de gérer et de supprimer les groupes de sécurité qui limitent le trafic entrant à l'équilibreur de charge de votre point de terminaison interactif.

Les autorisations emr-containers suivantes permettent à l'utilisateur d'effectuer des opérations de base sur le point de terminaison interactif :

"ec2:CreateSecurityGroup", "ec2:DeleteSecurityGroup", "ec2:AuthorizeSecurityGroupEgress", "ec2:AuthorizeSecurityGroupIngress", "ec2:RevokeSecurityGroupEgress", "ec2:RevokeSecurityGroupIngress" "emr-containers:CreateManagedEndpoint", "emr-containers:ListManagedEndpoints", "emr-containers:DescribeManagedEndpoint", "emr-containers:DeleteManagedEndpoint"

Enregistrement du cluster Amazon EKS dans Amazon EMR

Configurez un cluster virtuel et mappez-le à l'espace de noms du cluster Amazon EKS dans lequel vous souhaitez exécuter vos tâches. Pour les AWS Fargate clusters réservés uniquement, utilisez le même espace de noms pour le cluster virtuel Amazon EMR on EKS et pour le profil Fargate.

Pour plus d'informations sur la configuration d'un cluster virtuel Amazon EMR on EKS, consultez Enregistrement du cluster Amazon EKS dans Amazon EMR.

Déployer le AWS Load Balancer Controller sur le cluster Amazon EKS

Un AWS Application Load Balancer est requis pour votre cluster Amazon EKS. Il vous suffit de configurer un contrôleur d'équilibreur de charge Application Load Balancer pour chaque cluster Amazon EKS. Pour plus d'informations sur la configuration du contrôleur AWS Application Load Balancer, consultez la section Installation du module complémentaire AWS Load Balancer Controller dans le guide de l'utilisateur Amazon EKS.