Utilisation de la protection contre la résiliation pour protéger vos clusters Amazon EMR d'un arrêt accidentel - Amazon EMR

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utilisation de la protection contre la résiliation pour protéger vos clusters Amazon EMR d'un arrêt accidentel

La protection contre les interruptions protège vos clusters contre les interruptions accidentelles, ce qui peut être particulièrement utile pour les clusters de longue durée traitant des charges de travail critiques. Lorsque la protection contre la résiliation est activée sur un cluster de longue durée, vous pouvez toujours résilier le cluster, mais vous devez explicitement supprimer la protection contre la résiliation du cluster pour pouvoir l'arrêter. Cela permet de garantir que les EC2 instances ne sont pas arrêtées à la suite d'un accident ou d'une erreur. Vous pouvez activer la protection de la résiliation lorsque vous créez un cluster et vous pouvez modifier le paramètre sur un cluster en cours d'exécution.

Lorsque la protection de la résiliation est activée, l'action TerminateJobFlows dans l'API Amazon EMR ne fonctionne pas. Les utilisateurs ne peuvent pas résilier le cluster à l'aide de cette API ou de la commande terminate-clusters dans l' AWS CLI. L'API retourne une erreur et l'interface de ligne de commande se ferme avec un code de retour non nul. Lorsque vous utilisez la console Amazon EMR pour résilier un cluster, une étape supplémentaire vous est proposée pour désactiver la protection contre la résiliation.

Avertissement

La protection contre la résiliation ne garantit pas la conservation des données en cas d'erreur humaine ou de solution de contournement, par exemple, si une commande de redémarrage est émise depuis la ligne de commande alors que vous êtes connecté à l'instance via SSH, si une application ou un script exécuté sur l'instance émet une commande de redémarrage ou si l'API Amazon ou EC2 Amazon EMR est utilisée pour désactiver la protection contre la résiliation. Cela est également vrai si vous utilisez Amazon EMR versions 7.1 ou supérieures et qu'une instance devient défectueuse et irrécupérable. Même lorsque la protection contre la résiliation est activée, les données enregistrées sur le stockage de l'instance, y compris les données HDFS, peuvent être perdues. Rédigez les données de sortie vers les sites Amazon S3 et créez des stratégies de sauvegarde adaptées à vos exigences de continuité d'activité.

La protection de la résiliation n'affecte pas votre capacité à dimensionner des ressources de cluster en utilisant l'une des actions suivantes :

Protection contre les résiliations et Amazon EC2

Le paramètre de protection contre la résiliation dans un cluster Amazon EMR correspond à l'DisableApiTerminationattribut de toutes les EC2 instances Amazon du cluster. Par exemple, si vous activez la protection contre la résiliation dans un cluster EMR, Amazon EMR définit automatiquement la valeur true DisableApiTermination pour toutes les EC2 instances du cluster EMR. Il en va de même si vous désactivez la protection contre le licenciement. Amazon EMR définit automatiquement la valeur false DisableApiTermination pour toutes les EC2 instances du cluster EMR. Si vous résiliez ou réduisez un cluster depuis Amazon EMR et que les EC2 paramètres Amazon sont en conflit avec une EC2 instance, Amazon EMR donne la priorité au paramètre Amazon EMR par rapport aux DisableApiTermination paramètres DisableApiStop et d'Amazon et continue de mettre fin à l'instance. EC2 EC2

Par exemple, vous pouvez utiliser la EC2 console Amazon pour activer la protection contre la résiliation sur une EC2 instance Amazon dans un cluster EMR avec la protection contre la résiliation désactivée. Si vous résiliez ou réduisez le cluster à l'aide de la console Amazon EMR, de ou de l'API Amazon EMR AWS CLI, Amazon EMR remplace le DisableApiTermination paramètre, le définit sur false et met fin à l'instance ainsi qu'aux autres instances.

Vous pouvez également utiliser la EC2 console Amazon pour activer la protection d'arrêt sur une EC2 instance Amazon dans un cluster EMR avec la protection de résiliation désactivée. Si vous résiliez ou réduisez le cluster, Amazon EMR définit la valeur false dans Amazon EC2 et met fin DisableApiStop à l'instance ainsi qu'aux autres instances.

Amazon EMR remplace le DisableApiStop paramètre uniquement lorsque vous mettez fin à un cluster ou que vous le réduisez. Lorsque vous activez ou désactivez la protection contre la résiliation dans un cluster EMR, Amazon EMR ne modifie le disableApiStop paramètre d'aucune des EC2 instances du cluster EMR correspondant.

Important

Si vous créez une instance dans le cadre d'un cluster Amazon EMR avec protection de terminaison, que vous utilisez l' EC2 API ou AWS CLI les commandes Amazon pour modifier l'instance en conséquencefalse, puis que DisableApiTermination l' EC2 API ou AWS CLI les commandes Amazon exécutent l'TerminateInstancesopération, l' EC2 instance Amazon se termine.

Protection contre la résiliation et nœuds YARN non sains

Amazon EMR vérifie régulièrement le statut YARN d'Apache Hadoop des nœuds s'exécutant sur des EC2 instances Amazon principales et exécutant des tâches dans un cluster. L'état de santé est signalé par le service NodeManager de contrôle de santé. Si un nœud est signaléUNHEALTHY, le contrôleur d'instance Amazon EMR l'ajoute à une liste de refus et ne lui alloue pas de conteneurs YARN tant qu'il n'est pas redevenu sain. En fonction de l'état de la protection contre la résiliation, du remplacement du nœud défectueux et de la version publiée d'Amazon EMR, Amazon EMR remplacera l'instance défectueuse ou cessera d'allouer des contrôleurs à l'instance.

Protection contre la résiliation et exécution de la résiliation après une étape

Lorsque vous activez la résiliation après l'exécution des étapes et que vous activez également la protection contre la résiliation, Amazon EMR ignore la protection contre la résiliation.

Lorsque vous soumettez des étapes à un cluster, vous pouvez définir la propriété ActionOnFailure pour déterminer ce qui se produit si l'étape ne peuvent pas terminer son exécution en raison d'une erreur. Les valeurs possibles pour ce paramètre sont TERMINATE_CLUSTER (TERMINATE_JOB_FLOW avec les versions antérieures), CANCEL_AND_WAIT, et CONTINUE. Pour de plus amples informations, veuillez consulter Soumission de travail à un cluster Amazon EMR.

En cas d'échec d'une étape configurée avec la ActionOnFailure valeur définie surCANCEL_AND_WAIT, si l'arrêt après exécution des étapes est activé, le cluster se termine sans exécuter les étapes suivantes.

Si une étape qui est configurée avec la ActionOnFailure valeur TERMINATE_CLUSTER échoue, utilisez la table de paramètres ci-dessous pour déterminer le résultat.

ActionOnFailure Résiliation après exécution de l'étape Protection de la résiliation Résultat

TERMINATE_CLUSTER

Activé

Désactivées

Le cluster se résilie

Activées

Activées

Le cluster se résilie

Désactivées

Activées

Le cluster continue

Désactivées

Désactivées

Le cluster se résilie

Protection contre la résiliation et instances Spot

La protection de résiliation Amazon EMR n'empêche pas la résiliation d'une instance Amazon EC2 Spot lorsque le prix au comptant dépasse le prix spot maximum.

Configuration de la protection contre la résiliation lorsque vous lancez un cluster

Vous pouvez activer ou désactiver la protection contre les interruptions lorsque vous lancez un cluster à l'aide de la console AWS CLI, de l'API ou de l'API.

Pour les clusters à nœud unique, les paramètres de protection de terminaison par défaut sont les suivants :

  • Lancement d'un cluster par la console Amazon EMR : la protection contre la résiliation est désactivée par défaut.

  • Le lancement d'un cluster par AWS CLI aws emr create-cluster —Termination Protection est désactivé sauf indication contraire--termination-protected.

  • Lancement d'un cluster à l'aide de la RunJobFlowcommande d'API Amazon EMR : la protection contre la résiliation est désactivée sauf si la valeur TerminationProtected booléenne est définie sur. true

Pour les clusters à haute disponibilité, les paramètres de protection de terminaison par défaut sont les suivants :

  • Lancement d'un cluster par la console Amazon EMR — La protection contre la résiliation est activée par défaut.

  • Le lancement d'un cluster par AWS CLI aws emr create-cluster —Termination Protection est désactivé sauf indication contraire--termination-protected.

  • Lancement d'un cluster à l'aide de la RunJobFlowcommande d'API Amazon EMR : la protection contre la résiliation est désactivée sauf si la valeur TerminationProtected booléenne est définie sur. true

Console
Pour activer ou désactiver la protection contre la résiliation lorsque vous créez un cluster à l'aide de la console
  1. Connectez-vous au et ouvrez la AWS Management Console console Amazon EMR à l'adresse /emr. https://console.aws.amazon.com

  2. Sous EMR activé EC2 dans le volet de navigation de gauche, choisissez Clusters, puis Create cluster.

  3. Pour la version d'EMR, choisissez emr-6.6.0 ou une version ultérieure.

  4. Sous Résiliation du cluster et remplacement du nœud, assurez-vous que l'option Utiliser la protection de terminaison est présélectionnée, ou désactivez la sélection pour la désactiver.

  5. Choisissez toutes les autres options qui s'appliquent à votre cluster.

  6. Pour lancer cluster, choisissez Créer un cluster.

AWS CLI
Pour activer ou désactiver la protection contre la résiliation lorsque vous créez un cluster à l'aide du AWS CLI
  • Avec le AWS CLI, vous pouvez lancer un cluster avec la protection de terminaison activée à l'aide de la create-cluster commande avec le --termination-protected paramètre. La protection de la résiliation est désactivée par défaut.

    L'exemple suivant crée un cluster avec la protection de la résiliation activée :

    Note

    Les caractères de continuation de ligne Linux (\) sont inclus pour des raisons de lisibilité. Ils peuvent être supprimés ou utilisés dans les commandes Linux. Pour Windows, supprimez-les ou remplacez-les par un caret (^).

    aws emr create-cluster --name "TerminationProtectedCluster" --release-label emr-7.9.0 \ --applications Name=Hadoop Name=Hive Name=Pig \ --use-default-roles --ec2-attributes KeyName=myKey --instance-type m5.xlarge \ --instance-count 3 --termination-protected

    Pour plus d'informations sur l'utilisation des commandes Amazon EMR dans le AWS CLI, consultez. https://docs.aws.amazon.com/cli/latest/reference/emr

Configuration de la protection contre la résiliation pour les clusters en cours d'exécution

Vous pouvez configurer la protection contre l'arrêt pour un cluster en cours d'exécution à l'aide de la console ou de l' AWS CLI.

Console
Pour activer ou désactiver la protection contre la résiliation pour un cluster en cours d'exécution à l'aide de la console
  1. Connectez-vous au et ouvrez la AWS Management Console console Amazon EMR à l'adresse /emr. https://console.aws.amazon.com

  2. Sous EMR activé EC2 dans le volet de navigation de gauche, choisissez Clusters, puis sélectionnez le cluster que vous souhaitez mettre à jour.

  3. Dans l'onglet Propriétés de la page des détails du cluster, recherchez Résiliation du cluster et sélectionnez Modifier.

  4. Cochez ou décochez la case Utiliser la protection contre la résiliation pour activer ou désactiver la fonctionnalité. Sélectionnez ensuite Enregistrer les modifications pour confirmer.

AWS CLI
Pour activer ou désactiver la protection contre les interruptions pour un cluster en cours d'exécution à l'aide du AWS CLI
  • Pour activer la protection de la résiliation sur un cluster en cours d'exécution à l'aide de l' AWS CLI, utilisez la commande modify-cluster-attributes avec le paramètre --termination-protected. Pour la désactiver, utilisez le paramètre --no-termination-protected.

    L'exemple suivant active la protection contre les interruptions sur le cluster doté d'un ID j-3KVTXXXXXX7UG :

    aws emr modify-cluster-attributes --cluster-id j-3KVTXXXXXX7UG --termination-protected

    L'exemple suivant désactive la protection de la résiliation sur le même cluster :

    aws emr modify-cluster-attributes --cluster-id j-3KVTXXXXXX7UG --no-termination-protected