Versions 6.13.0 d'Amazon EMR on EKS - Amazon EMR
VersionsNotes de mise à jourFonctionnalités

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Versions 6.13.0 d'Amazon EMR on EKS

Cette page décrit les fonctionnalités nouvelles et mises à jour d'Amazon EMR spécifiques au déploiement d'Amazon EMR on EKS. Pour en savoir plus sur Amazon EMR exécuté sur Amazon EC2 et sur la version 6.13.0 d'Amazon EMR en général, consultez Amazon EMR 6.13.0 dans le guide de mise à jour d'Amazon EMR.

Versions 6.13 d'Amazon EMR on EKS

Les versions 6.13.0 suivantes d'Amazon EMR sont disponibles pour Amazon EMR on EKS. Sélectionnez une version emr-6.13.0-XXXX spécifique pour voir plus de détails tels que la balise de l'image du conteneur correspondant.

  • emr-6.13.0-latest

  • emr-6.13.0-20230814

  • emr-6.13.0-spark-rapids-latest

  • emr-6.13.0-spark-rapids-20230814

  • emr-6.13.0-java11-latest

  • emr-6.13.0-java11-20230814

  • emr-6.13.0-java17-latest

  • emr-6.13.0-java17-20230814

  • emr-6.13.0-java17-al2023-latest

  • emr-6.13.0-java17-al2023-20230814

  • emr-6.13.0-spark-rapids-java17-latest

  • emr-6.13.0-spark-rapids-java17-20230814

  • emr-6.13.0-spark-rapids-java17-al2023-latest

  • emr-6.13.0-spark-rapids-java17-al2023-20230814

  • notebook-spark/emr-6.13.0-latest

  • notebook-spark/emr-6.13.0-20230814

  • notebook-spark/emr-6.13.0-spark-rapids-latest

  • notebook-spark/emr-6.13.0-spark-rapids-20230814

  • notebook-spark/emr-6.13.0-java11-latest

  • notebook-spark/emr-6.13.0-java11-20230814

  • notebook-spark/emr-6.13.0-java17-latest

  • notebook-spark/emr-6.13.0-java17-20230814

  • notebook-spark/emr-6.13.0-java17-al2023-latest

  • notebook-spark/emr-6.13.0-java17-al2023-20230814

  • notebook-python/emr-6.13.0-latest

  • notebook-python/emr-6.13.0-20230814

  • notebook-python/emr-6.13.0-spark-rapids-latest

  • notebook-python/emr-6.13.0-spark-rapids-20230814

  • notebook-python/emr-6.13.0-java11-latest

  • notebook-python/emr-6.13.0-java11-20230814

  • notebook-python/emr-6.13.0-java17-latest

  • notebook-python/emr-6.13.0-java17-20230814

  • notebook-python/emr-6.13.0-java17-al2023-latest

  • notebook-python/emr-6.13.0-java17-al2023-20230814

Notes de mise à jour

Notes de mise à jour pour Amazon EMR on EKS 6.13.0

  • Applications prises en charge ‐ AWS SDK pour Java 1.12.513, Apache Spark 3.4.1-amzn-0, Apache Hudi 0.13.1-amzn-0, Apache Iceberg 1.3.0-amzn-0, Delta 2.4.0, Apache Spark RAPIDS 23.06.0-amzn-1, Jupyter Enterprise Gateway 2.6.0.amzn

  • Composants pris en charge : aws-sagemaker-spark-sdk, emr-ddb, emr-goodies, emr-s3-select, emrfs, hadoop-client, hudi, hudi-spark, iceberg, spark-kubernetes.

  • Classifications de configuration prises en charge

    À utiliser avec StartJobRunet  CreateManagedEndpoint APIs:

    Classifications Descriptions

    core-site

    Modifiez les valeurs dans le fichier Hadoop core-site.xml.

    emrfs-site

    Modifiez les paramètres EMRFS.

    spark-metrics

    Modifiez les valeurs dans le fichier Spark metrics.properties.

    spark-defaults

    Modifiez les valeurs dans le fichier Spark spark-defaults.conf.

    spark-env

    Modifiez les valeurs dans l'environnement Spark.

    spark-hive-site

    Modifiez les valeurs dans le fichier Spark hive-site.xml.

    spark-log4j

    Modifiez les valeurs dans le fichier Spark log4j2.properties.

    emr-job-submitter

    Configuration pour le pod soumissionnaire de tâches.

    À utiliser spécifiquement avec  CreateManagedEndpoint APIs:

    Classifications Descriptions

    jeg-config

    Modifiez les valeurs dans le fichier jupyter_enterprise_gateway_config.py Jupyter Enterprise Gateway.

    jupyter-kernel-overrides

    Modifiez la valeur de l'image du noyau dans le fichier Jupyter Kernel Spec.

    Les classifications de configuration vous permettent de personnaliser les applications. Elles correspondent souvent à un fichier XML de configuration de l'application, tel que spark-hive-site.xml. Pour plus d'informations, consultez la rubrique Configuration des applications.

Fonctionnalités notables

Les fonctionnalités suivantes sont incluses dans la version 6.13 d'Amazon EMR on EKS.

  • Amazon Linux 2023 - Avec Amazon EMR sur EKS 6.13 ou version ultérieure, vous pouvez lancer Spark avec le système d'exploitation AL2 023 avec le moteur d'exécution Java 17. Pour ce faire, utilisez l'étiquette de version dont le nom comporte al2023. Par exemple : emr-6.13.0-java17-al2023-latest. Nous vous recommandons de valider et d'exécuter des tests de performances avant de déplacer vos charges de travail de production vers AL2 023 et Java 17.

  • Amazon EMR sur EKS avec Apache Flink (version préliminaire publique) : les versions 6.13 et ultérieures d'Amazon EMR sur EKS prennent en charge Apache Flink, disponible en version préliminaire publique. Grâce à ce lancement, vous pouvez exécuter votre application Apache Flink ainsi que d'autres types d'applications sur le même cluster Amazon EKS. Cela permet d'améliorer l'utilisation des ressources et de simplifier la gestion de l'infrastructure. Si vous exécutez déjà des environnements de big data sur Amazon EKS, vous pouvez désormais laisser Amazon EMR automatiser votre provisionnement et votre gestion.