Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Amazon EMR sur les versions 7.3.0 d'EKS
Cette page décrit les fonctionnalités nouvelles et mises à jour d'Amazon EMR spécifiques au déploiement d'Amazon EMR on EKS. Pour plus d'informations sur l'exécution d'Amazon EMR sur Amazon EC2 et sur la version 7.3.0 d'Amazon EMR en général, consultez Amazon EMR 7.3.0 dans le Amazon EMR Release Guide.
Amazon EMR sur les versions 7.3 d'EKS
Les versions 7.3.0 d'Amazon EMR suivantes sont disponibles pour Amazon EMR sur EKS. Sélectionnez une version spécifique d'EMR-7.3.0-xxxx pour afficher plus de détails, tels que la balise d'image du conteneur associée.
Notes de mise à jour
Notes de mise à jour pour Amazon EMR sur EKS 7.3.0
-
Applications prises en charge – AWS SDK pour Java 2.25.70 and 1.12.747, Apache Spark 3.5.1-amzn-1, Apache Hudi 0.15.0-amzn-0, Apache Iceberg 1.5.2-amzn-0, Delta 3.2.0-amzn-0, Apache Spark RAPIDS 24.06.1-amzn-0, Jupyter Enterprise Gateway 2.6.0, Apache Flink 1.18.1-amzn-2, Flink Operator 1.9.0-amzn-0
-
Composants pris en charge :
aws-sagemaker-spark-sdk,emr-ddb,emr-goodies,emr-s3-select,emrfs,hadoop-client,hudi,hudi-spark,iceberg,spark-kubernetes. -
Classifications de configuration prises en charge
À utiliser avec StartJobRun et les CreateManagedEndpoint API :
Classifications Descriptions core-siteModifiez les valeurs dans le fichier Hadoop
core-site.xml.emrfs-siteModifiez les paramètres EMRFS.
spark-metricsModifiez les valeurs dans le fichier Spark
metrics.properties.spark-defaultsModifiez les valeurs dans le fichier Spark
spark-defaults.conf.spark-envModifiez les valeurs dans l'environnement Spark.
spark-hive-siteModifiez les valeurs dans le fichier Spark
hive-site.xml.spark-log4j2Modifiez les valeurs dans le fichier Spark
log4j2.properties.emr-job-submitterConfiguration pour le pod soumissionnaire de tâches.
À utiliser spécifiquement avec CreateManagedEndpoint les API :
Classifications Descriptions jeg-configModifiez les valeurs dans le fichier
jupyter_enterprise_gateway_config.pyJupyter Enterprise Gateway.jupyter-kernel-overridesModifiez la valeur de l'image du noyau dans le fichier Jupyter Kernel Spec.
Les classifications de configuration vous permettent de personnaliser les applications. Elles correspondent souvent à un fichier XML de configuration de l'application, tel que
spark-hive-site.xml. Pour plus d'informations, consultez la rubrique Configuration des applications.
Fonctionnalités notables
Les fonctionnalités suivantes sont incluses dans la version 7.3.0 d'Amazon EMR sur EKS.
-
Mises à niveau des applications : Amazon EMR sur EKS inclut désormais Flink Operator 1.9.0. Outre d'autres fonctionnalités, le Flink Kubernetes vous permet désormais de définir des quotas de processeur et de mémoire pour l'autoscaler.
-
Support d'Apache Iceberg pour Apache Flink — Apache Iceberg est un format open source de grandes tables analytiques au format hautes performances. À partir d'Amazon EMR 7.3.0, vous pouvez utiliser les tables Apache Iceberg lorsque vous exécutez Apache Flink sur Amazon EMR sur EKS. Pour plus d'informations, consultez l'Amazon EMR sur EKS utilisant Apache Iceberg avec Amazon EMR sur EKS.
-
Support de Delta Lake pour Apache Flink — Delta Lake est un framework de couche de stockage pour les architectures Lakehouse généralement construites sur Amazon S3. Avec Amazon EMR 7.3.0 et versions ultérieures, vous pouvez utiliser les tables Delta lorsque vous exécutez Apache Flink sur Amazon EMR sur EKS. Pour plus d'informations, consultez la section Utilisation de Delta Lake avec Amazon EMR sur EKS.
Modifications
Les modifications suivantes sont incluses dans la version 7.3.0 d'Amazon EMR sur EKS.
-
Avec Amazon EMR sur EKS 7.3.0 et versions supérieures, Apache Flink utilise désormais l'environnement d'exécution Java 17 par défaut.
