Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Amazon-EMR-Version 4.4.0
4.4.0 Anwendungsversionen
Diese Version umfasst die folgenden Anwendungen: Ganglia
In der folgenden Tabelle sind die in dieser Version von Amazon EMR verfügbaren Anwendungsversionen und die Anwendungsversionen der vorherigen drei Amazon-EMR-Versionen (sofern zutreffend) aufgeführt.
Einen umfassenden Verlauf der Anwendungsversionen für jede Version von Amazon EMR finden Sie in den folgenden Themen:
| emr-4.4.0 | emr-4.3.0 | emr-4.2.0 | emr-4.1.0 | |
|---|---|---|---|---|
| AWS SDK for Java | 1.10.27 | 1.10.27 | 1.10.27 | Nicht nachverfolgt |
| Python | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt |
| Scala | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt |
| AmazonCloudWatchAgent | - | - | - | - |
| Delta | - | - | - | - |
| Flink | - | - | - | - |
| Ganglia | 3.7.2 | 3.7.2 | 3.6.0 | - |
| HBase | - | - | - | - |
| HCatalog | 1.0.0 | - | - | - |
| Hadoop | 2.7.1 | 2.7.1 | 2.6.0 | 2.6.0 |
| Hive | 1.0.0 | 1.0.0 | 1.0.0 | 1.0.0 |
| Hudi | - | - | - | - |
| Hue | 3.7.1 | 3.7.1 | 3.7.1 | 3.7.1 |
| Iceberg | - | - | - | - |
| JupyterEnterpriseGateway | - | - | - | - |
| JupyterHub | - | - | - | - |
| Livy | - | - | - | - |
| MXNet | - | - | - | - |
| Mahout | 0.11.1 | 0.11.0 | 0.11.0 | 0.11.0 |
| Oozie | - | - | - | - |
| Oozie-Sandbox | 4.2.0 | 4.2.0 | 4.2.0 | 4.0.1 |
| Phoenix | - | - | - | - |
| Pig | 0.14.0- | 0.14.0- | 0.14.0- | 0.14.0- |
| Presto | - | - | - | - |
| Presto-Sandbox | 0.136 | 0.130 | 0.125 | 0.119 |
| Spark | 1.6.0 | 1.6.0 | 1.5.2 | 1.5.0 |
| Sqoop | - | - | - | - |
| Sqoop-Sandbox | 1.4.6 | - | - | - |
| TensorFlow | - | - | - | - |
| Tez | - | - | - | - |
| Trino (PrestoSQL) | - | - | - | - |
| Zeppelin | - | - | - | - |
| Zeppelin-Sandbox | 0.5.6 | 0.5.5 | 0,5,5 | 0.6.0-SNAPSHOT |
| ZooKeeper | - | - | - | - |
| ZooKeeper-Sandbox | - | - | - | - |
4.4.0
Die folgenden Versionshinweise enthalten Informationen über Amazon-EMR-Version 4.4.0.
Veröffentlichungsdatum: 14. März 2016
Features
-
HCatalog 1.0.0
-
Sqoop-Sandbox 1.4.6 wurde hinzugefügt.
-
Upgrade auf Presto 0.136
-
Upgrade auf Zeppelin 0.5.6
-
Upgrade auf Mahout 0.11.1
-
dynamicResourceAllocationwurde standardmäßig aktiviert. -
Es wurde eine Tabelle mit allen Konfigurationsklassifizierungen für die Version hinzugefügt. Weitere Informationen finden Sie in der Konfigurationsklassifizierungstabelle unter Konfigurieren von Anwendungen.
Bekannte Probleme aus den früheren Versionen, die behoben wurden
-
Es wurde ein Problem behoben, bei dem die
maximizeResourceAllocationEinstellung nicht genug Speicher für ApplicationMaster YARN-Daemons reservierte. -
Es wurde ein Problem mit einer benutzerdefinierten DNS behoben. Wenn Einträge in
resolve.confden angegebenen, benutzerdefinierten Einträge vorangestellt werden, können die benutzerdefinierten Einträge nicht aufgelöst werden. Dieses Verhalten wirkte sich auf Cluster in einer VPC aus, wo der Standard-VPC-Nameserver als oberster Eintrag inresolve.confeingefügt wird. -
Es wurde ein Problem behoben, bei dem die Python-Standardversion auf Version 2.7 geändert wurde und boto für diese Version nicht installiert war.
-
Es wurde ein Problem behoben, bei dem YARN-Container und Spark-Anwendungen eine eindeutige Ganglia Round Robin-Datenbankdatei (rrd) generierte, wodurch der erste, der Instance angefügte Datenträger vollständig belegt wurde. Aufgrund dieser Fehlerbehebung wurden YARN-Metriken auf Containerebene und Spark-Metriken auf Anwendungsebene deaktiviert.
-
Es wurde ein Problem im Protokoll-Pusher behoben, bei dem alle leeren Protokollordner gelöscht wurden. Das Ergebnis war, dass die Hive-CLI keine Protokolle erstellen konnte, da der Protokoll-Pusher den leeren
user-Ordner unter/var/log/hiveentfernte. -
Es wurde ein Problem mit Hive-Importen behoben, da sich auf die Partitionierung auswirkte und beim Import zu einem Fehler führte.
-
Es wurde ein Problem behoben, bei dem EMRFS und s3-dist-cp Bucket-Namen, die Punkte enthielten, nicht ordnungsgemäß verarbeiteten.
-
Es wurde ein Verhalten in EMRFS geändert, damit in Versioning-fähigen Buckets die Markierungsdatei
_$folder$nicht kontinuierlich erstellt wird. Dies kann zu einer verbesserten Leistung für Versioning-fähige Buckets beitragen. -
Es wurde das Verhalten in EMRFS geändert, sodass Anweisungsdateien nur in Fällen verwendet werden, in denen die clientseitige Verschlüsselung aktiviert ist. Wenn Sie Anweisungsdateien bei Verwendung der clientseitigen Verschlüsselung löschen möchten, können Sie die emrfs-site.xml-Eigenschaft,
fs.s3.cse.cryptoStorageMode.deleteInstructionFiles.enabled, auf "true" festlegen. -
Die YARN-Protokollaggregation wurde geändert, sodass Protokolle am Aggregationsziel zwei Tage lang verwahrt werden. Das Standard-Ziel ist der HDFS-Speicher Ihres Clusters. Wenn Sie diese Dauer ändern möchten, ändern Sie den Wert
yarn.log-aggregation.retain-secondsmit der Konfigurationsklassifizierungyarn-sitebeim Erstellen Ihres Clusters. Wie immer können Sie Ihre Anwendungsprotokolle beim Erstellen Ihres Clusters mit dem Parameterlog-uriin Amazon S3 speichern.
Angewendete Patches
4.4.0 Komponentenversionen
Die Komponenten, die Amazon EMR mit dieser Version installiert, sind nachstehend aufgeführt. Einige werden als Teil von Big-Data-Anwendungspaketen installiert. Andere sind nur für Amazon EMR verfügbar und werden für Systemprozesse und -Features installiert. Diese beginnen in der Regel mit emr oder aws. Big-Data-Anwendungspakete in der aktuellsten Amazon-EMR-Version sind in der Regel die aktuelle Version, die in der Community zu finden ist. Wir stellen Community-Versionen in Amazon EMR so schnell wie möglich zur Verfügung.
Einige Komponenten in Amazon EMR unterscheiden sich von Community-Versionen. Diese Komponenten verfügen über eine Versionsbezeichnung in der Form CommunityVersion-amzn-EmrVersionEmrVersionmyapp-component der Version 2.2 dreimal für die Aufnahme in verschiedene Amazon-EMR-Versionen geändert wurde, wird ihre Version als 2.2-amzn-2 aufgeführt.
| Komponente | Version | Beschreibung |
|---|---|---|
| emr-ddb | 3.0.0 | Amazon DynamoDB-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-goodies | 2.0.0 | Praktische Bibliotheken für das Hadoop-Ökosystem. |
| emr-kinesis | 3.1.0 | Amazon Kinesis-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-s3-dist-cp | 2.2.0 | Verteilte Kopieranwendung, die für Amazon S3 optimiert ist. |
| emrfs | 2.4.0 | Amazon S3-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| ganglia-monitor | 3.7.2 | Eingebetteter Ganglia-Agent für Anwendungen aus dem Hadoop-Ökosystem zusammen mit dem Ganglia-Überwachungsagent. |
| ganglia-metadata-collector | 3.7.2 | Ganglia-Metadaten-Kollektor zum Aggregieren von Metriken aus Ganglia-Überwachungsagenten. |
| ganglia-web | 3.7.1 | Webanwendung zum Anzeigen von durch den Ganglia-Metadaten-Kollektor gesammelten Metriken. |
| hadoop-client | 2.7.1-amzn-1 | Hadoop-Befehlszeilen-Clients wie z. B. "hdfs", "Hadoop" oder "Garn". |
| hadoop-hdfs-datanode | 2.7.1-amzn-1 | HDFS-Service auf Knotenebene zum Speichern von Blöcken. |
| hadoop-hdfs-library | 2.7.1-amzn-1 | HDFS-Client und -Bibliothek für die Befehlszeile |
| hadoop-hdfs-namenode | 2.7.1-amzn-1 | HDFS-Service für die Nachverfolgung von Dateinamen und Block-Speicherorten. |
| hadoop-httpfs-server | 2.7.1-amzn-1 | HTTP-Endpunkt für HDFS-Operationen. |
| hadoop-kms-server | 2.7.1-amzn-1 | Kryptografischer Schlüsselverwaltungsserver, der auf der Hadoop-API basiert. KeyProvider |
| hadoop-mapred | 2.7.1-amzn-1 | MapReduce Execution Engine-Bibliotheken zum Ausführen einer MapReduce Anwendung. |
| hadoop-yarn-nodemanager | 2.7.1-amzn-1 | YARN-Service für die Verwaltung von Containern auf einem einzelnen Knoten. |
| hadoop-yarn-resourcemanager | 2.7.1-amzn-1 | YARN-Service für Zuweisung und Verwaltung von Cluster-Ressourcen und verteilten Anwendungen. |
| hcatalog-client | 1.0.0-amzn-3 | Der "hcat"-Befehlszeilen-Client-für das Bearbeiten des hcatalog-Servers. |
| hcatalog-server | 1.0.0-amzn-3 | Bereitstellung von Diensten HCatalog, eine Tabellen- und Speicherverwaltungsebene für verteilte Anwendungen. |
| hcatalog-webhcat-server | 1.0.0-amzn-3 | HTTP-Endpunkt, der eine REST-Schnittstelle für bereitstellt HCatalog. |
| hive-client | 1.0.0-amzn-3 | Hive-Befehlszeilen-Client. |
| hive-metastore-server | 1.0.0-amzn-3 | Service für den Zugriff auf den Hive-Metastore (ein semantisches Repository für die Speicherung von Metadaten für SQL zu Hadoop-Operationen). |
| hive-server | 1.0.0-amzn-3 | Service zur Annahme von Hive-Abfragen als Webanfragen. |
| hue-server | 3.7.1-amzn-5 | Webanwendung für die Analyse von Daten mithilfe von Hadoop-Anwendungen. |
| mahout-client | 0.11.1 | Bibliothek für Machine Learning. |
| mysql-server | 5.5 | MySQL-Datenbankserver. |
| oozie-client | 4.2.0 | Oozie-Befehlszeilen-Client. |
| oozie-server | 4.2.0 | Service für die Annahme von Oozie Workflow-Anforderungen. |
| presto-coordinator | 0.136 | Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Presto-Worker. |
| presto-worker | 0.136 | Service für das Ausführen von Teilen einer Abfrage. |
| pig-client | 0.14.0-amzn-0 | Pig-Befehlszeilen-Client. |
| spark-client | 1.6.0 | Spark-Befehlszeilen-Clients. |
| spark-history-server | 1.6.0 | Web-Benutzeroberfläche zum Anzeigen von protokollierten Ereignissen für die gesamte Lebensdauer einer abgeschlossenen Spark-Anwendung. |
| spark-on-yarn | 1.6.0 | In-Memory-Ausführungs-Engine für YARN. |
| spark-yarn-slave | 1.6.0 | Apache Spark-Bibliotheken, die von YARN-Slaves benötigt werden. |
| sqoop-client | 1.4.6 | Apache Sqoop-Befehlszeilen-Client. |
| webserver | 2.4 | Apache HTTP-Server. |
| zeppelin-server | 0.5.6-incubating | Webbasiertes Notizbuch, das interaktive Datenanalysen ermöglicht. |
4.4.0 Konfigurationsklassifizierungen
Mithilfe von Konfigurationsklassifizierungen können Sie Anwendungen anpassen. Diese entsprechen häufig einer XML-Konfigurationsdatei für die Anwendung, z. B. hive-site.xml Weitere Informationen finden Sie unter Anwendungen konfigurieren.
| Klassifizierungen | Beschreibung |
|---|---|
capacity-scheduler | Ändert die Werte in der capacity-scheduler.xml-Datei in Hadoop. |
core-site | Ändert die Werte in der core-site.xml-Datei in Hadoop. |
emrfs-site | Ändert die EMRFS-Einstellungen. |
hadoop-env | Ändert die Werte in der Hadoop-Umgebung für alle Hadoop-Komponenten. |
hadoop-log4j | Ändert die Werte in der log4j.properties-Datei in Hadoop. |
hdfs-encryption-zones | Konfiguriert die HDFS-Verschlüsselungszonen. |
hdfs-site | Ändert die Werte in der hdfs-site.xml-Datei in HDFS. |
hcatalog-env | Werte in der Umgebung ändern HCatalog. |
hcatalog-server-jndi | Ändern Sie die Werte in HCatalog's jndi.properties. |
hcatalog-server-proto-hive-site | Ändern Sie die Werte in .xml HCatalog. proto-hive-site |
hcatalog-webhcat-env | Werte in der HCatalog HCat Webumgebung ändern. |
hcatalog-webhcat-log4j | Ändern Sie die Werte in den HCat log4j.properties von HCatalog Web. |
hcatalog-webhcat-site | Ändern Sie die HCatalog Werte in HCat der webhcat-site.xml. |
hive-env | Ändert die Werte in der Hive-Umgebung. |
hive-exec-log4j | Ändern Sie die Werte in der Datei hive-exec-log 4j.properties von Hive. |
hive-log4j | Ändert die Werte in der hive-log4j.properties-Datei in Hive. |
hive-site | Ändert die Werte in der hive-site.xml-Datei in Hive. |
hue-ini | Ändert die Werte in der INI-Datei in Hue. |
httpfs-env | Ändert die Werte in der HTTPFS-Umgebung. |
httpfs-site | Ändert die Werte in der httpfs-site.xml-Datei in Hadoop. |
hadoop-kms-acls | Ändert die Werte in der kms-acls.xml-Datei in Hadoop. |
hadoop-kms-env | Ändert die Werte in der KMS-Umgebung in Hadoop. |
hadoop-kms-log4j | Ändert die Werte in der kms-log4j.properties-Datei in Hadoop. |
hadoop-kms-site | Ändert die Werte in der kms-site.xml-Datei in Hadoop. |
mapred-env | Ändern Sie die Werte in der MapReduce Anwendungsumgebung. |
mapred-site | Ändern Sie die Werte in der mapred-site.xml MapReduce -Anwendungsdatei. |
oozie-env | Ändert die Werte in der Oozie-Umgebung. |
oozie-log4j | Ändert die Werte in der oozie-log4j.properties-Datei in Oozie. |
oozie-site | Ändert die Werte in der oozie-site.xml-Datei in Oozie. |
pig-properties | Ändert die Werte in der pig.properties-Datei in Pig. |
pig-log4j | Ändert die Werte in der log4j.properties-Datei in Pig. |
presto-log | Ändert die Werte in der log.properties-Datei in Presto. |
presto-config | Ändert die Werte in der config.properties-Datei in Presto. |
presto-connector-hive | Ändert die Werte in der hive.properties-Datei in Presto. |
spark | Hierbei handelt es sich um von Amazon EMR zusammengestellte Einstellungen für Apache Spark. |
spark-defaults | Ändert die Werte in der spark-defaults.conf-Datei in Spark. |
spark-env | Ändert die Werte in der Spark-Umgebung. |
spark-log4j | Ändert die Werte in der log4j.properties-Datei in Spark. |
spark-metrics | Ändert die Werte in der metrics.properties-Datei in Spark. |
sqoop-env | Ändert die Werte in der Sqoop-Umgebung. |
sqoop-oraoop-site | Ändern Sie die Werte in der oraoop-site.xml OraOop -Sqop-Datei. |
sqoop-site | Ändert die Werte in der sqoop-site.xml in Sqoop. |
yarn-env | Ändert die Werte in der YARN-Umgebung. |
yarn-site | Ändert die Werte in der yarn-site.xml-Datei in YARN. |
zeppelin-env | Ändert die Werte in der Zeppelin-Umgebung. |
