Verhalten bei der Rekonfiguration Einschränkungen Konfigurieren Sie eine Instance-Flotte neu Beheben Sie Probleme bei der Neukonfiguration der Instance-Flotte

Neukonfiguration der Instance-Flotten für Ihren Amazon EMR-Cluster

Mit Amazon EMR Version 5.21.0 und höher können Sie Cluster-Anwendungen neu konfigurieren und zusätzliche Konfigurationsklassifizierungen für jede Instance-Flotte in einem laufenden Cluster angeben. Dazu können Sie die AWS Befehlszeilenschnittstelle (AWS CLI) oder das SDK verwenden. AWS

Sie können den Status einer Instance-Flotte verfolgen, indem Sie sich die CloudWatch Ereignisse ansehen. Weitere Informationen finden Sie unter Ereignisse zur Neukonfiguration der Instance-Flotte.

Anmerkung

Sie können nur das Cluster-Konfigurationsobjekt überschreiben, das bei der Cluster-Erstellung angegeben wurde. Weitere Informationen zu Configurations-Objekten finden Sie unter RunJobFlow Anforderungssyntax. Wenn es Unterschiede zwischen der vorhandenen Konfiguration und der von Ihnen bereitgestellten Datei gibt, setzt Amazon EMR manuell geänderte Konfigurationen, z. B. Konfigurationen, die Sie geändert haben, während Sie über SSH mit Ihrem Cluster verbunden waren, auf die Cluster-Standardeinstellungen für die angegebene Instance-Flotte zurück.

Wenn Sie eine Rekonfigurationsanforderung über die Amazon EMR-Konsole, die AWS Befehlszeilenschnittstelle (AWS CLI) oder das AWS SDK einreichen, überprüft Amazon EMR die vorhandene Cluster-Konfigurationsdatei. Wenn es Unterschiede zwischen der vorhandenen Konfiguration und der von Ihnen bereitgestellten Datei gibt, leitet Amazon EMR Rekonfigurationsaktionen ein, startet einige Anwendungen neu und setzt alle manuell geänderten Konfigurationen, wie z. B. Konfigurationen, die Sie geändert haben, während Sie über SSH mit Ihrem Cluster verbunden waren, auf die Cluster-Standardeinstellungen für die angegebene Instance-Flotte zurück.

Verhalten bei der Rekonfiguration

Bei der Neukonfiguration wird die Cluster-Konfiguration mit dem neu übermittelten Konfigurationssatz überschrieben. Konfigurationsänderungen, die außerhalb der Rekonfigurations-API vorgenommen wurden, können überschrieben werden.

Amazon EMR folgt einem fortlaufenden Prozess zur Neukonfiguration der Instances in der Task- und Core-Instance-Flotte. Nur ein Prozentsatz der Instances für einen einzelnen Instance-Typ wird gleichzeitig geändert und neu gestartet. Wenn Ihre Instance-Flotte über mehrere verschiedene Instance-Typkonfigurationen verfügt, werden diese parallel neu konfiguriert.

Rekonfigurationen werden auf der Ebene deklariert. InstanceTypeConfig Ein visuelles Beispiel finden Sie unter. Konfigurieren Sie eine Instance-Flotte neu Sie können Rekonfigurationsanfragen, die aktualisierte Konfigurationseinstellungen für einen oder mehrere Instanztypen enthalten, in einer einzigen Anfrage einreichen. Sie müssen alle Instance-Typen, die Teil Ihrer Instance-Flotte sind, in die Änderungsanforderung aufnehmen. Instance-Typen mit ausgefüllten Konfigurationsfeldern werden jedoch neu konfiguriert, während andere InstanceTypeConfig Instances in der Flotte unverändert bleiben. Eine Neukonfiguration gilt nur dann als erfolgreich, wenn alle Instances der angegebenen Instance-Typen die Rekonfiguration abgeschlossen haben. Wenn eine Instance nicht neu konfiguriert werden kann, kehrt die gesamte Instance-Flotte automatisch zu ihrer letzten bekannten stabilen Konfiguration zurück.

Einschränkungen

Beachten Sie bei der Neukonfiguration einer Instance-Flotte in einem laufenden Cluster die folgenden Einschränkungen:

Non-YARN Anwendungen können beim Neustart ausfallen oder Clusterprobleme verursachen, insbesondere wenn die Anwendungen nicht richtig konfiguriert sind. Bei Clustern, die sich der maximalen Speicher- und CPU-Auslastung nähern, können nach dem Neustart Probleme auftreten. Dies gilt insbesondere für die primäre Instance-Flotte. Konsultieren Sie den Beheben Sie Probleme bei der Neukonfiguration der Instance-Flotte Abschnitt.
Größenänderungen und Rekonfigurationsvorgänge erfolgen nicht parallel. Rekonfigurationsanfragen warten auf eine fortlaufende Größenänderung und umgekehrt.
Größenänderungen und Rekonfigurationsvorgänge erfolgen nicht parallel. Rekonfigurationsanfragen warten auf eine fortlaufende Größenänderung und umgekehrt.
Nach der Neukonfiguration einer Instance-Flotte startet Amazon EMR die Anwendungen neu, damit die neuen Konfigurationen wirksam werden. Auftragsfehler und anderes unerwartetes Anwendungsverhalten kann auftreten, wenn die Anwendungen während der Rekonfiguration genutzt werden.
Wenn eine Rekonfiguration für eine Instance-Typ-Konfiguration unter einer Instance-Flotte fehlschlägt, setzt Amazon EMR die Konfigurationsparameter für die gesamte Instance-Flotte auf die vorherige funktionierende Version zurück und sendet Ereignisse aus und aktualisiert Statusdetails. Schlägt auch der Wiederherstellungsvorgang fehl, müssen Sie eine neue ModifyInstanceFleet Anfrage stellen, um den Status der Instance-Flotte wiederherzustellen. ARRESTED Fehlgeschlagene Versionen führen zu einer Neukonfiguration der Instanzflotte und zu Statusänderungen.
Rekonfigurationsanforderungen für Phoenix-Konfigurationsklassifizierungen werden nur in Amazon EMR ab Version 5.23.0, nicht jedoch in den Amazon-EMR-Versionen 5.21.0 und 5.22.0 unterstützt.
Rekonfigurationsanfragen für HBase-Konfigurationsklassifizierungen werden nur in Amazon-EMR-Version 5.30.0 und höher unterstützt und werden in den Amazon-EMR-Versionen 5.23.0 bis 5.29.0 nicht unterstützt.
Die Neukonfiguration der HDFS-Verschlüsselungszonen-Klassifizierung oder einer der Hadoop KMS-Konfigurationsklassifizierungen wird auf einem Amazon EMR-Cluster mit mehreren Primärknoten nicht unterstützt.
Amazon EMR unterstützt derzeit bestimmte Rekonfigurationsanforderungen für den YARN-Kapazitätsplaner, die einen Neustart des YARN erfordern, nicht. ResourceManager Beispielsweise können Sie eine Warteschlange nicht vollständig entfernen.
Wenn YARN neu gestartet werden muss, werden normalerweise alle laufenden YARN-Jobs beendet und gehen verloren. Dies kann zu Verzögerungen bei der Datenverarbeitung führen. Um YARN-Jobs während eines YARN-Neustarts auszuführen, können Sie entweder einen Amazon EMR-Cluster mit mehreren Primärknoten erstellen oder yarn.resourcemanager.recovery.enabled in Ihrer Yarn-Site-Konfigurationsklassifizierung auf setzen. true Weitere Informationen zur Verwendung mehrerer Master-Knoten finden Sie unter Hochverfügbarkeits-YARN. ResourceManager

Konfigurieren Sie eine Instance-Flotte neu

Using the AWS CLI

Verwenden Sie den modify-instance-fleet Befehl, um eine neue Konfiguration für eine Instance-Flotte in einem laufenden Cluster anzugeben.

Anmerkung

Ersetzen Sie in den folgenden Beispielen J-2AL4XXXXXX5T9 durch Ihre Cluster-ID und if-1xxxxxxx9 durch Ihre Instance-Flotten-ID.

Beispiel — Ersetzen Sie eine Konfiguration für eine Instance-Flotte

Warnung

Geben Sie alle InstanceTypeConfig Felder an, die Sie beim Start verwendet haben. Das Nichteinbeziehen von Feldern kann dazu führen, dass Spezifikationen überschrieben werden, die Sie beim Start angegeben haben. Eine Liste finden Sie unter. InstanceTypeConfig

Das folgende Beispiel verweist auf eine JSON-Konfigurationsdatei namens instanceFleet.json , um die Eigenschaft des NodeManager YARN-Festplattenzustandsprüfers für eine Instance-Flotte zu bearbeiten.

Änderung der Instanzflotte (JSON)

Bereiten Sie Ihre Konfigurationsklassifizierung vor und speichern Sie sie als Instanz Fleet.json in demselben Verzeichnis, in dem Sie den Befehl ausführen werden.


{
    "InstanceFleetId":"if-1xxxxxxx9",
    "InstanceTypeConfigs": [
            {
                "InstanceType": "m5.xlarge",
               other InstanceTypeConfig fields
                "Configurations": [
                    {
                        "Classification": "yarn-site",
                        "Properties": {
                            "yarn.nodemanager.disk-health-checker.enable":"true",
                            "yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage":"100.0"
                        }
                    }
                ]
            },
            {
                "InstanceType": "r5.xlarge",
               other InstanceTypeConfig fields
                "Configurations": [
                    {
                        "Classification": "yarn-site",
                        "Properties": {
                            "yarn.nodemanager.disk-health-checker.enable":"false",
                            "yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage":"70.0"
                        }
                    }
                ]
            }
        ]

Führen Sie den folgenden Befehl aus.


aws emr modify-instance-fleet \
--cluster-id j-2AL4XXXXXX5T9 \
--region us-west-2 \
--instance-fleet instanceFleet.json

Beispiel — Fügen Sie einer Instance-Flotte eine Konfiguration hinzu

Wenn Sie einem Instance-Typ eine Konfiguration hinzufügen möchten, müssen Sie alle zuvor angegebenen Konfigurationen für diesen Instance-Typ in Ihre neue ModifyInstanceFleet Anfrage aufnehmen. Andernfalls werden die zuvor für die angegebenen Konfigurationen entfernt.

Das folgende Beispiel fügt eine Eigenschaft für den NodeManager virtuellen YARN-Speicherprüfer hinzu. Die Konfiguration enthält auch zuvor angegebene Werte für den NodeManager YARN-Festplattenzustandsprüfer, sodass die Werte nicht überschrieben werden.

Bereiten Sie den folgenden Inhalt als Instanz vor Fleet.json und speichern Sie ihn in demselben Verzeichnis, in dem Sie den Befehl ausführen werden.


{
    "InstanceFleetId":"if-1xxxxxxx9",
    "InstanceTypeConfigs": [
            {
                "InstanceType": "m5.xlarge",
                other InstanceTypeConfig fields
                "Configurations": [
                    {
                        "Classification": "yarn-site",
                        "Properties": {
                            "yarn.nodemanager.disk-health-checker.enable":"true",
                            "yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage":"100.0",
                            "yarn.nodemanager.vmem-check-enabled":"true",
                            "yarn.nodemanager.vmem-pmem-ratio":"3.0"
                        }
                    }
                ]
            },
            {
                "InstanceType": "r5.xlarge",
                other InstanceTypeConfig fields
                "Configurations": [
                    {
                        "Classification": "yarn-site",
                        "Properties": {
                            "yarn.nodemanager.disk-health-checker.enable":"false",
                            "yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage":"70.0"
                        }
                    }
                ]
            }
        ]      
}

Führen Sie den folgenden Befehl aus.


aws emr modify-instance-fleet \
--cluster-id j-2AL4XXXXXX5T9 \
--region us-west-2 \
--instance-fleet instanceFleet.json

using the Java SDK

Anmerkung

Ersetzen Sie in den folgenden Beispielen J-2AL4XXXXXX5T9 durch Ihre Cluster-ID und ersetzen Sie if-1xxxxxxx9 durch Ihre Instance-Flotten-ID.

Der folgende Codeausschnitt stellt eine neue Konfiguration für eine Instance-Flotte bereit, die das SDK für Java verwendet. AWS


AWSCredentials credentials = new BasicAWSCredentials("access-key", "secret-key");
AmazonElasticMapReduce emr = new AmazonElasticMapReduceClient(credentials);

Map<String,String> hiveProperties = new HashMap<String,String>();
hiveProperties.put("hive.join.emit.interval","1000");
hiveProperties.put("hive.merge.mapfiles","true");
        
Configuration newConfiguration = new Configuration()
    .withClassification("hive-site")
    .withProperties(hiveProperties);
    
List<InstanceTypeConfig> instanceTypeConfigList = new ArrayList<>();

for (InstanceTypeConfig instanceTypeConfig : currentInstanceTypeConfigList) {
    instanceTypeConfigList.add(new InstanceTypeConfig()
        .withInstanceType(instanceTypeConfig.getInstanceType())
        .withBidPrice(instanceTypeConfig.getBidPrice())
        .withWeightedCapacity(instanceTypeConfig.getWeightedCapacity())
        .withConfigurations(newConfiguration)
    );
}

InstanceFleetModifyConfig instanceFleetModifyConfig = new InstanceFleetModifyConfig()
    .withInstanceFleetId("if-1xxxxxxx9")
    .withInstanceTypeConfigs(instanceTypeConfigList);
    
ModifyInstanceFleetRequest modifyInstanceFleetRequest = new ModifyInstanceFleetRequest()
    .withInstanceFleet(instanceFleetModifyConfig)
    .withClusterId("j-2AL4XXXXXX5T9");

emrClient.modifyInstanceFleet(modifyInstanceFleetRequest);

Beheben Sie Probleme bei der Neukonfiguration der Instance-Flotte

Wenn der Rekonfigurationsprozess für einen Instance-Typ innerhalb einer Instance-Flotte fehlschlägt, macht Amazon EMR die laufende Neukonfiguration rückgängig und protokolliert eine Fehlermeldung mithilfe eines Amazon Events-Ereignisses. CloudWatch Das Ereignis bietet eine kurze Zusammenfassung des Neukonfigurationsfehlers. Es listet die Instances auf, bei denen die Rekonfiguration fehlgeschlagen ist, sowie die entsprechenden Fehlermeldungen. Das Folgende ist ein Beispiel für eine Fehlermeldung.

Amazon EMR couldn't revert the instance fleet if-1xxxxxxx9 in the Amazon EMR cluster j-2AL4XXXXXX5T9 (ExampleClusterName) to the previously successful configuration at 2021-01-01 00:00 UTC. The reconfiguration reversion failed because of Instance i-xxxxxxx1, i-xxxxxxx2, i-xxxxxxx3 failed with message "This is an example failure message"...

So greifen Sie auf Node-Provisioning-Logs zu

Verwenden Sie SSH, um eine Verbindung zu dem Knoten herzustellen, auf dem die Neukonfiguration fehlgeschlagen ist. Anweisungen finden Sie unter Stellen Sie eine Verbindung zu Ihrer Linux-Instance in der Amazon Elastic Compute Cloud her.

Accessing logs by connecting to a node

Navigieren Sie zum folgenden Verzeichnis, das die Protokolldateien für die Knotenbereitstellung enthält.
```
/mnt/var/log/provision-node/
```
Öffnen Sie das Unterverzeichnis Reports und suchen Sie nach dem Node Provisioning Report für Ihre Neukonfiguration. Das Berichtsverzeichnis organisiert die Protokolle nach Versionsnummer der Rekonfiguration, UUID (Universally Unique Identifier), IP-Adresse der Amazon EC2-Instance und Zeitstempel. Jeder Bericht ist eine komprimierte YAML-Datei, die detaillierte Informationen über den Rekonfigurationsprozess enthält. Im Folgenden finden Sie ein Beispiel für einen Berichts-Dateiname und einen Pfad.
```
/reports/2/ca598xxx-cxxx-4xxx-bxxx-6dbxxxxxxxxx/ip-10-73-xxx-xxx.ec2.internal/202104061715.yaml.gz
```
Sie können einen Bericht mit einem Dateibetrachter wie zless untersuchen, wie im folgenden Beispiel.
```
zless 202104061715.yaml.gz
```

Accessing logs using Amazon S3

Melden Sie sich bei der an AWS-Managementkonsole und öffnen Sie die Amazon S3-Konsole unter https://console.aws.amazon.com/s3/. Öffnen Sie den Amazon-S3-Bucket, den Sie angegeben haben, als Sie den Cluster für die Archivierung von Protokolldateien in konfiguriert haben.

Navigieren Sie zum folgenden Ordner, der die Protokolldateien für die Knotenbereitstellung enthält:
```
amzn-s3-demo-bucket/elasticmapreduce/cluster id/node/instance id/provision-node/
```
Öffnen Sie den Berichtsordner und suchen Sie nach dem Node-Provisioning-Bericht für Ihre Neukonfiguration. Im Berichtsordner sind die Protokolle nach Versionsnummer der Rekonfiguration, UUID (Universally Unique Identifier), IP-Adresse der Amazon EC2-Instance und Zeitstempel sortiert. Jeder Bericht ist eine komprimierte YAML-Datei, die detaillierte Informationen über den Rekonfigurationsprozess enthält. Im Folgenden finden Sie ein Beispiel für einen Berichts-Dateiname und einen Pfad.
```
/reports/2/ca598xxx-cxxx-4xxx-bxxx-6dbxxxxxxxxx/ip-10-73-xxx-xxx.ec2.internal/202104061715.yaml.gz
```

Um eine Protokolldatei anzuzeigen, können Sie sie als Textdatei von Amazon S3 auf Ihren lokalen Computer herunterladen. Anweisungen finden Sie unter Objekt herunterladen.

Jede Protokolldatei enthält einen detaillierten Bereitstellungsbericht für die zugehörige Rekonfiguration. Um Informationen zu Fehlermeldungen zu finden, können Sie nach der err-Protokollebene eines Berichts suchen. Das Berichtsformat hängt von der Amazon-EMR-Version auf Ihrem Cluster ab. Das folgende Beispiel zeigt Fehlerinformationen für die Amazon EMR-Release-Versionen 5.32.0 und 6.2.0 und verwendet das folgende Format:


- level: err
  message: 'Example detailed error message.'
  source: Puppet
  tags:
  - err
  time: '2021-01-01 00:00:00.000000 +00:00'
  file: 
  line:

Warnung JavaScript ist in Ihrem Browser nicht verfügbar oder deaktiviert.

Zur Nutzung der AWS-Dokumentation muss JavaScript aktiviert sein. Weitere Informationen finden auf den Hilfe-Seiten Ihres Browsers.

Dokumentkonventionen

Planung und Konfiguration von Instance-Flotten für Ihren Amazon EMR-Cluster

Verwenden Sie Kapazitätsreservierungen für Instance-Flotten in Amazon EMR