Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
CloudWatch Agent für Amazon EMR 7.1.0 konfigurieren
Ab Amazon EMR 7.1.0 können Sie den CloudWatch Amazon-Agenten so konfigurieren, dass er zusätzliche Systemmetriken verwendet, Anwendungsmetriken hinzufügt und das Metrikziel mithilfe der Amazon EMR-Konfigurations-API ändert. Weitere Informationen zur Verwendung der EMR-Konfigurations-API zur Konfiguration der Clusteranwendungen finden Sie unter Anwendungen konfigurieren.
Anmerkung
7.1.0 unterstützt nur den Rekonfigurationstyp. OVERWRITE Weitere Informationen zu den Rekonfigurationstypen finden Sie unter Überlegungen bei der Neukonfiguration einer Instanzgruppe.
Themen
Konfigurationsschema
emr-metricshat die folgenden Klassifizierungen:
-
emr-system-metrics— konfiguriert Systemmetriken wie CPU, Festplatte und Speicher. -
emr-hadoop-hdfs-datanode-metrics— Hadoop DataNode JMX-Metriken konfigurieren -
emr-hadoop-hdfs-namenode-metrics— Hadoop JMX-Metriken NameNode konfigurieren -
emr-hadoop-yarn-nodemanager-metrics— Yarn JMX-Metriken NodeManager konfigurieren -
emr-hadoop-yarn-resourcemanager-metrics— Yarn ResourceManager JMX-Metriken konfigurieren -
emr-hbase-master-metrics— HBase Master-JMX-Metriken konfigurieren -
emr-hbase-region-server-metrics— JMX-Metriken für HBase Regionalserver konfigurieren -
emr-hbase-rest-server-metrics— JMX-Metriken für HBase den REST-Server konfigurieren -
emr-hbase-thrift-server-metrics— konfigurieren Sie HBase Thrift Server JMX-Metriken
In den folgenden Tabellen werden die verfügbaren Eigenschaften und Konfigurationen für alle Klassifizierungen beschrieben.
Eigenschaften von emr-metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte | Hinweise |
|---|---|---|---|---|---|
metrics_destination |
Optional | Legt fest, ob Cluster-Metriken auf Amazon CloudWatch oder Amazon Managed Service for Prometheus veröffentlicht werden. | „CLOUDWATCH“ | „CLOUDWATCH“, „PROMETHEUS“ | Bei dieser Eigenschaft wird nicht zwischen Groß- und Kleinschreibung unterschieden. Zum Beispiel ist „Cloudwatch“ dasselbe wie „CLOUDWATCH“. |
prometheus_endpoint |
Optional | Wenn auf „PROMETHEUS“ gesetzt metrics_destination ist, konfiguriert diese Eigenschaft den CloudWatch Agenten so, dass er Metriken an den bereitgestellten Remote-Write-Endpunkt von Amazon Managed Service for Prometheus sendet. |
N/A | Jede gültige Remote-Write-URL für Amazon Managed Service für Prometheus. Das URL-Format für das Remote-Schreiben ist
|
Dieses Feld ist erforderlich, wenn metrics_destination es auf „PROMETHEUS“ gesetzt ist. Die Bereitstellung schlägt fehl, wenn Sie keinen Schlüssel angeben oder wenn der Wert eine leere Zeichenfolge ist. |
emr-system-metrics Eigenschaften
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte | Hinweise |
|---|---|---|---|---|---|
metrics_collection_interval |
Optional | Wie oft in Sekunden Metriken vom CloudWatch Agenten gesammelt und veröffentlicht werden. | „60" | Eine Zeichenfolge, die die Anzahl der Sekunden angibt. Akzeptiert nur ganze Zahlen. | Sie können diese Eigenschaft mit der metrics_collection_interval Eigenschaft einzelner Metrikgruppen überschreiben. |
emr-system-metrics Konfigurationen
emr-hadoop-hdfs-datanodeEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=DataNode,name=DataNodeActivity z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, BlocksCached,BlocksRead. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Hadoop-Metriken erfasst werden sollen. DataNode | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hadoop-hdfs-namenodeEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=NameNode,name=FSNamesystem z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, BlockCapacity,CapacityUsedGB. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Hadoop-Metriken erfasst werden sollen. NameNode | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hadoop-yarn-nodemanagerEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=NodeManager,name=NodeManagerMetrics z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, MaxCapacity,AllocatedGB. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Hadoop YARN-Metriken erfasst werden sollen. NodeManager | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hadoop-yarn-resourcemanagerEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=ResourceManager,name=PartitionQueueMetrics z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, MaxCapacity,MaxCapacityVCores. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Hadoop YARN-Metriken erfasst werden sollen. ResourceManager | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hbase-master-metrics Eigenschaften
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=HBase,name=Master,sub=AssignmentManager z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, AssignFailedCount,AssignSubmittedCount. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Master-Metriken erfasst werden sollen. HBase | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hbase-region-serverEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=HBase,name=RegionServer,sub=IPC z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, numActiveHandler,numActivePriorityHandler. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Regionsserver-Metriken erfasst werden sollen. HBase | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hbase-rest-serverEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=HBase,name=REST z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, successfulPut,successfulScanCount. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Rest-Server-Metriken erfasst werden sollen. HBase | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
emr-hbase-thrift-serverEigenschaften von -metrics
| Eigenschaft | Erforderlich | Beschreibung | Standardwert | Mögliche Werte |
|---|---|---|---|---|
|
Optional | N/A | Der CloudWatch Agent MBean , von dem dieser Agent Metriken sammeln soll, wie Hadoop:service=HBase,name=Thrift,sub=ThriftOne z. MBean Probennamen und die entsprechenden Metriken finden Sie in den JMX-YAML-Beispieldateien |
Eine Zeichenfolge, die die kommagetrennte Liste der Metriken enthält, die mit dem verknüpft sind. MBean Beispiel, BatchGet_max,BatchGet_mean. |
otel.metric.export.interval |
Optional | Wie oft in Millisekunden Thrift-Servermetriken erfasst werden sollen. HBase | „60000" | Eine Zeichenfolge, die die Anzahl der Millisekunden angibt. Akzeptiert nur ganze Zahlen. |
Beispiele für Konfigurationen von Systemmetriken
Das folgende Beispiel zeigt, wie der CloudWatch Agent so konfiguriert wird, dass der Export aller Systemmetriken beendet wird.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-system-metrics", "Properties": {}, "Configurations": [] } ] } ]
Im folgenden Beispiel wird der CloudWatch Agent so konfiguriert, dass er die Standard-Systemmetriken exportiert. Auf diese Weise können Sie den Agenten schnell wieder auf den Export der Standard-Systemmetriken zurücksetzen, wenn Sie die Systemmetriken bereits mindestens einmal neu konfiguriert haben. Durch diesen Reset werden auch alle Anwendungsmetriken entfernt, die zuvor neu konfiguriert wurden.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [] } ]
Im folgenden Beispiel wird der Cluster so konfiguriert, dass er die cpumem, und die disk Metriken exportiert.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-system-metrics", "Properties": { "metrics_collection_interval": "20" }, "Configurations": [ { "Classification": "cpu", "Properties": { "metrics": "cpu_usage_guest,cpu_usage_idle", "metrics_collection_interval": "30", "drop_original_metrics": "cpu_usage_guest" } }, { "Classification": "mem", "Properties": { "metrics": "mem_active" } }, { "Classification": "disk", "Properties": { "metrics": "disk_used_percent", "resources": "/,/mnt", "drop_original_metrics": "" } } ] } ] } ]
Die vorherige Beispielkonfiguration hat die folgenden Eigenschaften:
-
Alle 30 Sekunden erfasst der Agent die
cpu_guestMetrik für alle CPUs. Sie finden die aggregierte Metrik unter dem CloudWatchCWAgent > cluster.id, instance.id, node.type, service.nameNamespace. -
Alle 30 Sekunden sammelt der Agent die
cpu_idleMetrik für alle. CPUs Sie finden die aggregierte Metrik unter dem CloudWatchCWAgent > cluster.id, instance.id, node.type, service.nameNamespace. Der Agent sammelt auch die Metriken pro CPU. Sie finden sie im selben Namespace. Der Agent sammelt diese Metrik, weil diedrop_original_metricsEigenschaft nichts enthältcpu_idle, sodass der Agent die Metrik nicht ignoriert. -
Alle 20 Sekunden erfasst der Agent die
mem_activeMetrik. Sie finden die aggregierte Metrik unter dem CloudWatchCWAgent > cluster.id, instance.id, node.type, service.nameNamespace. -
Alle 20 Sekunden erfasst der Agent die
disk_used_percentMetriken für die/und die/mntFestplatten-Mounts. Sie finden die aggregierten Metriken unter dem CloudWatch Namespace.CWAgent > cluster.id, instance.id, node.type, service.nameDer Agent sammelt auch die Metriken pro Mount. Sie finden sie im selben Namespace. Der Agent sammelt diese Metrik, weil diedrop_original_metricsEigenschaft nichts enthältdisk_used_percent, sodass der Agent die Metrik nicht ignoriert.
Beispiele für Konfigurationen von Anwendungsmetriken
Im folgenden Beispiel wird der CloudWatch Agent so konfiguriert, dass der Export von Metriken für den Hadoop Namenode-Dienst beendet wird.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-hadoop-hdfs-namenode-metrics", "Properties": {}, "Configurations": [] } ] } ]
Im folgenden Beispiel wird ein Cluster für den Export von Hadoop-Anwendungsmetriken konfiguriert.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-hadoop-hdfs-namenode-metrics", "Properties": { "Hadoop:service=NameNode,name=FSNamesystem": "BlockCapacity,CapacityUsedGB", "otel.metric.export.interval": "20000" }, "Configurations": [] }, { "Classification": "emr-hadoop-hdfs-datanode-metrics", "Properties": { "Hadoop:service=DataNode,name=JvmMetrics": "MemNonHeapUsedM", "otel.metric.export.interval": "30000" }, "Configurations": [] }, { "Classification": "emr-hadoop-yarn-resourcemanager-metrics", "Properties": { "Hadoop:service=ResourceManager,name=CapacitySchedulerMetrics": "AllocateNumOps,NodeUpdateNumOps" }, "Configurations": [] } ] } ]
Das vorherige Beispiel hat die folgenden Eigenschaften:
-
Alle 20 Sekunden sammelt der Agent die
BlockCapacityundCapacityUsedGB-Metriken von Instanzen, auf denen der Hadoop Namenode-Dienst ausgeführt wird. -
Alle 30 Sekunden sammelt der Agent
MemNonHeapUsedMMetriken von Instanzen, auf denen der Hadoop Datanode-Dienst ausgeführt wird. -
Alle 30 Sekunden sammelt der Agent die
NodeUpdateNumOpsMetrikenAllocateNumOpsund die Metriken von Instanzen, auf denen Hadoop YARN ausgeführt wird. ResourceManaager
Beispiel für Amazon Managed Service für Prometheus
Das folgende Beispiel zeigt, wie der CloudWatch Agent so konfiguriert wird, dass er Metriken nach Amazon Managed Service for Prometheus exportiert.
Wenn Sie derzeit Metriken nach Amazon Managed Service for Prometheus exportieren und die Metriken für den Cluster neu konfigurieren und weiterhin Metriken nach Amazon Managed Service for Prometheus exportieren möchten, müssen Sie die Eigenschaften und angeben. metrics_destination prometheus_endpoint
[ { "Classification": "emr-metrics", "Properties": { "metrics_destination": "prometheus", "prometheus_endpoint": "http://amp-workspace/api/v1/remote_write" }, "Configurations": [] } ]
Verwenden Sie das folgende Beispiel, um den CloudWatch Agenten zum Exportieren von Metriken zu CloudWatch verwenden.
[ { "Classification": "emr-metrics", "Properties": { "metrics_destination": "cloudwatch" }, "Configurations": [] } ]
Anmerkung
Der CloudWatch Agent verfügt über einen Prometheus-Exporter, der bestimmte Attribute umbenennt. Für die Standardkennzahlen verwendet Amazon Managed Service for Prometheus Unterstriche anstelle der Punkte, die Amazon verwendet. CloudWatch Wenn Sie Amazon Managed Grafana verwenden, um die Standardmetriken in Amazon Managed Service for Prometheus zu visualisieren, werden die Bezeichnungen alscluster_id,instance_id, node_type und angezeigt. service_name