Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Container-Insights-Metriken mit verbesserter Beobachtbarkeit für Amazon EKS und Kubernetes
Die folgende Tabelle listet die Metriken und Dimensionen auf, die von Container Insights mit verbesserter Beobachtbarkeit für Amazon EKS und Kubernetes erfasst werden. Diese Metriken befinden sich im ContainerInsights-Namespace. Weitere Informationen finden Sie unter Metriken.
Wenn Sie keine Container-Insights-Metriken mit verbesserter Beobachtbarkeit in Ihrer Konsole sehen, stellen Sie sicher, dass Sie die Einrichtung von Container Insights mit verbesserter Beobachtbarkeit durchgeführt haben. Metriken werden erst angezeigt, wenn Container Insights mit verbesserter Beobachtbarkeit vollständig eingerichtet wurde. Weitere Informationen finden Sie unter Einrichten von Container Insights.
Wenn Sie Version 1.5.0 oder höher des Amazon EKS-Add-ons oder Version 1.300035.0 des CloudWatch Agenten verwenden, werden die meisten in der folgenden Tabelle aufgeführten Metriken sowohl für Linux- als auch für Windows-Knoten erfasst. In der Tabellenspalte Metrikname können Sie sehen, welche Metriken für Windows nicht erfasst werden.
In der früheren Version von Container Insights, die aggregierte Metriken auf Cluster- und Serviceebene bereitstellt, werden die Metriken als benutzerdefinierte Metriken berechnet. Bei Container Insights mit verbesserter Beobachtbarkeit für Amazon EKS werden die Container-Insights-Metriken pro Beobachtung abgerechnet, anstatt pro gespeicherter Metrik oder aufgenommenem Protokoll. Weitere Informationen zur CloudWatch Preisgestaltung finden Sie unter CloudWatchAmazon-Preise
Anmerkung
Unter Windows werden Netzwerkmetriken wie pod_network_rx_bytes und pod_network_tx_bytes für Hostprozesscontainer nicht erfasst.
RedHat OpenShift Auf On-Clustern AWS (ROSA) node_diskio_io_service_bytes_total werden Diskio-Metriken wie node_diskio_io_serviced_total und nicht erfasst.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Anzahl der fehlgeschlagenen Workerknoten im Cluster. Ein Knoten gilt als ausgefallen, wenn er unter Knotenbedingungen leidet. Weitere Informationen finden Sie unter Bedingungen |
|
|
|
Die Gesamtzahl der Workerknoten im Cluster. |
|
|
|
Die Anzahl der Pods, die pro Namespace in der Ressource ausgeführt werden, die durch die von Ihnen verwendeten Dimensionen angegeben wird. |
|
|
|
Die maximale Anzahl der CPU-Einheiten, die einem einzelnen Knoten in diesem Cluster zugewiesen werden können. |
|
|
|
Der Prozentsatz der CPU-Einheiten, die für Knotenkomponenten, wie z. B. kubelet, kube-proxy und Docker, reserviert sind. Formel: Anmerkung
|
|
|
|
Die Anzahl der CPU-Einheiten, die auf den Knoten im Cluster verwendet werden. |
|
|
|
Der Gesamtprozentsatz der CPU-Einheiten, die auf den Knoten im Cluster verwendet werden. Formel: |
|
|
|
Der Gesamtprozentsatz der Dateisystemkapazität, die auf den Knoten im Cluster verwendet wird. Formel: Anmerkung
|
|
|
|
Die maximale Menge an Arbeitsspeicher in Byte, die einem einzelnen Knoten in diesem Cluster zugewiesen werden kann. |
|
Ist nicht für Windows verfügbar. |
|
Die Gesamtzahl der inodes (verwendet und unbenutzt) auf einem Knoten. |
|
Ist nicht für Windows verfügbar. |
|
Die Anzahl der ungenutzten inodes auf einem Knoten. |
|
|
|
Die Gesamtzahl der auf dem Knoten verfügbaren GPUs. |
|
|
|
Die Anzahl der GPU(s), die von den laufenden Pods auf dem Knoten verwendet werden. |
|
|
|
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit auf den Knoten im Cluster verwendet wird. Formel: Anmerkung
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit vom Knoten oder den Knoten verwendet wird. Dies ist der Prozentsatz der Knotenspeichernutzung geteilt durch die Knotenspeicherbegrenzung. Formel: |
|
|
|
Die Menge an Arbeitsspeicher in Byte, die im arbeitenden Satz der Knoten im Cluster verwendet wird. |
|
|
|
Die Gesamtzahl der pro Knoten in einem Cluster über das Netzwerk gesendeten und empfangenen Bytes pro Sekunde. Formel: Anmerkung
|
|
|
|
Die Anzahl der pro Knoten in einem Cluster ausgeführten Container. |
|
|
|
Die Anzahl der pro Knoten in einem Cluster ausgeführten Pods. |
|
|
|
Die Anzahl der Pods, die einem Knoten auf der Grundlage seiner zuweisbaren Ressourcen zugewiesen werden können. Diese ist definiert als die verbleibende Kapazität eines Knotens nach Berücksichtigung der Reservierungen von System-Daemons und der harten Schwellenwerte für die Bereinigung. |
|
|
|
Die Anzahl der Pods, die einem Knoten basierend auf seiner Kapazität zugewiesen werden können. |
|
|
|
Gibt an, ob die Knotenstatusbedingung für EC2 Amazon-Knoten wahr |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Gibt an, ob eine der Knotenstatusbedingungen Unbekannt ist. |
|
|
|
Die Anzahl der Pakete, die von einer Netzwerkschnittstelle auf dem Knoten empfangen und anschließend verworfen wurden. |
|
|
|
Die Anzahl der Pakete, die übertragen werden sollten, aber von einer Netzwerkschnittstelle auf dem Knoten verworfen wurden. |
|
Ist nicht für Windows oder auf ROSA-Clustern verfügbar. |
|
Die Gesamtzahl der Byte, die durch alle I/O Operationen auf dem Knoten übertragen wurden. |
|
Ist nicht für Windows oder auf ROSA-Clustern verfügbar. |
|
Die Gesamtzahl der I/O Operationen auf dem Knoten. |
|
|
|
Die CPU-Kapazität, die pro Pod in einem Cluster reserviert ist. Formel: Anmerkung
|
|
|
|
Der Prozentsatz der CPU-Einheiten, die von Pods verwendet werden. Formel: |
|
|
|
Der Prozentsatz der CPU-Einheiten, die von Pods im Verhältnis zum Pod-Limit verwendet werden. Formel: |
|
|
|
Der Prozentsatz des Arbeitsspeichers, der für Pods reserviert ist. Formel: Anmerkung
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit vom Pod oder Pods verwendet wird. Formel: |
|
|
|
Der Prozentsatz des Arbeitsspeichers, der von den Pods im Verhältnis zum Pod-Limit verwendet wird. Wenn für keinen der Container im Pod ein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: |
|
|
|
Die Anzahl der Bytes pro Sekunde, die vom Pod über das Netzwerk empfangen werden. Formel: Anmerkung
|
|
|
|
Die Anzahl der Bytes pro Sekunde, die vom Pod über das Netzwerk übertragen werden. Formel: Anmerkung
|
|
|
|
Die CPU-Anforderungen für den Pod. Formel: Anmerkung
|
|
|
|
Die SpeicherAnforderungen für den Pod. Formel: Anmerkung
|
|
|
|
Das für die Container im Pod definierte CPU-Limit. Wenn für keinen der Container im Pod ein CPU-Limit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Das für die Container im Pod definierte Speicherlimit. Wenn für keinen der Container im Pod ein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Zeigt an, dass alle Container im Pod beendet wurden und mindestens ein Container mit einem Status ungleich Null beendet wurde oder vom System beendet wurde. |
|
|
|
Zeigt an, dass alle Container im Pod bereit sind, da sie den Zustand |
|
|
|
Zeigt an, dass alle Container im Pod laufen. |
|
|
|
Zeigt an, dass der Pod für einen Knoten geplant wurde. |
|
|
|
Zeigt an, dass der Status des Pods nicht abgerufen werden kann. |
|
|
|
Zeigt an, dass der Pod vom Cluster akzeptiert wurde, aber einer oder mehrere Container noch nicht bereit sind. |
|
|
|
Zeigt an, dass alle Container im Pod erfolgreich beendet wurden und nicht neu gestartet werden. |
|
|
|
Meldet die Anzahl der Container, die in der Pod-Spezifikation definiert sind. |
|
|
|
Meldet die Anzahl der Container im Pod, die sich derzeit im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die aufgrund eines |
|
|
|
Meldet die Anzahl der Container im Pod, die mit dem Grund |
|
|
|
Meldet die Anzahl der Container im Pod, die mit dem Grund |
|
|
|
Meldet die Anzahl der Container im Pod, die aufgrund von |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die mit dem Grund |
|
|
|
Zeigt an, dass ein Pod aufgrund einer Überschreitung des Speicherlimits beendet wurde. Diese Metrik wird nur beim Auftreten dieses Problems angezeigt. |
|
|
|
Die Anzahl der Pakete, die von einer Netzwerkschnittstelle für den Pod empfangen und anschließend verworfen wurden. |
|
|
|
Die Anzahl der Pakete, die übertragen werden sollten, aber für den Pod verworfen wurden. |
|
|
Der derzeit von einem Pod verwendete Speicher in Byte. |
|
|
Die Anzahl von CPU-Einheiten, die von einem Pod verwendet werden. |
|
|
|
Der Prozentsatz der CPU-Einheiten, die vom Container verwendet werden. Formel: Anmerkung
|
|
|
|
Der Prozentsatz der CPU-Einheiten, die vom Container im Verhältnis zum Container-Limit verwendet werden. Wenn für den Container kein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Prozentsatz der Speichereinheiten, die vom Container verwendet werden. Formel: Anmerkung
|
|
|
|
Prozentsatz der vom Container benutzten Speichereinheiten im Verhältnis zum Container-Limit. Wenn für den Container kein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
Ist nicht für Windows verfügbar. |
|
Die Anzahl der Fehler bei der Speicherzuweisung, die beim Container aufgetreten sind. |
|
|
PodName, |
Die Gesamtanzahl der Container-Neustarts in einem Pod. |
|
|
Service
|
Die Anzahl der Pods, von denen der Service oder die Services im Cluster ausgeführt werden. |
|
|
|
Die Anzahl der Pods, die für einen Workload gewünscht werden, wie in der Workload-Spezifikation definiert. |
|
|
|
Die Anzahl der Pods für einen Workload, die den Status Bereit erreicht haben. |
|
|
|
Die Anzahl der verfügbaren Pods für einen Workload. Ein Pod ist verfügbar, wenn er für die in der Workload-Spezifikation definierten |
|
|
|
Die Anzahl der Pods für einen Workload, die nicht verfügbar sind. Ein Pod ist verfügbar, wenn er für die in der Workload-Spezifikation definierten |
|
|
|
Die Anzahl der zum Zeitpunkt der letzten Prüfung in etcd gespeicherten Objekte. |
|
|
|
Gesamtgröße der physisch zugewiesenen Speicherdatenbankdatei in Byte. Diese Metrik ist experimentell und könnte sich in zukünftigen Versionen von Kubernetes ändern. Einheit: Byte Aussagekräftige Statistiken: Summe, Durchschnitt, Minimum, Maximum |
|
|
|
Die Gesamtzahl der API-Anforderungen an den Kubernetes-API-Server. |
|
|
|
Reaktionslatenz für API-Anforderungen an den Kubernetes-API-Server. |
|
|
|
Latenz des Admission Controllers in Sekunden. Ein Admission Controller ist Code, der Anforderungen an den Kubernetes-API-Server abfängt. |
|
|
|
Reaktionslatenz bei Clients, die den Kubernetes-API-Server aufrufen. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Gesamtzahl der API-Anforderungen, die von Clients an den Kubernetes-API-Server gestellt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Antwortlatenz bei API-Aufrufen an Etcd. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Größe der physisch zugewiesenen Speicherdatenbankdatei in Byte. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der aktiven Anforderungen mit langer Laufzeit an den Kubernetes-API-Server. |
|
|
|
Die Anzahl der Anforderungen, die vom Kubernetes-API-Server verarbeitet werden. |
|
|
|
Webhook-Latenz bei der Zulassung in Sekunden. Zulassungs-Webhooks sind HTTP-Callbacks, die ZulassungsAnforderungen empfangen und etwas damit anfangen. |
|
|
|
Latenz der Teilschritte bei der Zulassung in Sekunden. |
|
|
|
Anzahl der Anfragen, die APIs auf dem Kubernetes-API-Server als veraltet gelten. |
|
|
|
Anzahl der Anforderungen an den Kubernetes-API-Server, auf die mit einem 5XX-HTTP-Antwortcode geantwortet wurde. |
|
|
|
Reaktionslatenz beim Auflisten von Objekten aus Etc. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der Threads, die von den aktuell ausgeführten Anforderungen im API-Subsystem Priority and Fairness genutzt werden. |
|
|
|
Anzahl der Anforderungen, die vom API-Subsystem Priority and Fairness abgelehnt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der Anforderungen in der Warteschlange, die vom Kubernetes-API-Server in die Warteschlange gestellt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
NVIDIA-GPU-Metriken
Ab 1.300034.0 der Version des CloudWatch Agenten erfasst Container Insights mit verbesserter Observability für Amazon EKS standardmäßig NVIDIA-GPU-Metriken von EKS-Workloads. Der CloudWatch Agent muss mit der Add-On-Version von CloudWatch Observability EKS oder einer späteren Version v1.3.0-eksbuild.1 installiert werden. Weitere Informationen finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Diese NVIDIA-GPU-Metriken, die erfasst werden, sind in der Tabelle in diesem Abschnitt aufgeführt.
Damit Container Insights NVIDIA-GPU-Metriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Zusatzversion Amazon CloudWatch Observability EKS
v1.3.0-eksbuild.1oder höher verwenden. -
Das NVIDIA-Geräte-Plugin für Kubernetes
muss im Cluster installiert sein. -
Das NVIDIA-Container-Toolkit
muss auf den Knoten des Clusters installiert sein. Beispielsweise AMIs sind die für Amazon EKS optimierten Accelerated mit den erforderlichen Komponenten ausgestattet.
Sie können die Erfassung von NVIDIA-GPU-Metriken deaktivieren, indem Sie die accelerated_compute_metrics Option in der CloudWatch Start-Agent-Konfigurationsdatei auf einstellenfalse. Weitere Informationen sowie ein Beispiel für eine Opt-Out-Konfiguration finden Sie unter (Optional) Zusätzliche Konfiguration.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Gesamtgröße des Frame-Puffers in Byte auf den GPU(s), die dem Container zugewiesen sind. |
|
|
|
Die Bytes des verwendeten Frame-Puffers auf den GPU(s), die dem Container zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Puffers der GPU(s), die dem Container zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU(s), die dem Container zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU(s), die dem Container zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU(s), die dem Container zugewiesen sind. |
|
|
|
Die prozentuale Auslastung der Tensorkerne auf den GPU (s), die dem Container zugewiesen sind. |
|
|
|
Die Gesamtgröße des Frame-Puffers in Byte auf den GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Die Bytes des verwendeten Frame-Puffers auf den GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Puffers auf den GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU(s), die dem Knoten zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU(s), die dem Knoten zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Die prozentuale Auslastung der Tensorkerne auf den GPU (s), die dem Knoten zugewiesen sind. |
|
|
|
Die Gesamtgröße des Frame-Puffers in Byte auf den GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Die Bytes des verwendeten Frame-Puffers auf den GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Puffers der GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU(s), die dem Pod zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU(s), die dem Pod zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Die prozentuale Auslastung der Tensorkerne auf den GPU (s), die dem Pod zugewiesen sind. |
Detaillierte GPU-Überwachung
Ab 1.300062.0 der Version des CloudWatch Agenten unterstützt Container Insights mit verbesserter Observability für Amazon EKS eine detaillierte GPU-Überwachung mit Erfassungsintervallen von unter einer Minute. Dadurch werden Lücken bei der Überwachung von Inferenz-Workloads mit maschinellem Lernen mit kurzer Dauer geschlossen, die in den standardmäßigen Erfassungsintervallen möglicherweise völlig übersehen werden. Der CloudWatch Agent muss mit der Add-On-Version von CloudWatch Observability EKS oder höher installiert werden. v4.7.0-eksbuild.1 Weitere Informationen finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm.
Standardmäßig werden GPU-Metriken in Intervallen von 60 Sekunden gesammelt und aufgenommen. Wenn die detaillierte Überwachung aktiviert ist, erfasst der CloudWatch Agent GPU-Metriken in Intervallen von weniger als einer Minute (mindestens 1 Sekunde). Metriken werden jedoch weiterhin in Intervallen von 1 Minute erfasst. CloudWatch Sie können jedoch statistische Aggregationen (wie Minimum, Maximum und Perzentile wie p90) der Datenpunkte unter einer Minute innerhalb jedes Zeitraums von einer Minute abfragen, um genaue Daten zur GPU-Auslastung und eine bessere Ressourcenoptimierung zu erhalten.
Konfiguration
Um eine detaillierte GPU-Überwachung zu ermöglichen, aktualisieren Sie Ihre CloudWatch Agentenkonfiguration so, dass sie den accelerated_compute_gpu_metrics_collection_interval Parameter in den Abschnitt einbezieht, wie im folgenden Beispiel gezeigt. kubernetes
{ "logs": { "metrics_collected": { "kubernetes": { "cluster_name": "MyCluster", "enhanced_container_insights": true, "accelerated_compute_metrics": true, "accelerated_compute_gpu_metrics_collection_interval": 1 } } } }
Der accelerated_compute_gpu_metrics_collection_interval Parameter akzeptiert Werte in Sekunden mit einem Mindestwert von 1 Sekunde. Wenn Sie ihn auf einstellen, werden Erfassungsintervalle von 1 Sekunde 1 aktiviert. Wenn dieser Parameter nicht angegeben ist, wird das Standardintervall von 60 Sekunden verwendet.
Vollständige Anweisungen zur Konfiguration finden Sie unterDen CloudWatch Agenten für die Erfassung von Cluster-Metriken einrichten.
AWS Neuronenmetriken für AWS Trainium und Inferentia AWS
Ab 1.300036.0 der Version des CloudWatch Agenten erfasst Container Insights mit verbesserter Observability für Amazon EKS standardmäßig beschleunigte Rechenmetriken von AWS
Trainium- und AWS Inferentia-Beschleunigern. Der CloudWatch Agent muss mit der Add-On-Version von CloudWatch Observability EKS oder höher installiert werden. v1.5.0-eksbuild.1 Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu AWS -Trainium finden Sie unter AWS
Trainium
Damit Container Insights AWS Neuron-Metriken sammeln kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Zusatzversion Amazon CloudWatch Observability EKS
v1.5.0-eksbuild.1oder höher verwenden. -
Der Neuron-Treiber
muss auf den Knoten des Clusters installiert sein. -
Das Neuron-Geräte-Plugin
muss auf dem Cluster installiert sein. Beispielsweise AMIs sind die für Amazon EKS optimierten Accelerated mit den erforderlichen Komponenten ausgestattet.
Die Metriken, die erfasst werden, sind in der Tabelle in diesem Abschnitt aufgeführt. Die Metriken werden für AWS Trainium, AWS Inferentia und Inferentia2 gesammelt. AWS
Der CloudWatch Agent sammelt diese Metriken vom Neuron-Monitor und führt die erforderliche Korrelation der Kubernetes-Ressourcen durch, um Metriken auf
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
NeuronCore Nutzung der dem Container NeuronCore zugewiesenen Daten während des erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Menge an Gerätespeicher, die während des Trainings von dem NeuronCore , der dem Container zugewiesen wurde, für Konstanten verwendet wird (oder für Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem, der dem Container zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Container zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem dem Container NeuronCore zugewiesenen Gerät für die Neuron-Laufzeit verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem dem Container NeuronCore zugewiesenen Gerät für Tensoren verwendet wird. Einheit: Byte |
|
|
|
Die Gesamtmenge des Speichers, der von dem dem Container NeuronCore zugewiesenen Speicherplatz verwendet wird. Einheit: Byte |
|
|
|
Die Anzahl der korrigierten und nicht korrigierten ECC-Ereignisse für den On-Chip-SRAM und den Gerätespeicher des Neuron-Geräts auf dem Knoten. Einheit: Anzahl |
|
|
|
Die NeuronCore Auslastung des dem Pod NeuronCore zugewiesenen Zeitraums während des erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Größe des Gerätespeichers, der während des Trainings für Konstanten verwendet wird NeuronCore , die dem Pod zugewiesen wurden (oder für Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem, der dem Pod zugewiesen wurde NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Pod zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem dem Pod NeuronCore zugewiesenen Gerät für die Neuron-Laufzeit verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem dem Pod NeuronCore zugewiesenen Gerät für Tensoren verwendet wird. Einheit: Byte |
|
|
|
Die Gesamtmenge des Speichers, der von dem dem Pod NeuronCore zugewiesenen Speicherplatz verwendet wird. Einheit: Byte |
|
|
|
Die Anzahl der korrigierten und nicht korrigierten ECC-Ereignisse für den On-Chip-SRAM und den Gerätespeicher des Neuron-Geräts, das einem Pod zugewiesen wurde. Einheit: Byte |
|
|
|
Die NeuronCore Auslastung des dem Knoten NeuronCore zugewiesenen Zeitraums während des erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Menge des Gerätespeichers, der während des Trainings für Konstanten verwendet wird NeuronCore , die dem Knoten zugewiesen wurden (oder Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem, der dem Knoten zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Knoten zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von dem, der dem Knoten zugewiesen ist NeuronCore, für die Neuron-Laufzeit verwendet wird. Einheit: Byte |
|
|
|
Die Menge des Gerätespeichers, der von dem für Tensoren verwendet wird NeuronCore , der dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Gesamtmenge des Speichers, der von dem verwendet wird NeuronCore , der dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Gesamtzahl der Ausführungsfehler auf dem Knoten. Dies wird vom CloudWatch Agenten berechnet, indem er die Fehler der folgenden Typen aggregiert: Einheit: Anzahl |
|
|
|
Die gesamte Speicherauslastung des Neuron-Geräts auf dem Knoten in Byte. Einheit: Byte |
|
|
In Sekunden, die Latenz für eine Ausführung auf dem Knoten, gemessen durch die Neuron-Laufzeit. Einheit: Sekunden |
|
|
Die Anzahl der korrigierten und nicht korrigierten ECC-Ereignisse für den On-Chip-SRAM und den Gerätespeicher des Neuron-Geräts auf dem Knoten. Einheit: Anzahl |
AWS Metriken für Elastic Fabric Adapter (EFA)
Ab 1.300037.0 der Version des CloudWatch Agenten sammelt Container Insights mit verbesserter Observability für Amazon EKS AWS Elastic Fabric Adapter (EFA) -Metriken aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der Add-On-Version v1.5.2-eksbuild.1 von CloudWatch Observability EKS oder höher installiert werden. Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu AWS Elastic Fabric Adapter (EFA) finden Sie unter Elastic Fabric Adapter
Damit Container Insights Metriken für AWS Elastic Fabric-Adapter erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Zusatzversion Amazon CloudWatch Observability EKS
v1.5.2-eksbuild.1oder höher verwenden. -
Das EFA-Geräte-Plugin muss auf dem Cluster installiert sein. Weitere Informationen finden Sie unter aws-efa-k8 s-device-plugin
von. GitHub
Die Metriken, die erfasst werden, sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten empfangen werden, die dem Container zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten übertragen werden, die dem Container zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der empfangenen und dann von den EFA-Geräten, die dem Container zugewiesen sind, verworfenen Pakete. Einheit: Anzahl/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte übertragen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die während Schreibvorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten empfangen werden, die dem Pod zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten übertragen werden, die dem Pod zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der empfangenen und dann von den EFA-Geräten, die dem Pod zugewiesen sind, verworfenen Pakete. Einheit: Anzahl/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte übertragen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die während Schreibvorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten empfangen werden, die dem Knoten zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten übertragen werden, die dem Knoten zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der empfangenen und dann von den EFA-Geräten, die dem Knoten zugewiesen sind, verworfenen Pakete. Einheit: Anzahl/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Knoten zugewiesenen EFA-Geräte empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte übertragen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die während Schreibvorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Knoten zugewiesenen EFA-Geräte empfangen wurden. Einheit: Byte/Sekunde |
Amazon SageMaker AI HyperPod -Metriken
Ab v2.0.1-eksbuild.1 der Version des CloudWatch Observability EKS-Add-ons sammelt Container Insights mit verbesserter Observability für Amazon EKS automatisch Amazon SageMaker AI HyperPod Metriken aus Amazon EKS-Clustern. Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu finden Sie Amazon SageMaker AI HyperPod unter. Amazon SageMaker AI
HyperPod
Die Metriken, die erfasst werden, sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Wenn die automatische Knotenwiederherstellung aktiviert ist, wird der Knoten automatisch durch ersetzt Amazon SageMaker AI HyperPod. Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Wenn die automatische Knotenwiederherstellung aktiviert ist, wird der Knoten automatisch von neu gestartet. Amazon SageMaker AI HyperPod Einheit: Anzahl |
Amazon NVMe EBS-Treibermetriken
Ab 1.300056.0 der Version des CloudWatch Agenten erfasst Container Insights mit verbesserter Observability für Amazon EKS automatisch Amazon NVMe EBS-Treibermetriken aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der Add-On-Version von CloudWatch Observability Amazon EKS 4.1.0 oder höher installiert werden. Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu Amazon EBS finden Sie unter Amazon EBS – detaillierte Leistungsstatistiken.
Damit Container Insights Amazon NVMe EBS-Treibermetriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Zusatzversion CloudWatch Observability Amazon EKS
4.1.0oder höher verwenden. -
Das EBS-CSI-Treiber-Add-On
1.42.0der das Helm-Chart müssen auf dem Cluster mit aktivierten Metriken installiert sein.-
Um die Metriken bei Nutzung des Amazon-EBS-CSI-Treiber-Add-Ons zu aktivieren, verwenden Sie beim Erstellen oder Aktualisieren des Add-Ons die folgende Option:
--configuration-values '{ "node": { "enableMetrics": true } }' -
Um die Metriken bei Nutzung des Helm-Charts zu aktivieren, verwenden Sie beim Erstellen oder Aktualisieren des Add-Ons die folgende Option:
--set node.enableMetrics=true
-
Die Metriken, die erfasst werden, sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Gesamtzahl der abgeschlossenen Lesevorgänge. |
|
|
|
Die Gesamtzahl der abgeschlossenen Schreibvorgänge. |
|
|
|
Die Gesamtzahl der übertragenen und gelesenen Bytes. |
|
|
|
Die Gesamtzahl der übertragenen und geschriebenen Bytes. |
|
|
|
Die Gesamtzeit für alle abgeschlossenen Lesevorgänge in Mikrosekunden. |
|
|
|
Die Gesamtzeit für alle abgeschlossenen Schreibvorgänge in Mikrosekunden. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in welcher der IOPS-Bedarf die vom Volume bereitgestellte IOPS-Leistung überstiegen hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in welcher der Durchsatzbedarf die vom Volume bereitgestellte Durchsatzleistung überstiegen hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der das EBS-Volume die maximale IOPS-Leistung der angeschlossenen EC2 Amazon-Instance überschritten hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der das EBS-Volume die maximale Durchsatzleistung der verbundenen EC2 Amazon-Instance überschritten hat. |
|
|
|
Die Anzahl der Lese- und Schreibvorgänge, die auf Abschluss warten. |
