Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Amazon EKS und Kubernetes Container Insights mit verbesserten Beobachtbarkeitsmetriken
In den folgenden Tabellen sind die Metriken und Dimensionen aufgeführt, die Container Insights with enhanced Observability für Amazon EKS und Kubernetes erfasst. Diese Metriken befinden sich im ContainerInsights-Namespace. Weitere Informationen finden Sie unter Metriken.
Wenn Sie in Ihrer Konsole keine Container Insights mit erweiterten Observabilitäts-Metriken sehen, stellen Sie sicher, dass Sie die Einrichtung von Container Insights mit verbesserter Observability abgeschlossen haben. Metriken werden erst angezeigt, wenn Container Insights mit verbesserter Observability vollständig eingerichtet wurde. Weitere Informationen finden Sie unter Einrichten von Container Insights.
Wenn Sie Version 1.5.0 oder höher des Amazon EKS-Add-ons oder Version 1.300035.0 des CloudWatch Agenten verwenden, werden die meisten in der folgenden Tabelle aufgeführten Metriken sowohl für Linux- als auch für Windows-Knoten erfasst. In der Spalte Metrikname der Tabelle können Sie sehen, welche Metriken für Windows nicht erfasst werden.
In der früheren Version von Container Insights, die aggregierte Metriken auf Cluster- und Serviceebene bereitstellt, werden die Metriken als benutzerdefinierte Metriken berechnet. Bei Container Insights mit verbesserter Beobachtbarkeit für Amazon EKS werden die Container-Insights-Metriken pro Beobachtung abgerechnet, anstatt pro gespeicherter Metrik oder aufgenommenem Protokoll. Weitere Informationen zur CloudWatch Preisgestaltung finden Sie unter CloudWatchAmazon-Preise
Anmerkung
Unter Windows pod_network_tx_bytes werden Netzwerkmetriken wie pod_network_rx_bytes und nicht für Host-Prozesscontainer erfasst.
RedHat OpenShift Auf Clustern AWS (ROSA) werden Diskio-Metriken wie node_diskio_io_serviced_total und nicht node_diskio_io_service_bytes_total erfasst.
| Metrikname | Dimensionen | Beschreibung |
|---|---|---|
|
|
|
Die Anzahl der fehlgeschlagenen Workerknoten im Cluster. Ein Knoten gilt als ausgefallen, wenn er unter Knotenbedingungen leidet. Weitere Informationen finden Sie unter Bedingungen |
|
|
|
Die Gesamtzahl der Workerknoten im Cluster. |
|
|
|
Die Anzahl der Pods, die pro Namespace in der Ressource ausgeführt werden, die durch die von Ihnen verwendeten Dimensionen angegeben wird. |
|
|
|
Die maximale Anzahl der CPU-Einheiten, die einem einzelnen Knoten in diesem Cluster zugewiesen werden können. |
|
|
|
Der Prozentsatz der CPU-Einheiten, die für Knotenkomponenten, wie z. B. kubelet, kube-proxy und Docker, reserviert sind. Formel: Anmerkung
|
|
|
|
Die Anzahl der CPU-Einheiten, die auf den Knoten im Cluster verwendet werden. |
|
|
|
Der Gesamtprozentsatz der CPU-Einheiten, die auf den Knoten im Cluster verwendet werden. Formel: |
|
|
|
Der Gesamtprozentsatz der Dateisystemkapazität, die auf den Knoten im Cluster verwendet wird. Formel: Anmerkung
|
|
|
|
Die maximale Menge an Arbeitsspeicher in Byte, die einem einzelnen Knoten in diesem Cluster zugewiesen werden kann. |
|
Sie ist unter Windows nicht verfügbar. |
|
Die Gesamtzahl der inodes (verwendet und unbenutzt) auf einem Knoten. |
|
Es ist unter Windows nicht verfügbar. |
|
Die Anzahl der ungenutzten inodes auf einem Knoten. |
|
|
|
Die Gesamtzahl der auf dem Knoten verfügbaren GPU (s). |
|
|
|
Die Anzahl der GPU (s), die von den laufenden Pods auf dem Knoten verwendet werden. |
|
|
|
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit auf den Knoten im Cluster verwendet wird. Formel: Anmerkung
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit vom Knoten oder den Knoten verwendet wird. Dies ist der Prozentsatz der Knotenspeichernutzung geteilt durch die Knotenspeicherbegrenzung. Formel: |
|
|
|
Die Menge an Arbeitsspeicher in Byte, die im arbeitenden Satz der Knoten im Cluster verwendet wird. |
|
|
|
Die Gesamtzahl der pro Knoten in einem Cluster über das Netzwerk gesendeten und empfangenen Bytes pro Sekunde. Formel: Anmerkung
|
|
|
|
Die Anzahl der pro Knoten in einem Cluster ausgeführten Container. |
|
|
|
Die Anzahl der pro Knoten in einem Cluster ausgeführten Pods. |
|
|
|
Die Anzahl der Pods, die einem Knoten auf der Grundlage seiner zuweisbaren Ressourcen zugewiesen werden können. Diese ist definiert als die verbleibende Kapazität eines Knotens nach Berücksichtigung der Reservierungen von System-Daemons und der harten Schwellenwerte für die Bereinigung. |
|
|
|
Die Anzahl der Pods, die einem Knoten basierend auf seiner Kapazität zugewiesen werden können. |
|
|
|
Gibt an, ob die Knotenstatusbedingung für EC2 Amazon-Knoten wahr |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Gibt an, ob eine der Knotenstatusbedingungen Unbekannt ist. |
|
|
|
Die Anzahl der Pakete, die von einer Netzwerkschnittstelle auf dem Knoten empfangen und anschließend verworfen wurden. |
|
|
|
Die Anzahl der Pakete, die übertragen werden sollten, aber von einer Netzwerkschnittstelle auf dem Knoten verworfen wurden. |
|
Sie ist unter Windows oder auf ROSA-Clustern nicht verfügbar. |
|
Die Gesamtzahl der Byte, die durch alle I/O Operationen auf dem Knoten übertragen wurden. |
|
Sie ist unter Windows oder auf ROSA-Clustern nicht verfügbar. |
|
Die Gesamtzahl der I/O Operationen auf dem Knoten. |
|
|
|
Die CPU-Kapazität, die pro Pod in einem Cluster reserviert ist. Formel: Anmerkung
|
|
|
|
Der Prozentsatz der CPU-Einheiten, die von Pods verwendet werden. Formel: |
|
|
|
Der Prozentsatz der CPU-Einheiten, die von Pods im Verhältnis zum Pod-Limit verwendet werden. Formel: |
|
|
|
Der Prozentsatz des Arbeitsspeichers, der für Pods reserviert ist. Formel: Anmerkung
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit vom Pod oder Pods verwendet wird. Formel: |
|
|
|
Der Prozentsatz des Arbeitsspeichers, der von den Pods im Verhältnis zum Pod-Limit verwendet wird. Wenn für keinen der Container im Pod ein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: |
|
|
|
Die Anzahl der Bytes pro Sekunde, die vom Pod über das Netzwerk empfangen werden. Formel: Anmerkung
|
|
|
|
Die Anzahl der Bytes pro Sekunde, die vom Pod über das Netzwerk übertragen werden. Formel: Anmerkung
|
|
|
|
Die CPU-Anfragen für den Pod. Formel: Anmerkung
|
|
|
|
Die Speicheranfragen für den Pod. Formel: Anmerkung
|
|
|
|
Das für die Container im Pod definierte CPU-Limit. Wenn für keinen der Container im Pod ein CPU-Limit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Das für die Container im Pod definierte Speicherlimit. Wenn für keinen der Container im Pod ein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Zeigt an, dass alle Container im Pod beendet wurden und mindestens ein Container mit einem Status ungleich Null beendet wurde oder vom System beendet wurde. |
|
|
|
Zeigt an, dass alle Container im Pod bereit sind, da sie den Zustand |
|
|
|
Zeigt an, dass alle Container im Pod laufen. |
|
|
|
Zeigt an, dass der Pod für einen Knoten geplant wurde. |
|
|
|
Zeigt an, dass der Status des Pods nicht abgerufen werden kann. |
|
|
|
Zeigt an, dass der Pod vom Cluster akzeptiert wurde, aber einer oder mehrere Container noch nicht bereit sind. |
|
|
|
Zeigt an, dass alle Container im Pod erfolgreich beendet wurden und nicht neu gestartet werden. |
|
|
|
Meldet die Anzahl der Container, die in der Pod-Spezifikation definiert sind. |
|
|
|
Meldet die Anzahl der Container im Pod, die sich derzeit im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die aufgrund eines |
|
|
|
Meldet die Anzahl der Container im Pod, die noch ausstehen, mit Angabe des Grundes |
|
|
|
Meldet die Anzahl der Container im Pod, die |
|
|
|
Meldet die Anzahl der Container im Pod, die aufgrund von |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im |
|
|
|
Meldet die Anzahl der Container im Pod, die noch ausstehen. Der |
|
|
|
Zeigt an, dass ein Pod wegen Überschreitung des Speicherlimits beendet wurde. Diese Metrik wird nur angezeigt, wenn dieses Problem auftritt. |
|
|
|
Die Anzahl der Pakete, die von einer Netzwerkschnittstelle für den Pod empfangen und anschließend verworfen wurden. |
|
|
|
Die Anzahl der Pakete, die übertragen werden sollten, aber für den Pod verworfen wurden. |
|
|
Der Speicher in Byte, der derzeit von einem Pod verwendet wird. |
|
|
Die Anzahl der CPU-Einheiten, die von einem Pod verwendet werden. |
|
|
|
Der Prozentsatz der CPU-Einheiten, die vom Container verwendet werden. Formel: Anmerkung
|
|
|
|
Der Prozentsatz der CPU-Einheiten, die vom Container im Verhältnis zum Container-Limit verwendet werden. Wenn für den Container kein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Prozentsatz der Speichereinheiten, die vom Container verwendet werden. Formel: Anmerkung
|
|
|
|
Prozentsatz der vom Container benutzten Speichereinheiten im Verhältnis zum Container-Limit. Wenn für den Container kein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
Sie ist unter Windows nicht verfügbar. |
|
Die Anzahl der Fehler bei der Speicherzuweisung, die beim Container aufgetreten sind. |
|
|
PodName, |
Die Gesamtanzahl der Container-Neustarts in einem Pod. |
|
|
Service
|
Die Anzahl der Pods, von denen der Service oder die Services im Cluster ausgeführt werden. |
|
|
|
Die Anzahl der Pods, die für einen Workload gewünscht werden, wie in der Workload-Spezifikation definiert. |
|
|
|
Die Anzahl der Pods für einen Workload, die den Status Bereit erreicht haben. |
|
|
|
Die Anzahl der verfügbaren Pods für einen Workload. Ein Pod ist verfügbar, wenn er für die in der Workload-Spezifikation definierten |
|
|
|
Die Anzahl der Pods für einen Workload, die nicht verfügbar sind. Ein Pod ist verfügbar, wenn er für die in der Workload-Spezifikation definierten |
|
|
|
Die Anzahl der zum Zeitpunkt der letzten Prüfung in etcd gespeicherten Objekte. |
|
|
|
Gesamtgröße der physisch zugewiesenen Speicherdatenbankdatei in Byte. Diese Metrik ist experimentell und könnte sich in future Versionen von Kubernetes ändern. Einheit: Byte Aussagekräftige Statistiken: Summe, Durchschnitt, Minimum, Maximum |
|
|
|
Die Gesamtzahl der API-Anfragen an den Kubernetes-API-Server. |
|
|
|
Reaktionslatenz für API-Anfragen an den Kubernetes-API-Server. |
|
|
|
Latenz des Admission Controllers in Sekunden. Ein Admission Controller ist Code, der Anfragen an den Kubernetes-API-Server abfängt. |
|
|
|
Reaktionslatenz bei Clients, die den Kubernetes-API-Server aufrufen. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Gesamtzahl der API-Anfragen, die von Clients an den Kubernetes-API-Server gestellt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Antwortlatenz bei API-Aufrufen an Etcd. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Größe der physisch zugewiesenen Speicherdatenbankdatei in Byte. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der aktiven Anfragen mit langer Laufzeit an den Kubernetes-API-Server. |
|
|
|
Die Anzahl der Anfragen, die vom Kubernetes-API-Server verarbeitet werden. |
|
|
|
Webhook-Latenz bei der Zulassung in Sekunden. Zulassungs-Webhooks sind HTTP-Callbacks, die Zulassungsanfragen empfangen und etwas damit anfangen. |
|
|
|
Latenz der Teilschritte bei der Zulassung in Sekunden. |
|
|
|
Anzahl der Anfragen, die APIs auf dem Kubernetes-API-Server als veraltet gelten. |
|
|
|
Anzahl der Anfragen an den Kubernetes-API-Server, auf die mit einem 5XX-HTTP-Antwortcode geantwortet wurde. |
|
|
|
Antwortlatenz beim Auflisten von Objekten aus Etc. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der Threads, die von den aktuell ausgeführten Anfragen im API-Subsystem Priority and Fairness verwendet werden. |
|
|
|
Anzahl der Anfragen, die vom API-Subsystem Priority and Fairness abgelehnt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der Anfragen in der Warteschlange, die vom Kubernetes-API-Server in die Warteschlange gestellt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
NVIDIA GPU-Metriken
Ab 1.300034.0 der Version des CloudWatch Agenten erfasst Container Insights mit verbesserter Observability für Amazon EKS standardmäßig NVIDIA-GPU-Metriken von EKS-Workloads. Der CloudWatch Agent muss mit der Add-On-Version v1.3.0-eksbuild.1 von CloudWatch Observability EKS oder höher installiert werden. Weitere Informationen finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Diese gesammelten NVIDIA-GPU-Metriken sind in der Tabelle in diesem Abschnitt aufgeführt.
Damit Container Insights NVIDIA-GPU-Metriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Amazon CloudWatch Observability EKS-Add-On-Version
v1.3.0-eksbuild.1oder höher verwenden.Das NVIDIA-Geräte-Plugin für Kubernetes
muss im Cluster installiert sein. Das NVIDIA-Container-Toolkit
muss auf den Knoten des Clusters installiert sein. Beispielsweise AMIs sind die für Amazon EKS optimierten Accelerated mit den erforderlichen Komponenten ausgestattet.
Sie können die Erfassung von NVIDIA-GPU-Metriken deaktivieren, indem Sie die accelerated_compute_metrics Option in der CloudWatch Start-Agent-Konfigurationsdatei auf einstellenfalse. Weitere Informationen und ein Beispiel für eine Opt-Out-Konfiguration finden Sie unter(Optional) Zusätzliche Konfiguration.
| Metrikname | Dimensionen | Beschreibung |
|---|---|---|
|
|
|
Die Gesamtgröße des Frame-Buffers in Byte auf den GPU (s), die dem Container zugewiesen sind. |
|
|
|
Die Byte des Frame-Buffers, die auf den GPU (s) verwendet werden, die dem Container zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Buffers von den GPU (s), die dem Container zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU (s), die dem Container zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU (s), die dem Container zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU (s), die dem Container zugewiesen sind. |
|
|
|
Die Gesamtgröße des Frame-Buffers in Byte auf den GPU (s), die dem Knoten zugewiesen sind. |
|
|
|
Die Byte des Frame-Buffers, der auf den GPU (s) verwendet wird, die dem Knoten zugewiesen sind. |
|
|
|
Der Prozentsatz des Frame-Buffers, der auf den GPU (s) verwendet wird, die dem Knoten zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU (s), die dem Knoten zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der dem Knoten zugewiesenen GPU (s) in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU (s), die dem Knoten zugewiesen sind. |
|
|
|
Die Gesamtgröße des Frame-Buffers in Byte auf den GPU (s), die dem Pod zugewiesen sind. |
|
|
|
Die Byte des Frame-Buffers, der auf den GPU (s) verwendet wird, die dem Pod zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Buffers der GPU (s), die dem Pod zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU (s), die dem Pod zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU (s), die dem Pod zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU (s), die dem Pod zugewiesen sind. |
AWS Neuronenmetriken für AWS Trainium und Inferentia AWS
Ab 1.300036.0 der Version des CloudWatch Agenten erfasst Container Insights mit verbesserter Observability für Amazon EKS standardmäßig beschleunigte Rechenmetriken von AWS Trainium- und AWS Inferentia-Beschleunigern. Der CloudWatch Agent muss mit der Add-On-Version von CloudWatch Observability EKS oder höher installiert werden. v1.5.0-eksbuild.1 Weitere Informationen zum Add-on finden Sie unterInstallieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu AWS Trainium finden Sie AWS unter Trainium.
Damit Container Insights AWS Neuron-Metriken sammeln kann, müssen Sie die folgenden Voraussetzungen erfüllen:
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Amazon CloudWatch Observability EKS-Add-On-Version
v1.5.0-eksbuild.1oder höher verwenden.Der Neuron-Treiber muss auf
den Knoten des Clusters installiert sein. Das Neuron-Geräte-Plugin
muss auf dem Cluster installiert sein. Beispielsweise AMIs sind die für Amazon EKS optimierten Accelerated mit den erforderlichen Komponenten ausgestattet.
Die gesammelten Metriken sind in der Tabelle in diesem Abschnitt aufgeführt. Die Metriken werden für AWS Trainium, AWS Inferentia und Inferentia2 gesammelt. AWS
Der CloudWatch Agent sammelt diese Metriken vom Neuron-Monitor und führt die erforderliche Korrelation der Kubernetes-Ressourcen durch, um Metriken auf
| Metrikname | Dimensionen | Beschreibung |
|---|---|---|
|
|
|
NeuronCore Nutzung der dem Container NeuronCore zugewiesenen Daten während des erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Menge an Gerätespeicher, die während des Trainings von dem NeuronCore , der dem Container zugewiesen wurde, für Konstanten verwendet wird (oder für Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem, der dem Container zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Container zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die für die Neuron-Laufzeit von den dem Container NeuronCore zugewiesenen Geräten verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem dem Container NeuronCore zugewiesenen Gerät für Tensoren verwendet wird. Einheit: Byte |
|
|
|
Die Gesamtmenge des Speichers, der von dem dem Container NeuronCore zugewiesenen Speicherplatz verwendet wird. Einheit: Byte |
|
|
|
Die Anzahl der korrigierten und unkorrigierten ECC-Ereignisse für das chipinterne SRAM und den Gerätespeicher des Neuron-Geräts auf dem Knoten. Einheit: Anzahl |
|
|
|
Die NeuronCore Nutzung der dem Pod zugewiesenen Daten während des NeuronCore erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Größe des Gerätespeichers, der während des Trainings für Konstanten verwendet wird NeuronCore , die dem Pod zugewiesen wurden (oder für Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem, der dem Pod zugewiesen wurde NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Pod zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die für die Neuron-Laufzeit von dem dem Pod NeuronCore zugewiesenen Gerät verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem dem Pod NeuronCore zugewiesenen Gerät für Tensoren verwendet wird. Einheit: Byte |
|
|
|
Die Gesamtmenge des Speichers, der von dem dem Pod NeuronCore zugewiesenen Speicherplatz verwendet wird. Einheit: Byte |
|
|
|
Die Anzahl der korrigierten und unkorrigierten ECC-Ereignisse für das chipinterne SRAM und den Gerätespeicher des Neuron-Geräts, das einem Pod zugewiesen ist. Einheit: Byte |
|
|
|
Die NeuronCore Auslastung des dem Knoten zugewiesenen Zeitraums während des NeuronCore erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Menge des Gerätespeichers, der während des Trainings für Konstanten verwendet wird NeuronCore , die dem Knoten zugewiesen wurden (oder Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der von dem, der dem Knoten zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Knoten zugewiesen ist. Dies ist ein Speicherbereich, der für die Modelle reserviert ist. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die für die Neuron-Laufzeit von dem verwendet wird NeuronCore , der dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Menge des Gerätespeichers, der von dem für Tensoren verwendet wird NeuronCore , der dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Gesamtmenge des Speichers, der von dem verwendet wird NeuronCore , der dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Gesamtzahl der Ausführungsfehler auf dem Knoten. Dies wird vom CloudWatch Agenten berechnet, indem er die Fehler der folgenden Typen aggregiert: Einheit: Anzahl |
|
|
|
Die gesamte Speichernutzung des Neuron-Geräts auf dem Knoten in Byte. Einheit: Byte |
|
|
In Sekunden, die Latenz für eine Ausführung auf dem Knoten, gemessen anhand der Neuron-Laufzeit. Einheit: Sekunden |
|
|
Die Anzahl der korrigierten und unkorrigierten ECC-Ereignisse für das chipinterne SRAM und den Gerätespeicher des Neuron-Geräts auf dem Knoten. Einheit: Anzahl |
AWS Metriken für Elastic Fabric Adapter (EFA)
Ab 1.300037.0 der Version des CloudWatch Agenten sammelt Container Insights mit verbesserter Observability für Amazon EKS AWS Elastic Fabric Adapter (EFA) -Metriken aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der CloudWatch Observability EKS-Add-On-Version v1.5.2-eksbuild.1 oder höher installiert werden. Weitere Informationen zum Add-on finden Sie unterInstallieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zum AWS Elastic Fabric Adapter finden Sie unter Elastic Fabric Adapter
Damit Container Insights Metriken für AWS Elastic Fabric-Adapter sammeln kann, müssen Sie die folgenden Voraussetzungen erfüllen:
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Amazon CloudWatch Observability EKS-Add-On-Version
v1.5.2-eksbuild.1oder höher verwenden.Das EFA-Geräte-Plugin muss auf dem Cluster installiert sein. Weitere Informationen finden Sie unter aws-efa-ks-device-plugin8.
GitHub
Die gesammelten Metriken sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Beschreibung |
|---|---|---|
|
|
|
Die Anzahl der Byte pro Sekunde, die von den dem Container zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die von den dem Container zugewiesenen EFA-Geräten übertragen werden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Pakete, die von den dem Container zugewiesenen EFA-Geräten empfangen und dann verworfen wurden. Einheit: Zählung/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Fernzugriff auf den Speicher von den dem Container zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Fernzugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte übertragen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die bei Schreibvorgängen mit direktem Fernzugriff auf den Speicher von den dem Container zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die von den dem Pod zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die von den dem Pod zugewiesenen EFA-Geräten übertragen werden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Pakete, die von den dem Pod zugewiesenen EFA-Geräten empfangen und dann verworfen wurden. Einheit: Zählung/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Fernzugriff auf den Speicher von den EFA-Geräten empfangen wurden, die dem Pod zugewiesen sind. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Fernzugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte übertragen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die bei Schreibvorgängen mit direktem Fernzugriff auf den Speicher von den dem Pod zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die von den dem Knoten zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die von den dem Knoten zugewiesenen EFA-Geräten übertragen werden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Pakete, die von den dem Knoten zugewiesenen EFA-Geräten empfangen und dann verworfen wurden. Einheit: Zählung/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die durch Lesevorgänge mit direktem Fernzugriff auf den Speicher von den dem Knoten zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Fernzugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte übertragen wurden. Einheit: Byte/Sekunde |
|
|
|
Die Anzahl der Byte pro Sekunde, die bei Schreibvorgängen mit direktem Fernzugriff auf den Speicher von den dem Knoten zugewiesenen EFA-Geräten empfangen wurden. Einheit: Byte/Sekunde |
Amazon SageMaker AI HyperPod Metriken
Ab v2.0.1-eksbuild.1 der Version des CloudWatch Observability EKS-Add-ons sammelt Container Insights mit verbesserter Observability für Amazon EKS automatisch Amazon SageMaker AI HyperPod Metriken aus Amazon EKS-Clustern. Weitere Informationen zum Add-on finden Sie unter. Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm Mehr über Amazon SageMaker AI HyperPod erfahren Sie unter Amazon SageMaker AI HyperPod.
Die gesammelten Metriken sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Beschreibung |
|---|---|---|
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Wenn die automatische Knotenwiederherstellung aktiviert ist, wird der Knoten automatisch durch ersetzt Amazon SageMaker AI HyperPod. Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten mit der Bezeichnung Wenn die automatische Knotenwiederherstellung aktiviert ist, wird der Knoten automatisch von neu gestartet. Amazon SageMaker AI HyperPod Einheit: Anzahl |
Amazon NVMe EBS-Treibermetriken
Ab 1.300056.0 der Version des CloudWatch Agenten erfasst Container Insights mit verbesserter Observability für Amazon EKS automatisch Amazon NVMe EBS-Treibermetriken aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der Add-On-Version von CloudWatch Observability Amazon EKS 4.1.0 oder höher installiert werden. Weitere Informationen zum Add-on finden Sie unterInstallieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu Amazon EBS finden Sie in den detaillierten Leistungsstatistiken von Amazon EBS.
Damit Container Insights Amazon NVMe EBS-Treibermetriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Zusatzversion CloudWatch Observability Amazon EKS
4.1.0oder höher verwenden.Das
1.42.0EBS-CSI-Treiber-Add-on oder das Helm-Diagramm müssen auf dem Cluster mit aktivierten Metriken installiert sein.Um die Metriken zu aktivieren, wenn Sie das Amazon EBS CSI-Treiber-Add-on verwenden, verwenden Sie die folgende Option, wenn Sie das Add-on erstellen oder aktualisieren.
--configuration-values '{ "node": { "enableMetrics": true } }'Um die Metriken zu aktivieren, wenn Sie Helm Chart verwenden, verwenden Sie die folgende Option, wenn Sie das Add-on erstellen oder aktualisieren.
--set node.enableMetrics=true
Die gesammelten Metriken sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Beschreibung |
|---|---|---|
|
|
|
Die Gesamtzahl der abgeschlossenen Lesevorgänge. |
|
|
|
Die Gesamtzahl der abgeschlossenen Schreibvorgänge. |
|
|
|
Die Gesamtzahl der übertragenen Lesebytes. |
|
|
|
Die Gesamtzahl der übertragenen Schreibbytes. |
|
|
|
Die Gesamtzeit, die für alle abgeschlossenen Lesevorgänge aufgewendet wurde, in Mikrosekunden. |
|
|
|
Die Gesamtzeit, die für alle abgeschlossenen Schreibvorgänge aufgewendet wurde, in Mikrosekunden. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der der IOPS-Bedarf die vom Volume bereitgestellte IOPS-Leistung überstieg. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der der Durchsatzbedarf die für das Volume bereitgestellte Durchsatzleistung überschritten hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der das EBS-Volume die maximale IOPS-Leistung der angeschlossenen EC2 Amazon-Instance überschritten hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der das EBS-Volume die maximale Durchsatzleistung der verbundenen EC2 Amazon-Instance überschritten hat. |
|
|
|
Die Anzahl der Lese- und Schreibvorgänge, die darauf warten, abgeschlossen zu werden. |
