View a markdown version of this page

Ausführung von Jobs auf SageMaker HyperPod Clustern, die von Amazon EKS orchestriert werden - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Ausführung von Jobs auf SageMaker HyperPod Clustern, die von Amazon EKS orchestriert werden

Die folgenden Themen enthalten Verfahren und Beispiele für den Zugriff auf Rechenknoten und die Ausführung von ML-Workloads auf bereitgestellten SageMaker HyperPod Clustern, die mit Amazon EKS orchestriert wurden. Je nachdem, wie Sie die Umgebung auf Ihrem HyperPod Cluster eingerichtet haben, gibt es viele Möglichkeiten, ML-Workloads auf Clustern auszuführen. HyperPod

Anmerkung

Wenn Sie Jobs über die SageMaker HyperPod CLI oder Kubectl ausführen, HyperPod können Sie die Rechenauslastung (GPU/CPU Stunden) über Namespaces (Teams) hinweg verfolgen. Diese Kennzahlen liefern Berichte zum Stromverbrauch, die Folgendes bieten:

  • Transparenz hinsichtlich des Verbrauchs zugewiesener und ausgeliehener Ressourcen

  • Nutzung der Ressourcen durch Teams für Audits (bis zu 180 Tage)

  • Die Kostenzuweisung entspricht den Richtlinien zur Aufgabenverwaltung

Um Nutzungsberichte verwenden zu können, müssen Sie die Infrastruktur für Nutzungsberichte installieren. Wir empfehlen dringend, Task Governance so zu konfigurieren, dass Rechenkontingente durchgesetzt und eine detaillierte Kostenzuweisung ermöglicht wird.

Weitere Informationen zum Einrichten und Generieren von Nutzungsberichten finden Sie unter Berichterstattung über die Computernutzung in. HyperPod

Tipp

Für praktische Erfahrungen und Anleitungen zur Einrichtung und Verwendung eines mit Amazon EKS orchestrierten SageMaker HyperPod Clusters empfehlen wir, diesen Amazon EKS Support-Workshop zu besuchen. SageMaker HyperPod

Benutzer von Datenwissenschaftlern können grundlegende Modelle trainieren, indem sie den EKS-Clustersatz als Orchestrator für den Cluster verwenden. SageMaker HyperPod Wissenschaftler nutzen die SageMaker HyperPod CLI und die nativen kubectl Befehle, um verfügbare SageMaker HyperPod Cluster zu finden, Trainingsjobs (Pods) einzureichen und ihre Workloads zu verwalten. Die SageMaker HyperPod CLI ermöglicht die Einreichung von Jobs mithilfe einer Schemadatei für Schulungsjobs und bietet Funktionen für die Anzeige, Beschreibung, Stornierung und Ausführung von Stellenangeboten. Wissenschaftler können Kubeflow Training Operator gemäß den von ihr verwalteten Rechenquoten verwenden HyperPod, und SageMaker AI-managed MLflow zur Verwaltung von ML-Experimenten und Trainingsläufen.