View a markdown version of this page

Überwachen Sie die Nutzung von Kapazitätsreservierungen mit CloudWatch Amazon-Metriken - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überwachen Sie die Nutzung von Kapazitätsreservierungen mit CloudWatch Amazon-Metriken

Sie können CloudWatchAmazon-Metriken verwenden, um die Auslastung von Kapazitätsreservierungen im Zusammenhang mit Ihren SageMaker Schulungsplänen zu überwachen. Diese Funktion bietet Zugriff auf historische und Echtzeit-Metriken zur Instance-Nutzung — auf individueller Planebene und für alle Pläne in Ihrem Konto. So können Sie fundierte Entscheidungen über Kapazität und Kosten treffen. Diese Kennzahlen werden direkt in Ihrem Konto veröffentlicht, und der SageMaker Schulungsplan-Service hat keinen Zugriff darauf.

Überlegungen zum Onboarding

Die AWSServiceRoleForSageMakerCapacityReservation serviceverknüpfte Rolle (SLR) muss in Ihrem Konto vorhanden sein, damit Kennzahlen veröffentlicht werden können. Sie müssen die iam:CreateServiceLinkedRole Berechtigung zu Ihrer Kontorolle hinzufügen. SageMaker AI richtet die erforderliche Spiegelreflexkamera automatisch ein, wenn Sie das nächste Mal anrufenCreateTrainingPlan. Sobald die Spiegelreflexkamera eingerichtet ist, stehen CloudWatch Metriken für den Kauf neuer Tarife zur Verfügung.

Die folgende Erklärung muss zu Ihrer IAM-Richtlinie hinzugefügt werden:

{ "Effect": "Allow", "Action": "iam:CreateServiceLinkedRole", "Resource": "*", "Condition": { "StringEquals": { "iam:AWSServiceName": "capacityreservation.sagemaker.amazonaws.com" } } }
Anmerkung

Während das Resource Feld auf "*" (erforderlich fürCreateServiceLinkedRole) gesetzt ist, beschränkt der Condition Block diese Berechtigung darauf, nur die SLR für die SageMaker KI-Kapazitätsreservierung zu erstellen. Wenn die Rolle aus irgendeinem Grund gelöscht wird, wird sie außerdem beim nächsten CreateTrainingPlan Aufruf über die API oder die Konsole neu erstellt.

Manuelles Erstellen einer serviceverknüpften Rolle

Sie können die Spiegelreflexkamera auch mithilfe von erstellen, AWS CLI anstatt sich bei der Einrichtung auf SageMaker KI zu verlassen, indem Sie den folgenden Befehl ausführen:

aws iam create-service-linked-role --aws-service-name capacityreservation.sagemaker.amazonaws.com

Mit diesem Befehl wird die AWSServiceRoleForSageMakerCapacityReservation Rolle in Ihrem Konto erstellt. Weitere Informationen zu serviceverknüpften Rollen finden Sie unter Verwenden serviceverknüpfter Rollen.

Wichtig

Der Service beginnt erst mit der Veröffentlichung der Metriken, nachdem SLR erstellt wurde. In den Plänen, die vor der Erstellung von SLR gekauft wurden, werden keine älteren Nutzungsdaten angezeigt. CloudWatch

Kennzahlen zur Kapazitätsreservierung und Nutzung

SageMaker AI veröffentlicht die folgenden Metriken im aws/sagemaker/CapacityReservations Namespace.

Metrik Beschreibung
UsedInstanceCount Die Anzahl der Instances, die derzeit verwendet werden. Einheit: Anzahl
AvailableInstanceCount Die Anzahl der verfügbaren Instances. Einheit: Anzahl
TotalInstanceCount Die Gesamtzahl der Instanzen in Ihrem Trainingsplan. Einheit: Anzahl
InstanceUtilization Der Prozentsatz der Instances für reservierte Kapazität, die derzeit verwendet werden. Einheit: Prozent

Abmessungen der Metrik zur Kapazitätsreservierung

Sie können die folgenden Dimensionen verwenden, um die Metriken zu filtern.

Dimension Description
ReservationName Filtert Metriken nach dem Namen.
ComponentType Filtert Metriken nach SageMaker KI-Komponenten, z. B. einem SageMaker HyperPod Cluster, einem Trainingsjob, einem Inferenzendpunkt oder einer Studio-App.
AvailabilityZone Filtert Metriken nach Availability Zone.
InstanceType Filtert Metriken nach Instanztyp.
ReservationType Filtert Metriken nach Reservierungstyp (TrainingPlan).

CloudWatch Amazon-Metriken für Kapazitätsreservierungen anzeigen

Sie können Kennzahlen zur Kapazitätsreservierung über die CloudWatch Amazon-Konsole oder die anzeigen AWS CLI.

So zeigen Sie Kennzahlen zur Kapazitätsreservierung über die CloudWatch Amazon-Konsole an
  1. Öffnen Sie die CloudWatch Konsole unter https://console.aws.amazon.com/cloudwatch/.

  2. Wählen Sie im Navigationsbereich Metriken und dann Alle Metriken aus.

  3. Wählen Sie den Namespace aws/sagemaker/CapacityReservations aus.

  4. Wählen Sie eine Metrikdimension aus, nach der gefiltert werden soll.

  5. Aktivieren Sie das Kontrollkästchen neben einer Metrik, um sie grafisch darzustellen.

Führen Sie den folgenden Befehl aus AWS CLI, um die verfügbaren Metriken mithilfe von aufzulisten:

aws cloudwatch list-metrics --namespace "aws/sagemaker/CapacityReservations"