Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Was sind Serviceumgebungen in AWS Batch
Eine Serviceumgebung ist eine AWS Batch Ressource, die die Konfigurationsparameter enthält, die für die Integration AWS Batch mit SageMaker KI erforderlich sind. Serviceumgebungen AWS Batch ermöglichen die Einreichung und Verwaltung von SageMaker Schulungsaufträgen und bieten AWS Batch gleichzeitig Funktionen für Warteschlangen, Terminplanung und Prioritätsverwaltung.
Serviceumgebungen befassen sich mit den allgemeinen Herausforderungen, mit denen Data-Science-Teams bei der Verwaltung von Workloads für maschinelles Lernen konfrontiert sind. Unternehmen begrenzen häufig die Anzahl der Instances, die für Trainingsmodelle zur Verfügung stehen, um versehentliche Mehrausgaben zu verhindern, Budgetbeschränkungen einzuhalten, mit Reserved Instances Kosten zu sparen oder bestimmte Instance-Typen für Workloads zu verwenden. Datenwissenschaftler möchten jedoch möglicherweise mehr Workloads gleichzeitig ausführen, als dies mit den ihnen zugewiesenen Instanzen möglich ist. Daher ist eine manuelle Koordination erforderlich, um zu entscheiden, welche Workloads wann ausgeführt werden.
Diese Koordinationsherausforderung betrifft Unternehmen aller Größen, von Teams mit nur wenigen Datenwissenschaftlern bis hin zu großen Unternehmen. Wenn Unternehmen wachsen, nimmt die Komplexität zu, was mehr Zeit für die Koordination der Arbeitslast in Anspruch nimmt und häufig die Beteiligung des Infrastrukturadministrators erforderlich macht. Dieser manuelle Aufwand verschwendet Zeit und verringert die Effizienz der Instanzen, was zu echten Kosten für die Kunden führt.
In Serviceumgebungen können Datenwissenschaftler und ML-Techniker SageMaker Schulungsaufträge mit Prioritäten in konfigurierbare Warteschlangen eintragen. So wird sichergestellt, dass Workloads automatisch und ohne Eingreifen ausgeführt werden, sobald Ressourcen verfügbar sind. Diese Integration nutzt AWS Batch die umfangreichen Warteschlangen- und Planungsfunktionen, sodass Kunden ihre Warteschlangen- und Planungsrichtlinien an die Ziele ihres Unternehmens anpassen können.
Wie funktionieren Serviceumgebungen mit anderen AWS Batch components
Serviceumgebungen lassen sich in andere AWS Batch Komponenten integrieren, um das Anstellen von SageMaker Trainingsaufträgen in Warteschlangen zu ermöglichen:
-
Auftragswarteschlangen — Serviceumgebungen sind mit Job-Warteschlangen verknüpft, damit die Warteschlange Serviceaufträge für Trainingsaufträge verarbeiten kann SageMaker
-
Serviceaufträge — Wenn Sie einen Serviceauftrag an eine Warteschlange weiterleiten, die einer Serviceumgebung zugeordnet ist, AWS Batch verwendet die Konfiguration der Umgebung, um den entsprechenden SageMaker Schulungsauftrag zu senden
-
Planungsrichtlinien — In Serviceumgebungen werden AWS Batch Planungsrichtlinien verwendet, um die Reihenfolge der Ausführung von SageMaker Schulungsaufträgen zu priorisieren und zu verwalten
Diese Integration ermöglicht es Ihnen, die ausgereiften Warteschlangen- und Planungsfunktionen zu nutzen AWS Batch und gleichzeitig die volle Funktionalität und Flexibilität von SageMaker Schulungsaufträgen beizubehalten.
Bewährte Methoden für Serviceumgebungen
Serviceumgebungen bieten Funktionen für die Verwaltung von SageMaker Schulungsaufträgen in großem Umfang. Wenn Sie diese Best Practices befolgen, können Sie Kosten, Leistung und Betriebseffizienz optimieren und gleichzeitig häufig auftretende Konfigurationsprobleme vermeiden, die sich auf Ihre Workflows für maschinelles Lernen auswirken können.
Berücksichtigen Sie bei der Planung der Kapazität der Serviceumgebung die spezifischen Kontingente und Grenzwerte, die für das Anstehen von SageMaker Schulungsaufträgen in der Warteschlange gelten. Für jede Serviceumgebung gibt es eine maximale Kapazitätsgrenze, die in der Anzahl der Instanzen ausgedrückt wird. Dadurch wird direkt gesteuert, wie viele SageMaker Trainingsaufträge gleichzeitig ausgeführt werden können. Wenn Sie diese Grenzwerte kennen, können Sie Ressourcenkonflikte vermeiden und vorhersehbare Zeiten für die Auftragsausführung sicherstellen.
Die optimale Leistung der Serviceumgebung hängt davon ab, dass Sie die besonderen Merkmale der SageMaker Trainings-Jobplanung verstehen. Im Gegensatz zu herkömmlichen, containerisierten Jobs werden Servicejobs durch einen bestimmten SCHEDULED Bundesstaat verlagert, während SageMaker KI die erforderlichen Schulungsinstanzen beschafft und bereitstellt. Das bedeutet, dass die Startzeiten der Jobs je nach Verfügbarkeit der Instanz und regionaler Kapazität erheblich variieren können.
Wichtig
Für Serviceumgebungen gelten bestimmte Kontingente, die sich auf Ihre Fähigkeit auswirken können, das SageMaker Trainingsaufkommen zu skalieren. Sie können bis zu 50 Serviceumgebungen pro Konto erstellen, wobei jede Auftragswarteschlange nur eine zugeordnete Serviceumgebung unterstützt. Darüber hinaus ist die Nutzlast für Serviceanfragen für einzelne Jobs auf 10 KiB begrenzt, und die SubmitServiceJob API ist auf 5 Transaktionen pro Sekunde pro Konto begrenzt. Wenn Sie diese Grenzwerte bei der Kapazitätsplanung berücksichtigen, werden unerwartete Skalierungseinschränkungen vermieden.
Eine effektive Überwachung von Serviceumgebungen erfordert die Berücksichtigung sowohl der KI-Servicemetriken als AWS Batch auch der SageMaker KI-Servicemetriken. Übergänge zum Jobstatus bieten wertvolle Einblicke in die Systemleistung, insbesondere in die Zeit, die im SCHEDULED Status verbracht wurde, was auf Muster der Kapazitätsverfügbarkeit hindeutet. Serviceumgebungen behalten ihren eigenen Lebenszyklusstatus bei, ähnlich wie Computerumgebungen CREATING VALIDINVALID, und durchlaufen dabei DELETING Zustände, deren Betriebszustand überwacht werden sollte. Unternehmen mit ausgereiften Überwachungspraktiken verfolgen in der Regel die Warteschlangentiefe, die Auftragsabschlussraten und die Muster der Instanzauslastung, um die Konfiguration ihrer Serviceumgebung im Laufe der Zeit zu optimieren.
