Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Schritt 2: Starten Sie einen Trainingsjob mithilfe des SageMaker Python-SDK

Das SageMaker Python-SDK unterstützt das verwaltete Training von Modellen mit ML-Frameworks wie TensorFlow und PyTorch. Um einen Trainingsjob mit einem dieser Frameworks zu starten, definieren Sie einen Schätzer, einen SageMaker TensorFlow Schätzer oder einen SageMaker generischen SageMaker PyTorch Estimator, um das modifizierte Trainingsskript und die Konfiguration der Modellparallelität zu verwenden.

PyTorch Verwenden der und Estimators SageMaker TensorFlow

Die Klassen TensorFlow und PyTorch Estimator enthalten den distribution Parameter, mit dem Sie Konfigurationsparameter für die Verwendung verteilter Trainingsframeworks angeben können. Die SageMaker Modellparallelbibliothek verwendet intern MPI für Hybriddaten und Modellparallelität, daher müssen Sie die MPI-Option zusammen mit der Bibliothek verwenden.

Die folgende Vorlage eines TensorFlow PyTorch OR-Schätzers zeigt, wie der distribution Parameter für die Verwendung der SageMaker Modellparallelbibliothek mit MPI konfiguriert wird.

import sagemaker
from sagemaker.train import ModelTrainer
from sagemaker.train.configs import SourceCode, Compute
from sagemaker.train.distributed import Torchrun
from sagemaker.core.helper.session_helper import get_execution_role
from sagemaker.core import image_uris

training_image = image_uris.retrieve(
    framework="tensorflow", region=region, version='2.6.3',
    py_version='py38', instance_type='ml.p3.16xlarge',
    image_scope="training"
)

smd_mp_model_trainer = ModelTrainer(
    source_code=SourceCode(entry_script="your_training_script.py", source_dir="location_to_your_script"),
    role=get_execution_role(),
    compute=Compute(instance_count=1, instance_type='ml.p3.16xlarge'),
    training_image=training_image,
    distributed=Torchrun(),
    base_job_name="SMD-MP-demo",
)

smd_mp_model_trainer.train('s3://my_bucket/my_training_data/')

Um die Bibliothek zu aktivieren, müssen Sie Konfigurationswörterbücher über das distribution Argument der "smdistributed" Schätzkonstruktoren an die "mpi" Schlüssel und übergeben. SageMaker

Um den Trainingsjob mithilfe des Schätzers und Ihres parallel konfigurierten SageMaker Modell-Trainingsskripts zu starten, führen Sie die estimator.fit() Funktion aus.

Verwenden Sie die folgenden Ressourcen, um mehr über die Verwendung der Modellparallelitätsfunktionen im Python-SDK zu erfahren: SageMaker

Erweitern Sie einen Pre-built Docker-Container, der die SageMaker Distributed Model Parallel Library enthält

Um einen vorgefertigten Container zu erweitern und die Modellparallelismus-Bibliothek zu verwenden SageMaker, müssen Sie eines der verfügbaren AWS Deep Learning Containers (DLC) -Images für oder verwenden. PyTorch TensorFlow Die SageMaker Modellparallelismus-Bibliothek ist in den DLC-Images TensorFlow (2.3.0 und höher) und (1.6.0 und höher) mit CUDA PyTorch () enthalten. cuxyz Eine vollständige Liste der DLC-Images finden Sie unter Verfügbare Deep-Learning-Container-Images im Deep-Learning-Container-Repository. AWS GitHub

Ihr Dockerfile sollte beispielsweise eine FROM Anweisung wie die folgende enthalten:

# Use the SageMaker DLC image URI for TensorFlow or PyTorch
FROM aws-dlc-account-id.dkr.ecr.aws-region.amazonaws.com/framework-training:{framework-version-tag}

# Add your dependencies here
RUN ...

ENV PATH="/opt/ml/code:${PATH}"

# this environment variable is used by the SageMaker AI container to determine our user code directory.
ENV SAGEMAKER_SUBMIT_DIRECTORY /opt/ml/code

Wenn Sie einen PyTorch TensorFlow OR-Schätzer definieren, müssen Sie außerdem Folgendes entry_point für Ihr Trainingsskript angeben. Dies sollte derselbe Pfad sein, der in Ihrem Dockerfile mit ENV SAGEMAKER_SUBMIT_DIRECTORY angegeben ist.

Nachdem Sie den Docker-Container gehostet und die Image-URI des Containers abgerufen haben, erstellen Sie wie folgt ein SageMaker PyTorch Schätzobjekt. In diesem Beispiel wird davon ausgegangen, dass Sie bereits smp_options und mpi_options definiert haben.

smd_mp_estimator = Estimator(
    entry_point="your_training_script.py",
    role=sagemaker.get_execution_role(),
    instance_type='ml.p3.16xlarge',
    sagemaker_session=sagemaker_session,
    image_uri='your_aws_account_id.dkr.ecr.region.amazonaws.com/name:tag'
    instance_count=1,
    distribution={
        "smdistributed": smp_options,
        "mpi": mpi_options
    },
    base_job_name="SMD-MP-demo",
)

smd_mp_estimator.fit('s3://my_bucket/my_training_data/')

Erstellen Sie Ihren eigenen Docker-Container mit der SageMaker Distributed Model Parallel Library

Um Ihren eigenen Docker-Container für das Training zu erstellen und die SageMaker Model-Parallelbibliothek zu verwenden, müssen Sie die richtigen Abhängigkeiten und die Binärdateien der SageMaker verteilten parallelen Bibliotheken in Ihr Dockerfile aufnehmen. Dieser Abschnitt enthält den Mindestsatz an Codeblöcken, die Sie zur ordnungsgemäßen Vorbereitung einer SageMaker Trainingsumgebung und der parallelen Modellbibliothek in Ihrem eigenen Docker-Container benötigen.