Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Beispiele für die Modellparallelitätsbibliothek v1 von Amazon SageMaker AI
Diese Seite enthält eine Liste von Blogs und Jupyter-Notebooks, die praktische Beispiele für die Implementierung der SMP-Bibliothek v1 (SageMaker Modellparallelitätsbiblitohek) zur Ausführung verteilter Trainingsjobs auf SageMaker AI präsentieren.
Blogs und Fallstudien
In den folgenden Blogs werden Fallbeispiele zur Verwendung von SMP v1 behandelt.
-
Neue Leistungsverbesserungen in der Modellparallelitätsbibliothek von Amazon SageMaker AI
, AWSMachine Learning Blog (16. Dezember 2022) -
Trainieren Sie gigantische Modelle mit nahezu linearer Skalierung mithilfe von Sharded Data Parallelism auf Amazon SageMaker AI
, AWSMachine Learning Blog (31. Oktober 2022)
Beispiel-Notebooks
Beispiel-Notebooks werden im GitHub-Repository für SageMaker-AI-Beispieletraining/distributed_training/pytorch/model_parallel.
Anmerkung
Klonen Sie die Beispiel-Notebooks in den folgenden ML-IDEs von SageMaker AI und führen Sie sie dort aus.
-
SageMaker JupyterLab (verfügbar in Studio, das nach Dezember 2023 erstellt wurde)
-
SageMaker Code Editor (verfügbar in Studio, das nach Dezember 2023 erstellt wurde)
-
Studio Classic (verfügbar als Anwendung in Studio, das nach Dezember 2023 erstellt wurde)
git clone https://github.com/aws/amazon-sagemaker-examples.git cd amazon-sagemaker-examples/training/distributed_training/pytorch/model_parallel
Beispiel-Notebooks zu SMP v1 für PyTorch
Beispiel-Notebooks zu SMP v1 für TensorFlow
