Kernfunktionen der SageMaker-Modellparallelitätsbibliothek v2

Die Modellparallelitätsbibliothek von Amazon SageMaker AI v2 (SMP v2) bietet Verteilungsstrategien und Techniken zur Speichereinsparung, wie z. B. Parallelität fragmentierter Daten, Tensorparallelität und Checkpointing. Die Strategien und Techniken zur Modellparallelität von SMP v2 helfen dabei, große Modelle auf mehrere Geräte zu verteilen und dabei das Trainingsgeschwindigkeit und die Speichernutzung zu optimieren. SMP v2 bietet auch ein Python-Paket torch.sagemaker, mit dem Sie Ihr Trainingsskript mit wenigen Codeänderungen anpassen können.

Dieses Handbuch folgt dem grundlegenden zweistufigen Ablauf, der in Verwendung der SageMaker-Modellparallelitätsbibliothek v2 vorgestellt wurde. Weitere Informationen zu den Kernfunktionen von SMP 2 und deren Verwendung finden Sie in den folgenden Themen.