Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
SageMaker Notes de mise à jour de la bibliothèque de parallélisme des données AI
Consultez les notes de version suivantes pour suivre les dernières mises à jour de la bibliothèque SMDDP ( SageMaker AI Distributed Data Parallelism).
La bibliothèque de parallélisme des données distribuées SageMaker AI v2.5.0
Date : 17 octobre 2024
Nouvelles fonctionnalités
-
Ajout du support pour la PyTorch version 2.4.1 avec CUDA v12.1.
Intégration dans les conteneurs Docker distribués par la bibliothèque SageMaker AI model parallelism (SMP)
Cette version de la bibliothèque SMDDP est migrée vers La bibliothèque de parallélisme des SageMaker modèles v2.6.0.
658645717510.dkr.ecr.<us-west-2>.amazonaws.com/smdistributed-modelparallel:2.4.1-gpu-py311-cu121
Pour les régions dans lesquelles les images Docker SMP sont disponibles, consultez Régions AWS.
Fichier binaire de cette version
Vous pouvez télécharger ou installer la bibliothèque à l’aide de l’URL suivante.
https://smdataparallel.s3.amazonaws.com/binary/pytorch/2.4.1/cu121/2024-10-09/smdistributed_dataparallel-2.5.0-cp311-cp311-linux_x86_64.whl
La bibliothèque de parallélisme des données distribuées SageMaker AI v2.3.0
Date : 11 juin 2024
Nouvelles fonctionnalités
-
Ajout du support pour la PyTorch version 2.3.0 avec CUDA v12.1 et Python v3.11.
-
Ajout du support pour PyTorch Lightning v2.2.5. Ceci est intégré dans le conteneur SageMaker AI Framework pour la PyTorch v2.3.0.
-
Ajout de la validation du type d’instance lors de l’importation pour empêcher le chargement de la bibliothèque SMDDP sur des types d’instance non pris en charge. Pour obtenir la liste des types d’instances compatibles avec la bibliothèque SMDDP, consultez Frameworks pris en charge, Régions AWS, et les types d'instances.
Intégration dans les conteneurs SageMaker AI Framework
Cette version de la bibliothèque SMDDP est migrée vers le conteneur SageMaker AI Framework suivant.
-
PyTorch v2.3.0
763104351884.dkr.ecr.<region>.amazonaws.com/pytorch-training:2.3.0-gpu-py311-cu121-ubuntu20.04-sagemaker
Pour obtenir la liste complète des versions de la bibliothèque SMDDP et des conteneurs prédéfinis, consultez Frameworks pris en charge, Régions AWS, et les types d'instances.
Fichier binaire de cette version
Vous pouvez télécharger ou installer la bibliothèque à l’aide de l’URL suivante.
https://smdataparallel.s3.amazonaws.com/binary/pytorch/2.3.0/cu121/2024-05-23/smdistributed_dataparallel-2.3.0-cp311-cp311-linux_x86_64.whl
Autres modifications
-
La bibliothèque SMDDP v2.2.0 est intégrée au conteneur SageMaker AI Framework pour la v2.2.0. PyTorch
La bibliothèque de parallélisme des données distribuées SageMaker AI v2.2.0
Date : 04 mars 2024
Nouvelles fonctionnalités
-
Ajout du support pour la PyTorch v2.2.0 avec CUDA v12.1.
Intégration dans les conteneurs Docker distribués par la bibliothèque SageMaker AI model parallelism (SMP)
Cette version de la bibliothèque SMDDP est migrée vers La bibliothèque de parallélisme des SageMaker modèles v2.2.0.
658645717510.dkr.ecr.<region>.amazonaws.com/smdistributed-modelparallel:2.2.0-gpu-py310-cu121
Pour les régions dans lesquelles les images Docker SMP sont disponibles, consultez Régions AWS.
Fichier binaire de cette version
Vous pouvez télécharger ou installer la bibliothèque à l’aide de l’URL suivante.
https://smdataparallel.s3.amazonaws.com/binary/pytorch/2.2.0/cu121/2024-03-04/smdistributed_dataparallel-2.2.0-cp310-cp310-linux_x86_64.whl
La bibliothèque de parallélisme des données distribuées SageMaker AI v2.1.0
Date : 1er mars 2024
Nouvelles fonctionnalités
-
Ajout du support pour la PyTorch v2.1.0 avec CUDA v12.1.
Corrections de bugs
-
Correction du problème de fuite de mémoire du CPU dans SMDDP v2.0.1.
Intégration dans les conteneurs SageMaker AI Framework
Cette version de la bibliothèque SMDDP a réussi les tests de référence et a été migrée vers le conteneur SageMaker AI Framework suivant.
-
PyTorch v2.1.0
763104351884.dkr.ecr.<region>.amazonaws.com/pytorch-training:2.1.0-gpu-py310-cu121-ubuntu20.04-sagemaker
Intégration dans les conteneurs Docker distribués par la bibliothèque SageMaker AI model parallelism (SMP)
Cette version de la bibliothèque SMDDP est migrée vers La bibliothèque de parallélisme des SageMaker modèles v2.1.0.
658645717510.dkr.ecr.<region>.amazonaws.com/smdistributed-modelparallel:2.1.2-gpu-py310-cu121
Pour les régions dans lesquelles les images Docker SMP sont disponibles, consultez Régions AWS.
Fichier binaire de cette version
Vous pouvez télécharger ou installer la bibliothèque à l’aide de l’URL suivante.
https://smdataparallel.s3.amazonaws.com/binary/pytorch/2.1.0/cu121/2024-02-04/smdistributed_dataparallel-2.1.0-cp310-cp310-linux_x86_64.whl
La bibliothèque de parallélisme des données distribuées SageMaker AI v2.0.1
Date : 7 décembre 2023
Nouvelles fonctionnalités
-
Ajout d'un nouveau SMDDP-implementation mode de fonctionnement
AllGathercollectif optimisé pour les ressources de AWS calcul et l'infrastructure réseau. Pour en savoir plus, veuillez consulter la section Opération collective AllGather de la bibliothèque SMDDP. -
L'opération
AllGathercollective SMDDP est compatible avec PyTorch FSDP et. DeepSpeed Pour en savoir plus, veuillez consulter la section Utilisez la bibliothèque SMDDP dans votre script d'entraînement PyTorch. -
Ajout du support pour la PyTorch version 2.0.1
Problèmes connus
-
Problème de fuite de mémoire du CPU dû à une augmentation progressive de la mémoire du CPU pendant l’entraînement avec l’opération
AllReduceSMDDP en mode DDP.
Intégration dans les conteneurs SageMaker AI Framework
Cette version de la bibliothèque SMDDP a réussi les tests de référence et a été migrée vers le conteneur SageMaker AI Framework suivant.
-
PyTorch v2.0.1
763104351884.dkr.ecr.<region>.amazonaws.com/pytorch-training:2.0.1-gpu-py310-cu118-ubuntu20.04-sagemaker
Fichier binaire de cette version
Vous pouvez télécharger ou installer la bibliothèque à l’aide de l’URL suivante.
https://smdataparallel.s3.amazonaws.com/binary/pytorch/2.0.1/cu118/2023-12-07/smdistributed_dataparallel-2.0.2-cp310-cp310-linux_x86_64.whl
Autres modifications
-
À partir de cette version, la documentation de la bibliothèque SMDDP est entièrement disponible dans ce guide du développeur Amazon SageMaker AI. En faveur du guide complet du développeur pour SMDDP v2 contenu dans le Guide du développeur Amazon SageMaker AI, la documentation de référence supplémentaire pour SMDDP v1.x
dans la documentation du SDK SageMaker AI Python n'est plus prise en charge. Si vous avez toujours besoin de la documentation SMP v1.x, consultez la capture d'écran suivante de la documentation sur SageMaker Python SDK v2.212.0 documentation.
