Amazon SageMaker AI 模型平行化程式庫 v1 範例
此頁面提供部落格和 Jupyter 筆記本的清單,其中提供實作 SageMaker 模型平行化 (SMP) 程式庫 v1 以在 SageMaker AI 上執行分散式訓練任務的實際範例。
部落格與案例研究
下列部落格討論有關使用 SMP v1 的案例研究。
-
Amazon SageMaker AI 模型平行化程式庫中的新效能改善
,AWS 機器學習部落格 (2022 年 12 月 16 日) -
在 Amazon SageMaker AI 上使用碎片資料平行化訓練具有近線性擴展的巨大模型
,AWS 機器學習部落格 (2022 年 10 月 31 日)
範例筆記本
範例筆記本在 SageMaker AI 範例 GitHub 儲存庫training/distributed_training/pytorch/model_parallel。
注意
在下列 SageMaker AI ML IDEs 中複製並執行範例筆記本。
-
SageMaker JupyterLab (可在 2023 年 12 月之後建立的 Studio 中使用)
-
SageMaker 程式碼編輯器 (可在 2023 年 12 月之後建立的 Studio 中使用)
-
Studio Classic (作為在 2023 年 12 月之後建立的 Studio 中的應用程式提供)
git clone https://github.com/aws/amazon-sagemaker-examples.git cd amazon-sagemaker-examples/training/distributed_training/pytorch/model_parallel
PyTorch 的 SMP v1 範例筆記本
TensorFlow 的 SMP v1 範例筆記本