SageMaker 模型并行性库 v2

Amazon SageMaker AI 模型并行库是 SageMaker AI 的一项功能，可在 SageMaker AI 加速型计算实例上实现高性能和优化的大规模训练。 SageMaker 模型并行度库 v2 的核心功能 包括加速和简化大型模型训练的技术和优化，例如混合分片数据并行性、张量并行、激活检查点和激活卸载。您可以使用 SMP 库加速具有数千亿个参数的大型语言模型（LLM）、大型视觉模型（LVM）和基础模型（FM）的训练和微调。

SageMaker 模型并行性库 v2（SMP v2）将此库的 API 和方法与开源 PyTorch 完全分片数据并行性（FSDP）相匹配，使您只需修改极少的代码，就能获得 SMP 性能优化的好处。通过 SMP v2，您可以将 PyTorch FSDP 训练脚本引入 SageMaker AI，从而提高在 SageMaker AI 上训练最先进大型模型的计算性能。

您可以将 SMP v2 用于 亚马逊 SageMaker HyperPod 集群上的一般 SageMaker 训练作业和分布式训练工作负载。