AWS Deep Learning Conta PyTorch iners 适用于 2.7 SageMaker - AWS 深度学习容器
发布说明安全建议Python 3.12 Support CPU 实例类型支持 GPU 实例类型支持AWS 地区支持 构建和测试

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

AWS Deep Learning Conta PyTorch iners 适用于 2.7 SageMaker

AWS 适用于亚马逊 SageMaker 的 Dee@@ p Learning Containers (DLCs) 现已推出 PyTorch 2.7 版本，在 Ubuntu 22.04 上支持 CUDA 12.8。你可以在任何 SageMaker 服务上启动新版本的 Deep Learning Containers。有关 Dee AWS p Learning Containers 支持的框架和版本的完整列表，请参阅下文。

此版本包括用于在 GPU 上训练的容器镜像，针对性能和扩展进行了优化 AWS。这些 Docker 镜像已经过 SageMaker 服务测试，提供稳定版本的 NVIDIA CUDA、Intel MKL 和其他组件，为运行深度学习工作负载提供了优化的用户体验。 AWS对这些映像中的所有软件组件进行安全漏洞扫描，并根据 AWS 安全最佳实践进行更新或修补。这些新 DLC 专为在 SageMaker 服务上使用而设计。

可用容器列表可以在我们的文档中找到。使用我们开发者指南中的入门指南和从初学者到高级级别的教程，快速开始使用 Dee AWS p Learning Containers。您也可以订阅我们的讨论论坛以获取发布公告并发布您的问题。

发布说明

  • 为训练引入了 PyTorch 2.7 版容器，该容器支持 SageMaker。有关此版本的详细信息，请查看我们的 GitHub 发布标签。

  • 请参考此处的 PyTorch 2.7.1 官方发行说明。

  • 添加了 Python 3.12 支持

  • 添加了 PyTorch 域库：

    • torchtnt 0.2.4

    • torchdata 0.11.0

    • torchaudio 2.7.1

    • torchvision 0.22.1

  • 添加了 CUDA 12.8 支持

  • 添加了 Ubuntu 22.04 支持

  • GPU Docker 镜像包含以下库：

    • CUDA 12.8.0

    • cudnn 9.7.1.26

    • NCCL 2.26.2

    • EFA 安装程序 1.40.0（嵌入了 AWS OFI NCCL）

    • 变压器引擎 2.3

    • Flash 注意 2.7.4.post1

    • GDRCopy 2.5

  • 添加了 fastai 2.8.2 支持

  • 适用于 CPU 的 Dockerfile 可以在这里找到，GPU 的 Dockerfile 可以在这里找到。

有关最新更新，请参阅 aws/ 存储deep-learning-containers GitHub 库。

安全建议

AWS 建议客户监控安全公告中的关键AWS 安全更新。

Python 3.12 Support

PyTorch 训练容器支持 Python 3.12。

CPU 实例类型支持

这些容器支持 x86_64 实例类型。

GPU 实例类型支持

这些容器支持 GPU 实例类型，并包含以下支持 GPU 的软件组件：

  • CUDA 12.8

  • cudnn 9.7.1.26

  • NCCL 2.26.2

AWS 地区支持

这些容器可在以下地区使用：

区域

代码

美国东部（俄亥俄州）

us-east-2

美国东部（弗吉尼亚州北部）

us-east-1

美国西部（俄勒冈州）

us-west-2

美国西部（加利福尼亚北部）

us-west-1

AF South（开普敦）

af-south-1

亚太地区（香港）

ap-east-1

亚太地区（海得拉巴）

ap-south-2

亚太地区（孟买）

ap-south-1

亚太地区（大阪）

ap-northeast-3

亚太地区（首尔）

ap-northeast-2

亚太地区（东京）

ap-northeast-1

亚太地区（墨尔本）

ap-southeast-4

亚太地区（雅加达）

ap-southeast-3

亚太地区（悉尼）

ap-southeast-2

亚太地区（新加坡）

ap-southeast-1

亚太地区（马来西亚）

ap-southeast-5

亚太地区（泰国）

ap-southeast-7

墨西哥（中部）

mx-central-1

加拿大（中部）

ca-central-1

加拿大（卡尔加里）

ca-west-1

欧洲（苏黎世）

eu-central-2

欧洲（法兰克福）

eu-central-1

欧洲（爱尔兰）

eu-west-1

欧洲（伦敦）

eu-west-2

欧盟（巴黎）

eu-west-3

欧盟（西班牙）

eu-south-2

欧盟（米兰）

eu-south-1

欧洲（斯德哥尔摩）

eu-north-1

以色列（特拉维夫）

il-central-1

中东（巴林）

me-south-1

中东（阿联酋）

me-central-1

南非（圣保罗）

sa-east-1

中国（北京）

cn-north-1

中国（宁夏）

cn-northwest-1

构建和测试

  • 建立在：c5.18xlarge

  • 测试在：p4d.24xlarge、p4de.24xlarge、p5.48xlarge、g4dn.4xlarge、g5.12xlarge、g5.12xlarge

  • 在 SageMaker MNIST 开启的情况下进行了测试。