本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。
AWS 适用于 PyTorch 2.6 推理的 Deep Learning Container EC2 s、ECS 和 EKS
AWS 适用于亚马逊弹性计算云 (DLCs)、亚马逊弹性@@ 容器服务 (ECSEC2) 和亚马逊弹性 Kubernetes Service (EKS) 的 Deep Learning
此版本包括用于在 CPU 和 GPU 上进行推理的容器镜像，针对性能和扩展进行了 AWS优化。这些 Docker 镜像已通过 ECS 和 EKS 服务进行了测试，并提供了 NVIDIA CUDA、cuDNN、Intel MKL 和其他组件的稳定版本，为运行深度学习工作负载提供了优化的用户体验。 EC2 AWS对这些映像中的所有软件组件进行安全漏洞扫描，并根据 AWS 安全最佳实践进行更新或修补。这些新 DLC 专为在任何 ECS 和 EKS 服务上使用而设计。 EC2如果您正在寻找可搭配使用的 DLC SageMaker，请参阅此文档
可用容器列表可以在我们的文档中找到。有关最新更新，另请参阅 aws/ 存储deep-learning-containers GitHub 库
发布说明
为 PyTorch 2.6.0 引入了用于推理支持 EC2、ECS 和 EKS 的容器。有关此版本的详细信息，请查看我们的 GitHub 发布标签
。 从 PyTorch 2.6 开始，我们将从 PyPI 中删除 Conda DLCs 并安装所有 Python 软件包。
PyTorch 2.6 在以下方面进行了多项改进 PT2：torch.compile 现在可以与 Python 3.13 一起使用；新的与性能相关的旋钮 torch.compiler.set_stance；多项增强。 AOTInductor 除了 PT2 改进之外，另一个亮点是对 X86 CPUs 的 FP16 支持。
安全建议
AWS 建议客户监控安全公告中的关键AWS 安全
Python 3.12 Support
PyTorch 推理容器支持 Python 3.12。
CPU 实例类型支持
这些容器支持 x86_64 CPU 实例类型。
GPU 实例类型支持
这些容器支持 GPU 实例类型，并包含以下支持 GPU 的软件组件：
CUDA 12.4.1
cudnn 9.1.0.70+cuda12.4
NCCL 2.23.4+cuda12.4
AWS 地区支持
这些容器可在以下地区使用：
区域 |
代码 |
|---|---|
美国东部（俄亥俄州） |
us-east-2 |
美国东部（弗吉尼亚州北部） |
us-east-1 |
美国西部（俄勒冈州） |
us-west-2 |
美国西部（加利福尼亚北部） |
us-west-1 |
AF South（开普敦） |
af-south-1 |
亚太地区（香港） |
ap-east-1 |
亚太地区（海得拉巴） |
ap-south-2 |
亚太地区（孟买） |
ap-south-1 |
亚太地区（大阪） |
ap-northeast-3 |
亚太地区（首尔） |
ap-northeast-2 |
亚太地区（东京） |
ap-northeast-1 |
亚太地区（墨尔本） |
ap-southeast-4 |
亚太地区（雅加达） |
ap-southeast-3 |
亚太地区（悉尼） |
ap-southeast-2 |
亚太地区（新加坡） |
ap-southeast-1 |
亚太地区（马来西亚） |
ap-southeast-5 |
加拿大（中部） |
ca-central-1 |
加拿大（卡尔加里） |
ca-west-1 |
欧洲（苏黎世） |
eu-central-2 |
欧洲（法兰克福） |
eu-central-1 |
欧洲（爱尔兰） |
eu-west-1 |
欧洲（伦敦） |
eu-west-2 |
欧盟（巴黎） |
eu-west-3 |
欧盟（西班牙） |
eu-south-2 |
欧盟（米兰） |
eu-south-1 |
欧洲（斯德哥尔摩） |
eu-north-1 |
以色列（特拉维夫） |
il-central-1 |
中东（巴林） |
me-south-1 |
中东（阿联酋） |
me-central-1 |
南非（圣保罗） |
sa-east-1 |
中国（北京） |
cn-north-1 |
中国（宁夏） |
cn-northwest-1 |
构建和测试
建立在：c5.18xlarge
测试基于：c5.18xlarge、g3.16xlarge、m5.16xlarge、t3.2xlarge、p3.16xlarge、p3dn.24xlarge、p4d.24xlarge、g4dn.xlarge、g5.24xlarge、g5.24xlarge
在 MNIST 和 Resn
et50/ ImageNet 数据集、 EC2 ECS AMI（亚马逊 Linux AMI 2.0.20250201）和 EKS AMI（-1.32.1-20250212）上进行了测试 amazon-eks-gpu-node
