AWS 深度学习 ARM64 AMI GPU PyTorch 2.6 (Ubuntu 22.04) - AWS Deep Learning AMIs

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

AWS 深度学习 ARM64 AMI GPU PyTorch 2.6 (Ubuntu 22.04)

如需入门帮助,请参阅DLAMI 入门

AMI 名称格式

  • 深度学习 ARM64 AMI OSS NVIDIA 驱动程序 GPU PyTorch 2.6。 $ {PATCH-VERSION} (Ubuntu 22.04) $ {YYYY-MM-DD}

支持的 EC2 实例

  • G5g

AMI 包括以下内容:

  • 支持的 AWS 服务:Amazon EC2

  • 操作系统:Ubuntu 22.04

  • 计算架构: ARM64

  • Python:/opt/pytorch/bin/python

  • Python 版本:3.12

  • 英伟达驱动程序

    • OSS Nvidia 驱动程序:570.86.15

  • NVIDIA CUDA12 .6 堆栈

    • CUDA、NCCL 和 cudDN 安装路径:/-12.6/ usr/local/cuda

    • 默认 CUDA:12.6

      • 路径/ usr/local/cuda points to /usr/local/cuda -12.6/

      • 在环境变量下方更新:

        • LD_LIBRARY_PATH 要有 /64 usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib

        • 要拥有的路径/usr/local/cuda/bin/:/usr/local/cuda/include/

    • 编译后的系统 NCCL 版本现在/usr/local/cuda/: 2.24.3

    • PyTorch 从 PyTorch venv 环境中编译的 NCCL 版本:2.21.5

  • AWS CLI v2 是 aws2,v1 是 aws AWS CLI

  • EBS 卷类型:gp3

  • 使用 SSM 参数查询 AMI-ID(示例区域为 us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.6-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text
  • 使用以下方式查询 AMI-ID AWSCLI (示例区域为 us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

版权声明

PyTorch 弃用 Anaconda 频道

从 PyTorch 2.6 开始, PyTorch 已弃用对 Conda 的支持(参见官方公告)。因此, PyTorch 2.6 及更高版本将转向使用 Python 虚拟环境。要激活 PyTorch venv,请使用源代码/ opt/pytorch/bin/activate  

发布日期:2025-02-21

AMI 名称:深度学习 ARM64 AMI OSS NVIDIA Driver GPU PyTorch 2.6.0 (Ubuntu 22.04) 20250221

新增了

  • 深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0(Ubuntu 22.04)系列的首次发布。包括 Python 虚拟环境 pytorch(来源/opt/pytorch/bin/activate),配有 NVIDIA Driver R570、CUDA=12.6、cudnn=9.7、NCCL=2.21.5。 PyTorch