AWS Deep Learning ARM64 AMI GPU PyTorch 2.5 (Ubuntu 22.04) - AWS 深度學習 AMIs

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

AWS Deep Learning ARM64 AMI GPU PyTorch 2.5 (Ubuntu 22.04)

如需入門說明,請參閱 DLAMI 入門

AMI 名稱格式

  • 深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.5.${PATCH-VERSION} (Ubuntu 22.04) ${YYYY-MM-DD}

支援的 EC2 執行個體

  • G5g

AMI 包含下列項目:

  • 支援服務 AWS :Amazon EC2

  • 作業系統:Ubuntu 22.04

  • 運算架構:ARM64

  • Python:/opt/conda/envs/pytorch/bin/python

  • Python 版本:3.11

  • NVIDIA 驅動程式

    • OSS Nvidia 驅動程式:550.144.03

  • NVIDIA CUDA12.4 堆疊

    • CUDA、NCCL 和 cuDDN 安裝路徑:/usr/local/cuda-12.4/

    • 預設 CUDA:12.4

      • PATH /usr/local/cuda 指向 /usr/local/cuda-12.4/

      • 已更新下列 env vars:

        • LD_LIBRARY_PATH 具有 /usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib64

        • 要讓 /usr/local/cuda/bin/:/usr/local/cuda/include/ 的 PATH

    • 編譯系統 NCCL 版本,位於 /usr/local/cuda/: 2.21.5

    • 來自 PyTorch conda 環境的 PyTorch 編譯 NCCL 版本:2.21.5

  • AWS CLI v2 作為 aws2 和 AWS CLI v1 作為 aws

  • EBS 磁碟區類型:gp3

  • 使用 SSM 參數查詢 AMI-ID (範例區域為 us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.5-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text
  • 使用 AWSCLI 查詢 AMI-ID (範例區域為 us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon --filters \ 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.5.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

發行日期:2025-02-17

AMI 名稱:深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.5.1 (Ubuntu 22.04) 20250215

Updated

已移除

發行日期:2025-01-21

AMI 名稱:深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.5.1 (Ubuntu 22.04) 20250117

Updated

版本日期:2024-11-22

AMI 名稱:深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.5.1 (Ubuntu 22.04) 20241122

已新增

  • Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.5.1 (Ubuntu 22.04) 系列的初始版本。包含與 NVIDIA 驅動程式 R550、CUDA=12.4、cuDNN=8.9.7、PyTorch NCCL=2.21.5 相輔相成的 conda 環境pytorch。