AWS Deep Learning ARM64 AMI GPU PyTorch 2.6 (Amazon Linux 2023) - AWS 深度學習 AMIs
AMI 名稱格式支援的 EC2 執行個體AMI 內容注意發行日期：2025-02-21

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

AWS Deep Learning ARM64 AMI GPU PyTorch 2.6 (Amazon Linux 2023)

如需入門說明，請參閱 DLAMI 入門。

AMI 名稱格式

  • 深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.6.${PATCH-VERSION} (Amazon Linux 2023) ${YYYY-MM-DD}

支援的 EC2 執行個體

  • G5g

AMI 包含下列項目：

  • 支援 AWS 的服務：EC2

  • 作業系統：Amazon Linux 2023

  • 運算架構：ARM64

  • Python：/opt/pytorch/bin/python

  • Python 版本：3.12

  • NVIDIA 驅動程式：

    • OSS Nvidia 驅動程式：570.86.15

  • NVIDIA CUDA12.6 堆疊：

    • CUDA、NCCL 和 cuDDN 安裝路徑：/usr/local/cuda-12.6/

    • 預設 CUDA：12.6

      • PATH /usr/local/cudapoints 到 /usr/local/cuda-12.6/

      • 已更新下列 env vars：

        • LD_LIBRARY_PATH 具有 /usr/local/cuda/lib：/usr/local/cuda/lib64：/usr/local/cuda：/usr/local/cuda/targets/sbsa-linux/lib：/usr/local/cuda/nvvm/lib64：/usr/local/cuda/extras/CUPTI/lib64

        • 要讓 /usr/local/cuda/bin/：/usr/local/cuda/include/ 的 PATH

    • 編譯系統 NCCL 版本，位於 /usr/local/cuda/：2.24.3

    • 來自 PyTorch conda 環境的 PyTorch 編譯 NCCL 版本：2.21.5

  • AWS CLI v2as aws2 和AWS CLI v1as aws

  • EBS 磁碟區類型：gp3

  • 使用 SSM 參數查詢 AMI-ID （範例區域為 us-east-1)：

    aws ssm get-parameter --region us-east-1 \
    --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.6-amazon-linux-2023/latest/ami-id  \
    --query "Parameter.Value" \
    --output text

  • 使用 AWSCLI 查詢 AMI-ID （範例區域為 us-east-1)：

    aws ec2 describe-images --region us-east-1 \
    --owners amazon \
    --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.? (Amazon Linux 2023) ????????' 'Name=state,Values=available' \
    --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
    --output text

注意

Anaconda 頻道的 PyTorch 棄用

從 PyTorch 2.6 開始，PyTorch 已棄用對 Conda 的支援 （請參閱官方公告)。因此，PyTorch 2.6 及更高版本將移至使用 Python Virtual Environments。若要啟用 PyTorch venv，請使用來源 /opt/pytorch/bin/activate

發行日期：2025-02-21

AMI 名稱：深度學習 ARM64 AMI OSS Nvidia 驅動程式 GPU PyTorch 2.6.0 (Amazon Linux 2023) 20250221

已新增

  • Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0 (Amazon Linux 2023) 系列的初始版本。包含 Python 虛擬環境 pytorch (source /opt/pytorch/bin/activate/)，搭配 NVIDIA 驅動程式 R570、CUDA=12.6、cuDNN=9.7、PyTorch NCCL=2.21.5。