本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
AWS Deep Learning ARM64 AMI GPU PyTorch 2.6 (Ubuntu 22.04)
如需入門說明,請參閱 DLAMI 入門。
AMI 名稱格式
深度學習 ARM64 AMI OSS NVIDIA 驅動程式 GPU PyTorch 2.6.${PATCH-VERSION} (Ubuntu 22.04) ${YYYY-MM-DD}
支援的 EC2 執行個體
G5g
AMI 包含下列項目:
支援服務 AWS :Amazon EC2
作業系統:Ubuntu 22.04
運算架構:ARM64
Python:/opt/pytorch/bin/python
Python 版本:3.12
NVIDIA 驅動程式:
OSS Nvidia 驅動程式:570.86.15
NVIDIA CUDA12.6 堆疊:
CUDA、NCCL 和 cuDDN 安裝路徑:/usr/local/cuda-12.6/
預設 CUDA:12.6
PATH /usr/local/cudapoints 到 /usr/local/cuda-12.6/
-
已更新下列 env vars:
LD_LIBRARY_PATH 具有 /usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib64
要讓 /usr/local/cuda/bin/:/usr/local/cuda/include/ 的 PATH
編譯系統 NCCL 版本,位於 /usr/local/cuda/:2.24.3
來自 PyTorch venv 環境的 PyTorch 編譯 NCCL 版本:2.21.5
AWS CLI v2as aws2 和AWS CLI v1as aws
EBS 磁碟區類型:gp3
使用 SSM 參數查詢 AMI-ID (範例區域為 us-east-1):
aws ssm get-parameter --region
us-east-1
\ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.6-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text使用 AWSCLI 查詢 AMI-ID (範例區域為 us-east-1):
aws ec2 describe-images --region
us-east-1
\ --owners amazon --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text
注意
Anaconda 頻道的 PyTorch 棄用
從 PyTorch 2.6 開始,PyTorch 已棄用對 Conda 的支援 (請參閱官方公告
發行日期:2025-02-21
AMI 名稱:深度學習 ARM64 AMI OSS NVIDIA 驅動程式 GPU PyTorch 2.6.0 (Ubuntu 22.04) 20250221
已新增
Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0 (Ubuntu 22.04) 系列的初始版本。包含 Python 虛擬環境 pytorch (source /opt/pytorch/bin/activate),搭配 NVIDIA 驅動程式 R570、CUDA=12.6、cuDNN=9.7、PyTorch NCCL=2.21.5。