AWS GPU ARM64 AMI PyTorch 2.6 con apprendimento approfondito (Amazon Linux 2023) - AWS Deep Learning AMIs

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

AWS GPU ARM64 AMI PyTorch 2.6 con apprendimento approfondito (Amazon Linux 2023)

Per informazioni su come iniziare, consultaGuida introduttiva a DLAMI.

Formato del nome AMI

  • GPU driver Nvidia per ARM64 AMI OSS con apprendimento approfondito 2.6 PyTorch . $ {VERSIONE PATCH} (Amazon Linux 2023) $ {YYYYY-MM-GG}

EC2 Istanze supportate

  • G5g

L'AMI include quanto segue:

  • AWS Servizio supportato: EC2

  • Sistema operativo: Amazon Linux 2023

  • Architettura di calcolo: ARM64

  • Python:/opt/pytorch/bin/python

  • Versione Python: 3.12

  • Driver NVIDIA:

    • Driver OSS Nvidia: 570.86.15

  • CUDA12Pila NVIDIA 6.6:

    • Percorso di installazione di CUDA, NCCL e cuDDN:/-12.6/ usr/local/cuda

    • CUDA predefinito: 12.6

      • PERCORSO/-12.6/ usr/local/cuda points to /usr/local/cuda

      • Aggiornato sotto le variabili di ambiente:

        • LD_LIBRARY_PATH da avere/64 usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib

        • PERCORSO da avere//usr/local/cuda/bin/:/usr/local/cuda/include

    • Versione NCCL del sistema compilato presente in/usr/local/cuda/: 2.24.3

    • PyTorch Versione NCCL compilata dall'ambiente conda: 2.21.5 PyTorch

  • AWS CLI v2 come aws2 e v1 come aws AWS CLI

  • Tipo di volume EBS: gp3

  • Interroga l'AMI-ID con il parametro SSM (la regione di esempio è us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.6-amazon-linux-2023/latest/ami-id \ --query "Parameter.Value" \ --output text
  • Interroga l'AMI-ID con AWSCLI (la regione di esempio è us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon \ --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.? (Amazon Linux 2023) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

Note

PyTorch Deprecazione di Anaconda Channel

A partire dalla versione PyTorch 2.6, PyTorch ha un supporto obsoleto per Conda (vedi annuncio ufficiale). Di conseguenza, PyTorch 2.6 e versioni successive passeranno all'utilizzo di Python Virtual Environments. Per attivare PyTorch venv, usa source/opt/pytorch/bin/activate

Data di rilascio: 2025-02-21

Nome AMI: Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0 (Amazon Linux 2023) 20250221

Aggiunto

  • Versione iniziale della serie Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0 (Amazon Linux 2023). Include un ambiente virtuale Python pytorch (source/opt/pytorch/bin/activate/), accompagnato da NVIDIA Driver R570, CUDA=12.6, cuDNN=9.7, NCCL=2.21.5. PyTorch