AWS ARM64 Deep-Learning-AMI-GPU PyTorch 2.6 (Amazon Linux 2023) - AWS Deep Learning AMIs

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

AWS ARM64 Deep-Learning-AMI-GPU PyTorch 2.6 (Amazon Linux 2023)

Hilfe zu den ersten Schritten finden Sie unterErste Schritte mit DLAMI.

AMI-Namensformat

  • Deep Learning ARM64 AMI OSS Nvidia-Treiber GPU PyTorch 2.6. $ {PATCH-VERSION} (Amazon Linux 2023) $ {YYYY-MM-DD}

EC2 Unterstützte Instanzen

  • G5g

Das AMI umfasst Folgendes:

  • Unterstützter AWS Dienst: EC2

  • Betriebssystem: Amazon Linux 2023

  • Rechenarchitektur: ARM64

  • Python:/opt/pytorch/bin/python

  • Python-Version: 3.12

  • NVIDIA-Treiber:

    • OS Nvidia-Treiber: 570.86.15

  • CUDA12NVIDIA 6.6-Stapel:

    • CUDA-, NCCL- und cuDDN-Installationspfad:/-12.6/ usr/local/cuda

    • Standard-CUDA: 12.6

      • PFAD/-12.6/ usr/local/cuda points to /usr/local/cuda

      • Die folgenden Umgebungsvariablen wurden aktualisiert:

        • LD_LIBRARY_PATH soll/64 haben usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib

        • PATH soll//haben usr/local/cuda/bin/:/usr/local/cuda/include

    • Die kompilierte System-NCCL-Version ist unter/usr/local/cuda/vorhanden: 2.24.3

    • PyTorch Kompilierte NCCL-Version aus der Conda-Umgebung: 2.21.5 PyTorch

  • AWS CLI v2 als aws2 und v1 als aws AWS CLI

  • EBS-Volumetyp: gp3

  • AMI-ID mit SSM-Parameter abfragen (Beispiel Region ist us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.6-amazon-linux-2023/latest/ami-id \ --query "Parameter.Value" \ --output text
  • AMI-ID abfragen mit AWSCLI (Beispiel Region ist us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon \ --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.? (Amazon Linux 2023) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

Hinweise

PyTorch Veraltete Version von Anaconda Channel

Ab Version PyTorch 2.6 wird die Unterstützung für Conda eingestellt (siehe offizielle Ankündigung). PyTorch Infolgedessen werden Version PyTorch 2.6 und höher zur Verwendung von virtuellen Python-Umgebungen übergehen. Um das PyTorch Venv zu aktivieren, verwenden Sie bitte source/opt/pytorch/bin/activate

Datum der Veröffentlichung: 2025-02-21

AMI-Name: Deep Learning ARM64 AMI OSS Nvidia-Treiber-GPU PyTorch 2.6.0 (Amazon Linux 2023) 20250221

Hinzugefügt

  • Erste Version der Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0 (Amazon Linux 2023) -Serie. Einschließlich einer virtuellen Python-Umgebung pytorch (source/opt/pytorch/bin/activate/), ergänzt durch den NVIDIA-Treiber R570, CUDA=12.6, cuDNN=9.7, NCCL=2.21.5. PyTorch