AWS AMI GPU di base di deep learning (Amazon Linux 2023)

• AMI AMI GPU Nvidia Driver OSS di deep learning (Amazon Linux 2023) $ {YYYY-MM-DD}

• Consulta la sezione Modifiche importanti a DLAMI

• Deep Learning con OSS Il driver Nvidia supporta G4dn, G5, G6, Gr6, G6e, P4d, P4de, P5, P5e, P5en, P6-B200

• AWS Servizio supportato: Amazon EC2

• Sistema operativo: Amazon Linux 2023

• Architettura di calcolo: x86

• L'ultima versione disponibile è installata per i seguenti pacchetti:

  • Kernel Linux: 6.1.

  • FSx Lustro

  • NVIDIA GDS

  • Docker

  • AWS CLI v2 a/usr/local/bin/aws2 e AWS CLI v1 a/usr/bin/aws

  • NVIDIA DCGM

  • Toolkit per container Nvidia:

    • Comando di versione: -V nvidia-container-cli

  • Nvidia-docker2:

    • Comando di versione: versione nvidia-docker

• Driver NVIDIA: 570.133.20

• Stack NVIDIA CUDA 12.4-12.6 e 12.8:

  • Directory di installazione CUDA, NCCL e cudDN:/-xx.x/ usr/local/cuda

    • Esempiousr/local/cuda-12.8/ , /usr/local/cuda:/-12.8/

  • Versione NCCL compilata: 2.26.5

  • CUDA predefinito: 12.8

    • PATH/usr/local/cudapunta a CUDA 12.8

    • Aggiornato di seguito le variabili di ambiente:

      • LD_LIBRARY_PATH da avere/usr/local/cuda-12.8/lib:/usr/local/cuda-12.8/lib64:/usr/local/cuda-12.8:/usr/local/cuda-12.4/targets/x86_64-linux/lib

      • PERCORSO da avere//usr/local/cuda-12.8/bin/:/usr/local/cuda-12.8/include

      • Per qualsiasi versione CUDA diversa, aggiorna LD_LIBRARY_PATH di conseguenza.

• Programma di installazione EFA: 1.40.0

• GDRCopyNvidia: 2.5

• AWS OFI NCCL: 1.14.2-aws

  • AWS OFI NCCL ora supporta più versioni NCCL con un'unica build

  • Il percorso di installazione:/opt/amazon/ofi-nccl/ . Path /opt/amazon/ofi-nccl/libviene aggiunto a LD_LIBRARY_PATH.

• AWS CLI v2 in/2 e v1 in/usr/local/bin/aws AWS CLI usr/bin/aws

• Tipo di volume EBS: gp3

• Python:/3.9 usr/bin/python

• NVMe Posizione dell'archivio delle istanze (sulle EC2 istanze supportate):/opt/dlami/nvme

• Interroga l'AMI-ID con il parametro SSM (la regione di esempio è us-east-1):

  • Driver OSS Nvidia:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-oss-nvidia-driver-gpu-al2023/latest/ami-id \
        --query "Parameter.Value" --output text

• Interroga l'AMI-ID con AWSCLI (la regione di esempio è us-east-1):

  • Driver OSS Nvidia:

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base OSS Nvidia Driver GPU AMI (Amazon Linux 2023) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

Kernel

• La versione del kernel viene bloccata utilizzando il comando:

  sudo dnf versionlock kernel*

• Consigliamo agli utenti di evitare di aggiornare la versione del kernel (a meno che non sia necessaria una patch di sicurezza) per garantire la compatibilità con i driver installati e le versioni dei pacchetti. Se gli utenti desiderano comunque eseguire l'aggiornamento, possono eseguire i seguenti comandi per sbloccare le versioni del kernel:

  sudo dnf versionlock delete kernel*
  sudo dnf update -y

• Per ogni nuova versione di DLAMI, viene utilizzato il kernel compatibile più recente disponibile.

• È stato aggiunto il supporto per le istanze P6-B200 EC2

• EFA Installer aggiornato dalla versione 1.38.1 alla 1.40.0

• GDRCopy Aggiornato dalla versione 2.4 alla 2.5

• Plugin AWS OFI NCCL aggiornato dalla versione 1.13.0-aws a 1.14.2-aws

• Versione NCCL compilata aggiornata dalla versione 2.25.1 alla 2.26.5

• Versione CUDA predefinita aggiornata dalla versione 12.6 alla 12.8

• Versione Nvidia DCGM aggiornata dalla 3.3.9 alla 4.4.3

• Driver Nvidia aggiornato dalla versione 570.124.06 alla 570.133.20 in base all'indirizzo riportato nel NVIDIA GPU Display Driver Security Bulletin di aprile 2025 CVEs

• È stato aggiunto il supporto per NVIDIA GPU Direct Storage (GDS)

• NVIDIA Container Toolkit aggiornato dalla versione 1.17.3 alla versione 1.17.4

  • Per ulteriori informazioni, consulta la pagina delle note di rilascio qui:/1.17.4 https://github.com/NVIDIA/ nvidia-container-toolkit releases/tag/v

  • Nella versione 1.17.4 di Container Toolkit, il montaggio delle librerie compatte CUDA è ora disabilitato. Per garantire la compatibilità con più versioni CUDA sui flussi di lavoro dei container, assicurati di aggiornare LD_LIBRARY_PATH per includere le tue librerie di compatibilità CUDA, come mostrato nel tutorial If you use a CUDA compatibility layer.

• Sono state rimosse le librerie di spazio utente cuobj e nvdisasm fornite dal toolkit NVIDIA CUDA e presenti nel NVIDIA CUDA Toolkit Security Bulletin del 18 febbraio 2025 CVEs

• Aggiunta la versione 12.6 del toolkit CUDA nella directory/-12.6 usr/local/cuda

• Aggiunto il supporto per le istanze G5 EC2

• Le versioni CUDA 12.1 e 12.2 sono state rimosse da questo DLAMI. I clienti che richiedono queste versioni del toolkit CUDA possono installarle direttamente da NVIDIA utilizzando il link seguente

  • https://developer.nvidia.com/cuda-toolkit-archive

• Versione EFA aggiornata da 1.37.0 a 1.38.0

  • EFA ora include il plugin AWS OFI NCCL, che ora può essere trovato in/-ofi-nccl/. opt/amazon/ofi-nccl rather than the original /opt/aws Se aggiorni la variabile LD_LIBRARY_PATH, assicurati di modificare correttamente la posizione OFI NCCL.

• Nvidia Container Toolkit aggiornato da 1.17.3 a 1.17.4

• È stato aggiunto il supporto per le istanze G4dn

• Nvidia Container Toolkit aggiornato dalla versione 1.17.0 alla 1.17.3

• È stato aggiunto il supporto per le istanze P5en. EC2

• EFA Installer aggiornato dalla versione 1.35.0 alla 1.37.0

• Aggiorna il plugin AWS OFI NCCL dalla versione 1.121-aws a 1.13.0-aws

• Versione iniziale di Deep Learning Base OSS DLAMI per Amazon Linux 2023

• Al momento, questo DLAMI non supporta le istanze G4dn e G5 EC2 . AWS è a conoscenza di un'incompatibilità che può causare errori di inizializzazione CUDA, che interessano entrambe le famiglie di istanze G4dn e G5 quando si utilizzano i driver NVIDIA open source insieme a una versione del kernel Linux 6.1 o successiva. Questo problema riguarda, tra le altre, distribuzioni Linux come Amazon Linux 2023, Ubuntu 22.04 o versioni successive o SUSE Linux Enterprise Server 15 SP6 o versioni successive.