AWS GPU ARM64 Basis Pembelajaran Mendalam AMI (Amazon Linux 2)

• ARM64 Basis Pembelajaran Mendalam OSS Nvidia Driver GPU AMI (Amazon Linux 2) $ {YYYY-MM-DD}

• G5g

• AWS Layanan yang Didukung: Amazon EC2

• Sistem Operasi: Amazon Linux 2

• Arsitektur Komputasi: ARM64

• Kernel Linux: 5.10

• Pengemudi NVIDIA: 550.144.03

• NVIDIA CUDA 12.1, 12.2, 12.3 tumpukan:

  • Direktori instalasi CUDA, NCCL dan cudDN:

    • Contoh:/usr/local/cuda-12.1/ , /usr/local/cuda-12.1/

  • Versi NCCL yang dikompilasi:

    • Untuk direktori CUDA 12.3, dikompilasi NCCL Versi 2.21.5+ .4 CUDA12

    • Untuk direktori CUDA 12.1, 12.2, dikompilasi Versi NCCL .18.5+ .2 CUDA12

  • CUDA standar: 12.1

    • PATH/usr/local/cudamenunjuk ke CUDA 12.1

    • Diperbarui di bawah env vars:

      • LD_LIBRARY_PATH memiliki/64 usr/local/cuda-12.1/lib:/usr/local/cuda-12.1/lib64:/usr/local/cuda-12.1:/usr/local/cuda-12.1/targets/sbsa-linux/lib:/usr/local/cuda-12.1/nvvm/lib64:/usr/local/cuda-12.1/extras/CUPTI/lib

      • PATH untuk memiliki/usr/local/cuda-12.1/bin/:/usr/local/cuda-12.1/include/

      • Untuk versi CUDA yang berbeda, harap perbarui LD_LIBRARY_PATH yang sesuai.

• AWS CLI v2 di/usr/local/bin/aws2 dan AWS CLI v1 di/usr/bin/aws

• Jenis volume EBS: gp3

• Toolkit wadah Nvidia: 1.16.2

  • Perintah versi: nvidia-container-cli -V

• Docker: 26.1.2

• Python:/3.10 usr/bin/python

• Kueri AMI-ID dengan Parameter SSM (contoh Wilayah adalah us-east-1):

  SSM_PARAMETER=base-oss-nvidia-driver-gpu-amazon-linux-2/latest/ami-id \
      aws ssm get-parameter --region us-east-1 \
      --name /aws/service/deeplearning/ami/arm64/$SSM_PARAMETER  \
      --query "Parameter.Value" \
      --output text

• Kueri AMI-ID dengan AWSCLI (contoh Wilayah adalah us-east-1):

  aws ec2 describe-images --region us-east-1 \
      -owners amazon \
      --filters 'Name=name,Values=Deep Learning ARM64 Base OSS Nvidia Driver GPU AMI (Amazon Linux 2) ????????' 'Name=state,Values=available' \
      --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
      --output text

Kernel

• Versi kernel disematkan menggunakan perintah:

  sudo yum versionlock kernel*

• Kami menyarankan agar pengguna menghindari memperbarui versi kernel mereka (kecuali karena patch keamanan) untuk memastikan kompatibilitas dengan driver dan versi paket yang diinstal. Jika pengguna masih ingin memperbarui, mereka dapat menjalankan perintah berikut untuk melepas pin versi kernel mereka:

  sudo yum versionlock delete kernel*
  sudo yum update -y

• Untuk setiap versi baru DLAMI, kernel kompatibel terbaru yang tersedia digunakan.

• Diperbarui NVIDIA Container Toolkit dari versi 1.17.3 ke versi 1.17.4

  • Silakan lihat halaman catatan rilis di sini untuk informasi lebih lanjut: https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4

  • Di Container Toolkit versi 1.17.4, pemasangan pustaka compat CUDA sekarang dinonaktifkan. Untuk memastikan kompatibilitas dengan beberapa versi CUDA pada alur kerja kontainer, pastikan Anda memperbarui LD_LIBRARY_PATH Anda untuk menyertakan pustaka kompatibilitas CUDA Anda seperti yang ditunjukkan dalam tutorial Jika Anda menggunakan lapisan kompatibilitas CUDA.

• Pustaka ruang pengguna yang dihapus cuobj dan nvdisasm disediakan oleh toolkit NVIDIA CUDA untuk mengatasi yang CVEs ada di Buletin Keamanan NVIDIA CUDA Toolkit untuk 18 Februari 2025

• Driver Nvidia yang ditingkatkan dari versi 550.127.05 ke 550.144.03 ke alamat yang CVEs ada di Buletin Keamanan Driver Tampilan GPU NVIDIA untuk Januari 2025

• Driver Nvidia yang ditingkatkan dari versi 550.90.07 ke 550.127.05 untuk alamat yang CVEs ada di Buletin Keamanan Tampilan GPU NVIDIA untuk Oktober 2024

• Nvidia Container Toolkit yang ditingkatkan dari versi 1.16.1 ke 1.16.2, mengatasi kerentanan keamanan CVE-2024-0133.

• Diperbarui versi driver Nvidia ke 535.183.01 dari 535.161.08

• Rilis awal dari Deep Learning ARM64 Base OSS DLAMI untuk Amazon Linux 2