AWS AMI de GPU de ARM64 base de aprendizado profundo (Ubuntu 24.04) - AMIs de deep learning da AWS

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

AWS AMI de GPU de ARM64 base de aprendizado profundo (Ubuntu 24.04)

Para obter ajuda para começar, consulteConceitos básicos da DLAMI.

Formato de nome da AMI

  • ARM64 Base de aprendizado profundo OSS Nvidia Driver GPU AMI (Ubuntu 24.04) $ {YYYY-MM-DD}

EC2 Instâncias suportadas

  • G5g

A AMI inclui o seguinte:

  • AWS Serviço suportado: Amazon EC2

  • Sistema operacional: Ubuntu 24.04

  • Arquitetura de computação: ARM64

  • Kernel Linux: 6.14

  • Driver NVIDIA: 570.172.08

  • Pilha NVIDIA CUDA 12.5, 12.6, 12.8:

    • Diretórios de instalação CUDA, NCCL e cuDDN:/-12.8/ usr/local/cuda

    • CUDA padrão: 12,8

      • PATH//usr/local/cudaaponta para CUDA

      • Variáveis de ambiente atualizadas abaixo:

        • LD_LIBRARY_PATH deve ter/64 usr/local/cuda-12.8/lib:/usr/local/cuda-12.8/lib64:/usr/local/cuda-12.8:/usr/local/cuda-12.8/targets/sbsa-linux/lib:/usr/local/cuda-12.8/nvvm/lib64:/usr/local/cuda-12.8/extras/CUPTI/lib

        • PATH para ter/usr/local/cuda-12.8/bin/:/usr/local/cuda-12.8/include/

  • AWS CLI v2 em/usr/local/bin/aws

  • Tipo de volume do EBS: gp3

  • Kit de ferramentas de contêiner Nvidia: 1.17.8

    • Comando de versão: nvidia-container-cli -V

  • Docker: 28.3.3

  • Python:/3.12 usr/bin/python

  • Consulte o AMI-ID com o parâmetro SSM (a região de exemplo é us-east-1):

    export SSM_PARAMETER=base-oss-nvidia-driver-gpu-ubuntu-24.04/latest/ami-id \ aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/$SSM_PARAMETER \ --query "Parameter.Value" \ --output text
  • Consulte o AMI-ID com AWSCLI (a região de exemplo é us-east-1):

    aws ec2 describe-images --region us-east-1 --owners amazon --filters 'Name=name,Values=Deep Learning ARM64 Base OSS Nvidia Driver GPU AMI (Ubuntu 24.04) ????????' 'Name=state,Values=available' --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' --output text

Avisos

Data de lançamento: 2025-08-08

Nome da AMI: Deep Learning ARM64 Base OSS Nvidia Driver GPU AMI (Ubuntu 24.04) 20250806

Adicionado

  • Lançamento inicial da série Deep Learning ARM64 Base OSS Nvidia Driver GPU AMI (Ubuntu 24.04). Combinado com o driver NVIDIA R570, CUDA = 12,8, NCCL = 2,27,5 e EFA = 1,43.1.

Problemas conhecidos

  • O suporte do Amazon FSx for Lustre foi removido nesta versão devido à incompatibilidade com as versões mais recentes do kernel Ubuntu 24.04. Atualmente, o NVIDIA GDS e o FS não são suportados nas versões mais recentes do kernel Ubuntu 24.04. Support for FSx, GDS e FS será restabelecido quando a versão mais recente do kernel for suportada.