AWS AMI de GPU de base de aprendizado profundo (Ubuntu 22.04)

• Base de aprendizado profundo OSS Nvidia Driver GPU AMI (Ubuntu 22.04) $ {YYYY-MM-DD}

• Consulte Alterações importantes no DLAMI.

• Aprendizado profundo com OSS O driver Nvidia suporta G4dn, G5, G6, Gr6, G6e, P4d, P4de, P5, P5e, P6-B200.

• AWS Serviço suportado: Amazon EC2

• Sistema operacional: Ubuntu 22.04

• Arquitetura de computação: x86

• A versão mais recente disponível está instalada para os seguintes pacotes:

  • Kernel Linux: 6. 8

  • FSx Lustre

  • Docker

  • AWS CLI v2 em/usr/local/bin/aws2 e AWS CLI v1 em/usr/bin/aws

  • NVIDIA DCGM

  • Kit de ferramentas de contêiner Nvidia:

    • Comando de versão: nvidia-container-cli -V

  • NVIDIA-Docker 2:

    • Comando de versão: versão nvidia-docker

• Driver NVIDIA: 570.133.20

• Pilha NVIDIA CUDA 12.4-12.6 e 12.8:

  • Diretórios de instalação CUDA, NCCL e cuDDN:/-xx.x/ usr/local/cuda

    • Exemplo:/usr/local/cuda-12.8/ , /usr/local/cuda-12.8/

  • Versão compilada da NCCL: 2.26.5

  • CUDA padrão: 12,8

    • PATH/usr/local/cudaaponta para CUDA 12.8

    • Variáveis de ambiente atualizadas abaixo:

      • LD_LIBRARY_PATH deve ter/64 usr/local/cuda-12.8/lib:/usr/local/cuda-12.8/lib64:/usr/local/cuda-12.8:/usr/local/cuda-12.8/targets/x86_64-linux/lib:/usr/local/cuda-12.8/extras/CUPTI/lib

      • PATH para ter/usr/local/cuda-12.8/bin/:/usr/local/cuda-12.8/include/

      • Para qualquer versão diferente do CUDA, atualize LD_LIBRARY_PATH adequadamente.

• Instalador EFA: 1.40.0

• Nvidia GDRCopy: 2,5

• AWS OFI NCCL: 1.14.2-aws

  • O caminho de instalação:/opt/amazon/ofi-nccl/ . Path /opt/amazon/ofi-nccl/libé adicionado ao LD_LIBRARY_PATH.

• AWS CLI v2 em/usr/local/bin/aws2 e AWS CLI v1 em/usr/bin/aws

• Tipo de volume do EBS: gp3

• Python:/3.10 usr/bin/python

• NVMe Local do armazenamento de instâncias (em EC2 instâncias compatíveis):/opt/dlami/nvme

• Consulte o AMI-ID com o parâmetro SSM (a região do exemplo é us-east-1):

  • Controlador OSS Nvidia:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-oss-nvidia-driver-gpu-ubuntu-22.04/latest/ami-id \
        --query "Parameter.Value" \
        --output text

• Consulte o AMI-ID com AWSCLI (a região de exemplo é us-east-1):

  • Controlador OSS Nvidia:

    aws ec2 describe-images --region us-east-1 \
          --owners amazon \
          --filters 'Name=name,Values=Deep Learning Base OSS Nvidia Driver GPU AMI (Ubuntu 22.04) ????????' 'Name=state,Values=available' \
          --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
          --output text

Suporte para vários ENI

• O Ubuntu 22.04 configura e configura automaticamente o roteamento de origem em vários NICss usando o cloud-init em sua inicialização inicial. Se seu fluxo de trabalho incluir attaching/detaching você ENIs enquanto uma instância está parada, uma configuração adicional deve ser adicionada aos dados do usuário cloud-init para garantir a configuração adequada das NICs durante esses eventos. Uma amostra da configuração da nuvem é fornecida abaixo.

• Consulte esta documentação da Canonical aqui para obter mais informações sobre como configurar a configuração de nuvem para suas instâncias - -/https://documentation.ubuntu.com/aws/en/latest/aws-how-to/instances/automaticallysetup-multiple-nics

EC2 instâncias com várias placas de rede

• Muitos tipos de instâncias que oferecem suporte ao EFA também têm várias placas de rede.

• DeviceIndex é exclusivo para cada placa de rede e deve ser um número inteiro não negativo menor que o limite de ENIs per. NetworkCard Em P5, o número de ENIs per NetworkCard é 2, o que significa que os únicos valores válidos para DeviceIndex são 0 ou 1.

  • Para a interface de rede primária (índice da placa de rede 0, índice do dispositivo 0), crie uma interface EFA (EFA com ENA). Você não pode usar uma interface de rede exclusiva do EFA como interface de rede primária.

  • Para cada interface de rede adicional, use o próximo índice de placa de rede não utilizada, o índice de dispositivo 1 e uma interface de rede EFA (EFA com ENA) ou somente EFA, dependendo do seu caso de uso, como requisitos de largura de banda do ENA ou espaço de endereço IP. Por exemplo, casos de uso, consulte a configuração do EFA para instâncias P5.

  • Para obter mais informações, consulte o Guia EFA aqui.

Kernel

• A versão do kernel é fixada usando o comando:

  echo linux-aws hold | sudo dpkg —set-selections
  echo linux-headers-aws hold | sudo dpkg —set-selections
  echo linux-image-aws hold | sudo dpkg —set-selections

• Recomendamos que os usuários evitem atualizar a versão do kernel (a menos que seja devido a um patch de segurança) para garantir a compatibilidade com os drivers instalados e as versões do pacote. Se os usuários ainda quiserem atualizar, eles podem executar os seguintes comandos para desafixar suas versões do kernel:

  echo linux-aws install | sudo dpkg -set-selections
  echo linux-headers-aws install | sudo dpkg -set-selections
  echo linux-image-aws install | sudo dpkg -set-selections

• Para cada nova versão do DLAMI, o kernel compatível mais recente disponível é usado.

• Suporte adicional para instâncias P6-B200 EC2

• Instalador EFA atualizado da versão 1.39.0 para 1.40.0

• Atualize o plug-in AWS OFI NCCL da versão 1.13.0-aws para 1.14.2-aws

• Versão NCCL compilada atualizada da versão 2.22.3 para 2.26.5

• Versão CUDA padrão atualizada da versão 12.6 para 12.8

• Versão Nvidia DCGM atualizada de 3.3.9 para 4.4.3

• Atualizado GDRCopy de 2.4.1 para 2.5.1

• O driver Nvidia foi atualizado da versão 570.124.06 para 570.133.20 para o endereço CVEs presente no boletim de segurança do driver de vídeo GPU NVIDIA de abril de 2025

• Kit de ferramentas de contêiner NVIDIA atualizado da versão 1.17.3 para a versão 1.17.4

  • Consulte a página de notas de lançamento aqui para obter mais informações: https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4

  • No Container Toolkit versão 1.17.4, a montagem das bibliotecas de compatibilidade CUDA agora está desativada. Para garantir a compatibilidade com várias versões do CUDA em fluxos de trabalho de contêiner, certifique-se de atualizar seu LD_LIBRARY_PATH para incluir suas bibliotecas de compatibilidade CUDA, conforme mostrado no tutorial Se você usar uma camada de compatibilidade CUDA.

• As bibliotecas de espaço do usuário cuobj e nvdisasm foram removidas fornecidas pelo kit de ferramentas NVIDIA CUDA para abordar as CVEs presentes no boletim de segurança do kit de ferramentas NVIDIA CUDA de 18 de fevereiro de 2025

• Foi adicionado o kit de ferramentas CUDA versão 12.6 no diretório/-12.6 usr/local/cuda

• As versões 12.1 e 12.2 do CUDA foram removidas deste DLAMI. Os clientes podem instalar essas versões da NVIDIA usando o link abaixo.

  • https://developer.nvidia.com/cuda-toolkit-archive

• Versão EFA atualizada de 1.37.0 para 1.38.0

  • O EFA agora inclui o plug-in AWS OFI NCCL, que agora pode ser encontrado em/-ofi-nccl/. opt/amazon/ofi-nccl rather than the original /opt/aws Se estiver atualizando sua variável LD_LIBRARY_PATH, certifique-se de modificar a localização do OFI NCCL corretamente.

• Kit de ferramentas de contêiner Nvidia atualizado de 1.17.3 para 1.17.4

• Driver Nvidia atualizado da versão 550.127.05 para 550.144.03 para o endereço CVEs presente no boletim de segurança do driver de vídeo GPU NVIDIA de janeiro de 2025

• FSx Pacote Amazon para suporte ao Lustre adicionado.

• Devido a uma alteração no kernel do Ubuntu para solucionar defeitos na funcionalidade KASLR (Kernel Address Space Layout Randomization), as instâncias G4Dn/G5 não conseguem inicializar adequadamente o CUDA no driver OSS Nvidia. Para mitigar esse problema, esse DLAMI inclui uma funcionalidade que carrega dinamicamente o driver proprietário para instâncias G4Dn e G5. Aguarde um breve período de inicialização para esse carregamento para garantir que suas instâncias funcionem corretamente.

  Para verificar o status e a integridade desse serviço, você pode usar o seguinte comando:

• Driver Nvidia atualizado da versão 550.90.07 para 550.127.05 para endereço CVEs presente no Boletim de Segurança do NVIDIA GPU Display de outubro de 2024

• Driver Nvidia e Fabric Manager atualizados da versão 535.183.01 para 550.90.07

• Atualizou o Nvidia Container Toolkit da versão 1.16.1 para a 1.16.2, abordando a vulnerabilidade de segurança CVE-2024-0133.

• Versão EFA atualizada de 1.32.0 para 1.34.0

• NCCL atualizado para a versão mais recente 2.22.3 para todas as versões CUDA

  • CUDA 12.1, 12.2 atualizado de 2.18.5+ 2. CUDA12

  • CUDA 12.3 atualizado da versão 2.21.5+ 4. CUDA12

• Foi adicionado o kit de ferramentas CUDA versão 12.4 no diretório/-12.4 usr/local/cuda

• Foi adicionado suporte para instâncias P5e. EC2

• Foi adicionado suporte para a instância G6e. EC2

• Versão atualizada do driver Nvidia para 535.183.01 de 535.161.08

• O suporte do Amazon FSx for Lustre foi removido nesta versão devido à incompatibilidade com as versões mais recentes do kernel Ubuntu 22.04. O suporte FSx para o Lustre será restabelecido assim que a versão mais recente do kernel for suportada. Os clientes que precisam FSx do Lustre devem continuar usando o Deep Learning Base GPU AMI (Ubuntu 20.04).

• Lançamento inicial do Deep Learning Base OSS DLAMI para Ubuntu 22.04