AWS ARM64 AMI GPU PyTorch 2.6 de aprendizado profundo (Ubuntu 22.04) - AMIs de deep learning da AWS

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

AWS ARM64 AMI GPU PyTorch 2.6 de aprendizado profundo (Ubuntu 22.04)

Para obter ajuda para começar, consulteConceitos básicos da DLAMI.

Formato de nome da AMI

  • ARM64 AMI OSS NVIDIA Driver PyTorch GPU 2.6 de aprendizado profundo. $ {PATCH-VERSION} (Ubuntu 22.04) $ {YYYY-MM-DD}

EC2 Instâncias suportadas

  • G5g

A AMI inclui o seguinte:

  • AWS Serviço suportado: Amazon EC2

  • Sistema operacional: Ubuntu 22.04

  • Arquitetura de computação: ARM64

  • Python:/opt/pytorch/bin/python

  • Versão Python: 3.12

  • Controlador NVIDIA:

    • Controlador OSS Nvidia: 570.86.15

  • Pilha NVIDIA CUDA12 6.6:

    • Caminho de instalação de CUDA, NCCL e cuDDN:/-12.6/ usr/local/cuda

    • CUDA padrão: 12,6

      • CAMINHO/usr/local/cuda points to /usr/local/cuda-12,6/

      • Variáveis de ambiente atualizadas abaixo:

        • LD_LIBRARY_PATH deve ter/64 usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib

        • PATH para ter/usr/local/cuda/bin/:/usr/local/cuda/include/

    • Versão NCCL do sistema compilado presente em/usr/local/cuda/: 2.24.3

    • PyTorch Versão NCCL compilada do ambiente PyTorch venv: 2.21.5

  • AWS CLI v2 como aws2 e AWS CLI v1 como aws

  • Tipo de volume do EBS: gp3

  • Consulte o AMI-ID com o parâmetro SSM (a região de exemplo é us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.6-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text
  • Consulte o AMI-ID com AWSCLI (a região de exemplo é us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

Avisos

PyTorch Depreciação do Anaconda Channel

A partir da PyTorch versão 2.6, PyTorch o suporte para o Conda foi descontinuado (veja o anúncio oficial). Como resultado, a versão PyTorch 2.6 e versões posteriores passarão a usar ambientes virtuais Python. Para ativar o PyTorch venv, use a fonte/opt/pytorch/bin/activate  

Data de lançamento: 2025-02-21

Nome da AMI: Deep Learning ARM64 AMI OSS NVIDIA Driver GPU PyTorch 2.6.0 (Ubuntu 22.04) 20250221

Adicionado

  • Lançamento inicial da série Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.6.0 (Ubuntu 22.04). Incluindo um ambiente virtual Python pytorch (fonte/opt/pytorch/bin/activate), complementado com o driver NVIDIA R570, CUDA=12,6, cuDNN=9,7, NCCL = 2,21,5. PyTorch