AWS Deep Learning ARM64 AMI GPU PyTorch 2.4(Ubuntu 22.04) - AWS Deep Learning AMIs

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

AWS Deep Learning ARM64 AMI GPU PyTorch 2.4(Ubuntu 22.04)

시작하기에 관한 도움말은 DLAMI 시작하기 섹션을 참조하세요.

AMI 이름 형식

  • Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.${PATCH_VERSION}(Ubuntu 22.04) ${YYYY-MM-DD}

지원되는 EC2 인스턴스

  • G5g

AMI에는 다음이 포함됩니다.

  • 지원되는AWS서비스: Amazon EC2

  • 운영 체제: Ubuntu 22.04

  • 컴퓨팅 아키텍처: ARM64

  • Python: /opt/conda/envs/pytorch/bin/python

  • Python 버전: 3.11

  • NVIDIA 드라이버:

    • OSS Nvidia 드라이버: 550.144.03

  • NVIDIA CUDA12.1 스택:

    • CUDA, NCCL 및 cuDDN 설치 경로: /usr/local/cuda-12.4/

    • 기본 CUDA: 12.4

      • PATH /usr/local/cuda는 /usr/local/cuda-12.4/를 가리킵니다.

      • 아래 env vars가 업데이트되었습니다.

        • LD_LIBRARY_PATH: /usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib64

        • PATH: /usr/local/cuda/bin/:/usr/local/cuda/include/

    • /usr/local/cuda/에 있는 컴파일된 시스템 NCCL 버전: 2.21.5

    • PyTorch conda 환경에서 컴파일된 PyTorch NCCL 버전: 2.20.5

  • AWS CLI v2를 aws2로, AWS CLI v1을 aws로

  • EBS 볼륨 유형: gp3

  • SSM 파라미터를 사용하여 AMI-ID 쿼리(예시 리전은 us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.4-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text
  • AWSCLI를 사용하여 AMI-ID 쿼리(예시 리전은 us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon \ --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

릴리스 날짜: 2025-02-17

AMI 이름: Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0(Ubuntu 22.04) 20250215

업데이트
  • NVIDIA Container Toolkit을 버전 1.17.3에서 버전 1.17.4로 업데이트했습니다.

제거됨

릴리스 날짜: 2025-01-21

AMI 이름: Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0(Ubuntu 22.04) 20250117

업데이트

릴리스 날짜: 2024-09-30

AMI 이름: Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0(Ubuntu 22.04) 20240927

업데이트
  • Nvidia Container Toolkit을 버전 1.16.1에서 1.16.2로 업그레이드하여 보안 취약성 CVE-2024-0133을 해결했습니다.

릴리스 날짜: 2024-09-26

AMI 이름: Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0(Ubuntu 22.04) 20240926

추가됨
  • Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0(Ubuntu 22.04) 시리즈의 최초 릴리스입니다. NVIDIA 드라이버 R550, CUDA=12.4, cuDNN=8.9.7, PyTorch NCCL=2.20.5로 보완된 conda 환경 pytorch를 포함합니다.