GPU 가속 인스턴스 시작하기 - Amazon Elastic Compute Cloud

GPU 가속 인스턴스 시작하기

다음 목록에 표시된 것과 같은 최신 세대의 GPU 가속 인스턴스 유형은 딥 러닝 및 고성능 컴퓨팅(HPC) 애플리케이션을 위한 최고 성능 기능을 제공합니다. 인스턴스 유형 링크를 선택하고 해당 기능을 자세히 알아보세요.

가속 인스턴스 유형의 전체 인스턴스 유형 사양 목록은 Amazon EC2 인스턴스 유형 참조의 가속 컴퓨팅을 참조하세요.

소프트웨어 구성

최신 세대의 GPU 가속 인스턴스 유형을 시작하는 가장 쉬운 방법은 필요한 모든 소프트웨어가 미리 구성되어 있는 AWS Deep Learning AMI를 사용하여 인스턴스를 시작하는 것입니다. GPU 가속 인스턴스 유형과 함께 사용할 수 있는 최신 AWS Deep Learning AMIs는 AWS Deep Learning AMIs 개발자 안내서의 P6 지원 DLAMI를 참조하세요.

사용자 지정 AMI를 구축하여 딥 러닝 또는 HPC 애플리케이션을 호스팅하는 인스턴스를 시작해야 하는 경우 다음과 같은 최소 소프트웨어 버전을 기본 이미지 위에 설치하는 것이 좋습니다.

인스턴스 유형 NVIDIA 드라이버 CUDA NVIDIA GDRCopy EFA 설치 프로그램 NCCL EFA K8s*
P5 530 12.1 2.3 1.24.1 2.18.3 0.4.4
P5e 550 12.1 2.3 1.24.1 2.18.3 0.5.5
P5en 550 12.1 2.3 1.24.1 2.18.3 0.5.6
P6-B200 570 12.8 2.5 1.4.1 2.26.2-1 0.5.10

* EFA K8s 열에는 aws-efa-k8s-device-plugin의 최소 권장 버전이 포함되어 있습니다.

참고

EFA 설치 관리자 버전 1.4.1을 사용하는 경우 aws-ofi-nccl plugin이 함께 제공됩니다. 이전 버전의 EFA 설치 관리자는 aws-ofi-nccl plugin 버전 1.7.2-aws 이상을 사용합니다.

또한 심화된 C 상태를 사용하지 않도록 인스턴스를 구성하는 것이 좋습니다. 자세한 내용은 Amazon Linux 2 사용 설명서의 C 상태 심화 제한을 통한 고성능 및 저지연 시간을 참조하세요. 최신 AWS Deep Learning Base GPU AMI는 심화된 C 상태를 사용하지 않도록 미리 구성되어 있습니다.

네트워킹 및 Elastic Fabric Adapter (EFA) 구성에 대한 자세한 내용은 여러 네트워크 카드를 사용하여 Amazon EC2 인스턴스의 네트워크 대역폭 극대화를 참조하세요.