Inizia a utilizzare le istanze con accelerazione GPU - Amazon Elastic Compute Cloud

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Inizia a utilizzare le istanze con accelerazione GPU

I tipi di istanze con accelerazione GPU di ultima generazione, come quelle mostrate nell'elenco seguente, offrono le funzionalità più elevate per le applicazioni di deep learning e High Performance Computing (HPC). Seleziona il link relativo al tipo di istanza per saperne di più sulle sue funzionalità.

Per un elenco completo delle specifiche dei tipi di istanza per i tipi di istanza accelerati, consulta Accelerated computing nel riferimento Amazon EC2 Instance Types.

Configurazione software

Il modo più semplice per iniziare a usare i tipi di istanze con accelerazione GPU di ultima generazione è avviare un'istanza da un'AMI AWS Deep Learning preconfigurata con tutto il software richiesto. Per le ultime novità da utilizzare con AWS Deep Learning AMIs i tipi di istanze con accelerazione GPU, consulta P6 Supported DLAMI nella Developer Guide.AWS Deep Learning AMIs

Se devi creare un'AMI personalizzata per avviare istanze che ospitano applicazioni di deep learning o HPC, ti consigliamo di installare le seguenti versioni software minime sopra l'immagine di base.

Tipo di istanza Driver NVIDIA CUDA NVIDIA GDRCopy Installatore di EFA NCCL EFA K8s*
P5 530 12,1 2.3 1.24.1 218,3 04.4
P5e 550 12,1 2.3 1.24.1 218,3 0,5,5
P5en 550 12,1 2.3 1.24.1 218,3 0,5,6
P6-B200 570 12,8 2.5 1.4.1 2,226,21 0,5,10

* La colonna EFA K8s contiene la versione minima consigliata per. aws-efa-k8s-device-plugin

Nota

Se si utilizza la versione 1.4.1 del programma di installazione EFA, viene fornita con essa. aws-ofi-nccl plugin Per le versioni precedenti del programma di installazione EFA, utilizza la versione o successiva. aws-ofi-nccl plugin 1.7.2-aws

Inoltre, consigliamo di configurare l'istanza in modo che non utilizzi stati C più profondi. Per maggiori informazioni, consulta Prestazioni elevate e bassa latenza tramite limitazione degli stati C-state più profondi nella Guida per l'utente di Amazon Linux 2. Le GPU AWS Deep Learning Base più recenti AMIs sono preconfigurate per non utilizzare stati C più profondi.

Per la configurazione di rete ed Elastic Fabric Adapter (EFA) consulta Massimizza la larghezza di banda di rete EC2 sulle istanze Amazon con più schede di rete.