Utilizzo GPUs con Amazon ECS Managed Instances - Amazon Elastic Container Service

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Utilizzo GPUs con Amazon ECS Managed Instances

Amazon ECS Managed Instances supporta l'elaborazione accelerata da GPU per carichi di lavoro come apprendimento automatico, elaborazione ad alte prestazioni ed elaborazione video tramite i seguenti tipi di istanze Amazon. EC2 Per ulteriori informazioni sui tipi di istanza supportati da Istanze gestite da Amazon ECS, consultare Tipi di Istanze gestite da Amazon ECS.

Di seguito è riportato un sottoinsieme di tipi di istanze basate su GPU supportato su istanze gestite da Amazon ECS:

  • g4dn: con tecnologia NVIDIA T4 GPUs, adatto per inferenza di machine learning, visione artificiale e applicazioni a uso intensivo di grafica.

  • g5: con tecnologia NVIDIA A10G GPUs, offre prestazioni più elevate per applicazioni a uso intensivo di grafica e carichi di lavoro di machine learning.

  • p3: con tecnologia NVIDIA V100 GPUs, progettato per l'elaborazione ad alte prestazioni e l'apprendimento deep learning.

  • p4d: con tecnologia NVIDIA A100 GPUs, offre le massime prestazioni per l'apprendimento di machine learning e l'elaborazione ad alte prestazioni.

Quando utilizzi tipi di istanze abilitati per GPU con Istanze gestite da Amazon ECS, i driver NVIDIA e il toolkit CUDA sono preinstallati sull'istanza, semplificando l'esecuzione di carichi di lavoro accelerati da GPU.

Selezione di istanze abilitate per GPU

Per selezionare i tipi di istanza abilitati alla GPU per i carichi di lavoro di Istanze gestite da Amazon ECS, utilizzare l'oggetto instanceRequirements nel modello di lancio del provider di capacità. Il seguente frammento mostra gli attributi che possono essere utilizzati per selezionare istanze abilitate per GPU.

{ "instanceRequirements": { "acceleratorTypes": "gpu", "acceleratorCount": 1, "acceleratorManufacturers": ["nvidia"] } }

Il seguente frammento mostra gli attributi che possono essere utilizzati per specificare i tipi di istanza abilitati per GPU nel modello di avvio.

{ "instanceRequirements": { "allowedInstanceTypes": ["g4dn.xlarge", "p4de.24xlarge"] } }

Immagini di container abilitati per GPU

Per utilizzarli GPUs nei contenitori, è necessario utilizzare immagini di container che contengano le librerie e gli strumenti GPU necessari. NVIDIAfornisce diverse immagini di container predefinite che puoi utilizzare come base per i carichi di lavoro della GPU, tra cui:

  • nvidia:cuda: immagini di base con il toolkit CUDA per l'elaborazione tramite GPU.

  • tensorflow/tensorflow:latest-gpu: TensorFlow con supporto GPU.

  • pytorch/pytorch:latest-cuda: PyTorch con supporto GPU.

Per un esempio di definizione di attività per Amazon ECS su Amazon ECS Managed Instances che prevede l'uso di GPUs, consulta. Specificazione GPUs in una definizione di attività Amazon ECS