View a markdown version of this page

Esegui contenitori Docker con GPU NVIDIA su Deadline Cloud worker - Deadline Cloud

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Esegui contenitori Docker con GPU NVIDIA su Deadline Cloud worker

Lo script di configurazione host docker_nvidia_container_toolkit installa Docker e NVIDIA Container Toolkit sui dipendenti di flotte gestite dai servizi Linux, il che consente ai job di eseguire direttamente contenitori GPU con. docker run Molti carichi di lavoro GPU, come i server di inferenza ComfYUI e Stable Diffusion, vengono forniti come immagini di container e richiedono Docker con passthrough GPU. I container forniscono anche un modo semplice per impacchettare stack di dipendenze complessi (CUDA, Python, librerie specifiche per le applicazioni) senza inquinare l'host o creare conflitti con altri job del parco.

Lo script svolge le seguenti funzioni:

  1. Installa Docker e avvia il serviziodnf.

  2. Aggiunge job-user al docker gruppo in modo che i job possano eseguire contenitori senza sudo.

  3. Installa NVIDIA Container Toolkit dal repository ufficiale.

  4. Configura il daemon Docker per utilizzare il runtime NVIDIA.

  5. Genera le specifiche CDI (Container Device Interface) per l'accesso alla GPU.

  6. Riavvia Docker e verifica la configurazione.

L'AMI della flotta deve disporre dei driver GPU NVIDIA già installati, forniti dalle AMI GPU Deadline Cloud, e la flotta deve utilizzare un tipo di istanza GPU come,, o. g6.xlarge g6e.xlarge p4d.24xlarge

Una volta eseguita la configurazione host, i job possono avviare contenitori GPU. L'esempio seguente esegue un contenitore con accesso alla GPU, rete host e le variabili di ambiente di licenza standard basate sull'utilizzo di Deadline Cloud trasmesse:

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest