View a markdown version of this page

Exécutez des conteneurs Docker avec des GPU NVIDIA sur Deadline Cloud Workers - Deadline Cloud

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Exécutez des conteneurs Docker avec des GPU NVIDIA sur Deadline Cloud Workers

Le script de configuration hôte docker_nvidia_container_toolkit installe Docker et le NVIDIA Container Toolkit sur les flottes gérées par des services Linux, ce qui permet aux jobs d'exécuter des conteneurs GPU directement avec. docker run De nombreuses charges de travail GPU, telles que ComfyUI et les serveurs d'inférence Stable Diffusion, sont expédiées sous forme d'images de conteneur et nécessitent Docker avec relais GPU. Les conteneurs constituent également un moyen simple d'empaqueter des piles de dépendances complexes (CUDA, Python, bibliothèques spécifiques à une application) sans polluer l'hôte ni entrer en conflit avec les autres tâches du parc.

Le script effectue les opérations suivantes :

  1. Installe Docker dnf et démarre le service.

  2. S'ajoute job-user au docker groupe afin que les tâches puissent exécuter des conteneurs sans sudo.

  3. Installe le NVIDIA Container Toolkit depuis le dépôt officiel.

  4. Configure le daemon Docker pour qu'il utilise le runtime NVIDIA.

  5. Génère la spécification CDI (Container Device Interface) pour l'accès au GPU.

  6. Redémarre Docker et vérifie la configuration.

Les pilotes de GPU NVIDIA doivent déjà être installés sur l'AMI de flotte, fournis par les AMI GPU de Deadline Cloud, et le parc doit utiliser un type d'instance de GPU tel que g6.xlargeg6e.xlarge, oup4d.24xlarge.

Une fois la configuration de l'hôte exécutée, les tâches peuvent lancer des conteneurs GPU. L'exemple suivant exécute un conteneur avec un accès au GPU, un réseau hôte et les variables d'environnement de licence standard basées sur l'utilisation de Deadline Cloud transmises :

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest