View a markdown version of this page

Deadline Cloud ワーカーで NVIDIA GPUs を使用して Docker コンテナを実行する - Deadline クラウド

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Deadline Cloud ワーカーで NVIDIA GPUs を使用して Docker コンテナを実行する

docker_nvidia_container_toolkit ホスト設定スクリプトは、Linux サービスマネージドフリートワーカーに Docker と NVIDIA Container Toolkit をインストールします。これにより、ジョブは で GPU コンテナを直接実行できますdocker run。ComfyUI や Stable Diffusion 推論サーバーなど、多くの GPU ワークロードはコンテナイメージとして出荷され、GPU パススルーを備えた Docker が必要です。コンテナは、ホストを汚染したり、フリート上の他のジョブと競合したりすることなく、複雑な依存関係スタック (CUDA、Python、アプリケーション固有のライブラリ) をパッケージ化するクリーンな方法も提供します。

スクリプトは、次を実行します。

  1. を介して Docker をインストールdnfし、サービスを開始します。

  2. ジョブが sudo なしでコンテナを実行できるようにjob-user、 を dockerグループに追加します。

  3. 公式リポジトリから NVIDIA Container Toolkit をインストールします。

  4. NVIDIA ランタイムを使用するように Docker デーモンを設定します。

  5. GPU アクセスの CDI (コンテナデバイスインターフェイス) 仕様を生成します。

  6. Docker を再起動し、セットアップを検証します。

フリート AMI には、Deadline Cloud GPU AMIs が提供する NVIDIA GPU ドライバーが既にインストールされている必要があり、フリートは g6.xlarge、、 g6e.xlargeなどの GPU インスタンスタイプを使用する必要がありますp4d.24xlarge。

ホスト設定が実行されると、ジョブは GPU コンテナを起動できます。次の例では、GPU アクセス、ホストネットワーク、および渡される標準の Deadline Cloud 使用状況ベースのライセンス環境変数を持つコンテナを実行します。

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest