View a markdown version of this page

Abilita lo swap sui lavoratori di Deadline Cloud Linux - Deadline Cloud

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Abilita lo swap sui lavoratori di Deadline Cloud Linux

Lo script di configurazione dell'host swap_for_smf sul GitHub sito Web crea e abilita un file di scambio sui lavoratori della flotta gestiti dal servizio Deadline Cloud Linux. Usa questo script per carichi di lavoro ad alta intensità di memoria che superano temporaneamente la RAM fisica, come ComfyUI.

Alcuni carichi di lavoro richiedono la mappatura della memoria di file di grandi dimensioni tramite la RAM della CPU prima di caricarli sulla GPU. Ad esempio, il caricamento di un modello di diffusione da 16 GB su un'g6.xlargeistanza (16 GB di RAM) può essere OOM-kill eseguito senza swap. Un file di scambio fornisce una capacità di overflow in modo che questi caricamenti abbiano esito positivo.

Lo script svolge le seguenti funzioni:

  1. Crea un file di swap da 32 GB in /swapfile (salta se ne esiste già uno).

  2. Abilita immediatamente il file di scambio.

  3. Aggiunge una /etc/fstab voce in modo che lo swap persista anche dopo i riavvii.

Per modificare la dimensione dello swap, modifica linux.sh e aggiorna la variabile. SWAP_SIZE

Per un'alternativa che modifica il comportamento di overcommit del kernel invece di aggiungere swap, vedete lo script https://github.com/aws-deadline/deadline-cloud-samples/tree/mainline/host_configuration_scripts/overcommit_override_for_smf overcommit_override_for_smf sul sito web. GitHub