Ottimizza le impostazioni GPU sulle istanze Amazon EC2 - Amazon Elastic Compute Cloud

Ottimizza le impostazioni GPU sulle istanze Amazon EC2

Esistono molte ottimizzazioni delle impostazioni GPU che puoi effettuare per raggiungere le prestazioni ottimali sulle istanze NVIDIA GPU. Con alcuni di questi tipi di istanze, il driver NVIDIA utilizza una funzione autoboost, che varia le velocità di clock della GPU. Disattivando l'autoboost e impostando le velocità di clock delle GPU sulla loro frequenza massima è possibile ottenere prestazioni ottimali costanti delle istanze GPU.

  1. Configurare le impostazioni GPU per renderle persistenti. L'esecuzione di questo comando può richiedere diversi minuti.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Solo istanze G3 e P2] Disabilitare la funzionalità autoboost per tutte le GPU sull'istanza.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Impostare tutte le velocità di clock delle GPU sulla frequenza massima. Utilizzare le velocità di clock di memoria e grafica specificate nei comandi seguenti.

    Alcune versioni del driver NVIDIA non supportano l'impostazione della velocità di clock dell'applicazione e visualizzano l'errore "Setting applications clocks is not supported for GPU...", che può essere ignorato.

    • Istanze G3:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • Istanze G4dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • Istanze G5:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • Istanze G6, G6f, Gr6 e Gr6f:

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • Istanze G6e:

      [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520

    • Istanze P2:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • Istanze P3 e P3dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • Istanze P4d:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Istanze P4de:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Istanze P5:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

    • Istanze P5e e P5en:

      [ec2-user ~]$ sudo nvidia-smi -ac 3201,1980

    • Istanze P6-B200:

      [ec2-user ~]$ sudo nvidia-smi -ac 3996,1965

  1. Aprire una nuova finestra di PowerShell e passare alla cartella di installazione NVIDIA.

    PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"

  2. [Solo istanze G3 e P2] Disabilitare la funzionalità autoboost per tutte le GPU sull'istanza.

    PS C:\> .\nvidia-smi --auto-boost-default=0

  3. Impostare tutte le velocità di clock delle GPU sulla frequenza massima. Utilizzare le velocità di clock di memoria e grafica specificate nei comandi seguenti.

    Alcune versioni del driver NVIDIA non supportano l'impostazione della velocità di clock dell'applicazione e visualizzano l'errore "Setting applications clocks is not supported for GPU...", che può essere ignorato.

    • Istanze G3:

      PS C:\> .\nvidia-smi -ac "2505,1177"

    • Istanze G4dn:

      PS C:\> .\nvidia-smi -ac "5001,1590"

    • Istanze G5:

      PS C:\> .\nvidia-smi -ac "6250,1710"

    • Istanze G6, G6f, Gr6 e Gr6f:

      PS C:\> .\nvidia-smi -ac "6251,2040"

    • Istanze G6e:

      PS C:\> .\nvidia-smi -ac "9001,2520"

    • Istanze P2:

      PS C:\> .\nvidia-smi -ac "2505,875"

    • Istanze P3 e P3dn:

      PS C:\> .\nvidia-smi -ac "877,1530"