

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 在 Amazon EC2 執行個體最佳化 GPU 設定
<a name="optimize_gpu"></a>

您可以執行數種 GPU 設定最佳化，讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型，NVIDIA 驅動程式會使用 Autoboost 功能，而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限，即可持續發揮 GPU 執行個體的最大效能。

## 在 Linux 最佳化 GPU 設定
<a name="optimize-gpu-linux"></a>

1. 設定 GPU 以保有持續性。此命令可能需要幾分鐘的執行時間。

   ```
   [ec2-user ~]$ sudo nvidia-persistenced
   ```

1. [僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

   ```
   [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
   ```

1. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

   某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度，會顯示錯誤 `"Setting applications clocks is not supported for GPU..."`，您可以忽略此錯誤。
   + G3 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{2505,1177}}
     ```
   + G4dn 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{5001,1590}}
     ```
   + G5 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{6250,1710}}
     ```
   + G6、G6f、Gr6 與 Gr6f 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{6251,2040}}
     ```
   + G6e 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{9001,2520}}
     ```
   + G7e 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{12481,2430}}
     ```
   + P2 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{2505,875}}
     ```
   + P3 和 P3dn 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{877,1530}}
     ```
   + P4d 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{1215,1410}}
     ```
   + P4de 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{1593,1410}}
     ```
   + P5 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{2619,1980}}
     ```
   + P5e 與 P5en 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{3201,1980}}
     ```
   + P6-B200 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{3996,1965}}
     ```
   + P6-B300 執行個體：

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{3996,2032}}
     ```

## 在 Windows 最佳化 GPU 設定
<a name="optimize-gpu-windows"></a>

1. 開啟 PowerShell 視窗，然後瀏覽至 NVIDIA 安裝資料夾。

   ```
   PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"
   ```

1. [僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

   ```
   PS C:\> .\nvidia-smi --auto-boost-default=0
   ```

1. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

   某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度，會顯示錯誤 `"Setting applications clocks is not supported for GPU..."`，您可以忽略此錯誤。
   + G3 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{2505,1177}}"
     ```
   + G4dn 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{5001,1590}}"
     ```
   + G5 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{6250,1710}}"
     ```
   + G6、G6f、Gr6 與 Gr6f 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{6251,2040}}"
     ```
   + G6e 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{9001,2520}}"
     ```
   + P2 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{2505,875}}"
     ```
   + P3 和 P3dn 執行個體：

     ```
     PS C:\> .\nvidia-smi -ac "{{877,1530}}"
     ```