DLAMI compatível com P6 - AMIs de deep learning da AWS
DLAMI compatível com P6Teste de funcionalidade da GPU

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

DLAMI compatível com P6

Abaixo estão os requisitos detalhados para executar o DLAMI nas instâncias P6 da Amazon EC2

P6 suportado DLAMIs

As seguintes DLAMI oferecem suporte a instâncias P6:

Esses DLAMI contêm o seguinte software necessário para operar instâncias P6-B200:

Software

Requisito mínimo de versão

Kit de ferramentas Nvidia CUDA

12,8

Controlador Nvidia

R570

NVLINK 5

R570

Kernel Linux

6.1

Elastic Fabric Adapter (EFA)

1.41.0

AWS Plug-in OFI NCCL

1.15.0

Confirme a funcionalidade da GPU

Para confirmar o funcionamento GPUs:

  1. Execute o seguinte teste de consulta de dispositivo de GPU Nvidia

    $ /usr/local/cuda/extras/demo_suite/deviceQuery

  2. Confirme a seguinte saída do Device Query Run: 

    $ /usr/local/cuda/extras/demo_suite/deviceQuery 
/usr/local/cuda/extras/demo_suite/deviceQuery Starting...

 CUDA Device Query (Runtime API)

Detected 8 CUDA Capable device(s)
...
deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 12.8, CUDA Runtime Version = 12.8, NumDevs = 8, Device0 = NVIDIA B200, Device1 = NVIDIA B200, Device2 = NVIDIA B200, Device3 = NVIDIA B200, Device4 = NVIDIA B200, Device5 = NVIDIA B200, Device6 = NVIDIA B200, Device7 = NVIDIA B200
Result = PASS

Para confirmar o funcionamento do driver NVIDIA:

  1. Execute a interface de gerenciamento do sistema Nvidia

    $ nvidia-smi

  2. Confirme a seguinte saída da interface de gerenciamento do sistema 

    +-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.133.20             Driver Version: 570.133.20     CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA B200                    Off |   00000000:51:00.0 Off |                    0 |
| N/A   32C    P0            145W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   1  NVIDIA B200                    Off |   00000000:52:00.0 Off |                    0 |
| N/A   30C    P0            140W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   2  NVIDIA B200                    Off |   00000000:62:00.0 Off |                    0 |
| N/A   31C    P0            139W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   3  NVIDIA B200                    Off |   00000000:63:00.0 Off |                    0 |
| N/A   29C    P0            139W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   4  NVIDIA B200                    Off |   00000000:75:00.0 Off |                    0 |
| N/A   31C    P0            141W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   5  NVIDIA B200                    Off |   00000000:76:00.0 Off |                    0 |
| N/A   31C    P0            141W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   6  NVIDIA B200                    Off |   00000000:86:00.0 Off |                    0 |
| N/A   32C    P0            141W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
|   7  NVIDIA B200                    Off |   00000000:87:00.0 Off |                    0 |
| N/A   30C    P0            138W / 1000W |       0MiB / 183359MiB |      0%      Default |
|                                         |                        |             Disabled |
+-----------------------------------------+------------------------+----------------------+
                                                                                         
+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI              PID   Type   Process name                        GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+

Se você tiver algum problema com as instâncias P6-B200, entre em contato com o Support. AWS