Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Memulai dengan instans yang dipercepat GPU
Jenis instans akselerasi GPU generasi terbaru, seperti yang ditunjukkan dalam daftar berikut memberikan kemampuan kinerja tertinggi untuk aplikasi pembelajaran mendalam dan komputasi kinerja tinggi (HPC). Pilih tautan jenis instans untuk mempelajari lebih lanjut tentang kemampuannya.
Untuk daftar lengkap spesifikasi tipe instans untuk jenis instans yang dipercepat, lihat Komputasi yang dipercepat di referensi Jenis Instans Amazon EC2.
Konfigurasi perangkat lunak
Cara termudah untuk memulai dengan jenis instans akselerasi GPU generasi terbaru adalah dengan meluncurkan instance dari AMI Pembelajaran AWS Mendalam yang telah dikonfigurasi sebelumnya dengan semua perangkat lunak yang diperlukan. Untuk informasi terbaru AWS Deep Learning AMIs untuk digunakan dengan jenis instans akselerasi GPU, lihat DLAMI yang Didukung P6 di Panduan Peng AWS Deep Learning AMIs embang.
Jika Anda perlu membuat AMI khusus untuk meluncurkan instans yang menghosting aplikasi pembelajaran mendalam atau HPC, sebaiknya instal versi perangkat lunak minimum berikut di atas image dasar Anda.
| Tipe instans | Driver NVIDIA | CUDA | NVIDIA GDRCopy | Penginstal EFA | NCCL | EFA K8s ¹ |
|---|---|---|---|---|---|---|
| G7 | 595 | 13.2 | 2.5.1 | 1.48.0 | 2.29.7-1 | 0.5.10 |
| G7e | 575 | 12.9 | 2.5 | 1.45.0 | 2.28.3 | 0.5.10 |
| P5 | 530 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.4.4 |
| P5.4xlarge | 530 | 12.1 | 2.3 | 1,43,1² | 2.18.3 | 0.4.4 |
| P5e | 550 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.5.5 |
| P5en | 550 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.5.6 |
| P6-B200 | 570 | 12.8 | 2.5 | 1.41.0 | 2.26.21 | 0.5.10 |
| P6e-GB200 | 570 | 12.8 | 2.5 | 1.41.0 | 2.26.21 | 0.5.10 |
| P6-B300 | 580 | 13.0 | 2.5 | 1.44.0 | 2.28.3 | 0.5.10 |
¹ Kol om EFA K8s berisi versi minimum yang direkomendasikan untuk. aws-efa-k8s-device-plugin
² Ada masalah kompatibilitas yang mempengaruhi P5.4xlarge contoh ketika GPU-to-GPU komunikasi menggunakan Elastic Fabric Adapter (EFA) dan NVIDIA Collective Communications Library (NCCL). Untuk mengurangi masalah, atur variabel lingkungan FI_HMEM_DISABLE_P2P ke1, dan pastikan Anda menginstal EFA versi 1.43.1 atau yang lebih baru.
catatan
Jika Anda menggunakan versi 1.41.0 dari penginstal EFA, diser aws-ofi-nccl plugin takan dengan itu. Untuk versi penginstal EFA yang lebih lama, gunakan aws-ofi-nccl plugin versi 1.7.2-aws atau yang lebih baru.
Kami juga menyarankan Anda mengonfigurasi instance agar tidak menggunakan lebih dalam C-states. Untuk informasi selengkapnya, lihat Kinerja tinggi dan latensi rendah dengan membatasi lebih C-states dalam di Panduan Pengguna Amazon Linux 2. AMI GPU AWS Deep Learning Base terbaru telah dikonfigurasi sebelumnya untuk tidak menggunakan lebih dalam. C-states
Untuk konfigurasi jaringan dan Elastic Fabric Adapter (EFA) lihatMaksimalkan bandwidth jaringan pada instans Amazon EC2 dengan beberapa kartu jaringan.
