Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Memulai instans yang dipercepat GPU
Generasi terbaru dari jenis instans akselerasi GPU, seperti yang ditunjukkan dalam daftar berikut memberikan kemampuan kinerja tertinggi untuk pembelajaran mendalam dan aplikasi komputasi kinerja tinggi (HPC). Pilih tautan jenis instans untuk mempelajari lebih lanjut tentang kemampuannya.
Untuk daftar lengkap spesifikasi tipe instans untuk tipe instans yang dipercepat, lihat Komputasi yang dipercepat dalam referensi Jenis EC2 Instance Amazon.
Konfigurasi perangkat lunak
Cara termudah untuk memulai dengan jenis instans akselerasi GPU generasi terbaru adalah dengan meluncurkan instance dari AMI Pembelajaran AWS Mendalam yang telah dikonfigurasi sebelumnya dengan semua perangkat lunak yang diperlukan. Untuk informasi terbaru AWS Deep Learning AMIs untuk digunakan dengan jenis instans akselerasi GPU, lihat DLAMI yang Didukung P6 di Panduan Pengembang.AWS Deep Learning AMIs
Jika Anda perlu membuat AMI khusus untuk meluncurkan instance yang menghosting pembelajaran mendalam atau aplikasi HPC, kami sarankan Anda menginstal versi perangkat lunak minimum berikut di atas gambar dasar Anda.
Jenis instans | Pengemudi NVIDIA | CUDA | NVIDIA GDRCopy | Pemasang EFA | NCCL | EFA K8* |
---|---|---|---|---|---|---|
P5 | 530 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.4.4 |
P5e | 550 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.5.5 |
P5en | 550 | 12.1 | 2.3 | 1.24.1 | 2.18.3 | 0.5.6 |
P6-B200 | 570 | 12.8 | 2.5 | 1.4.1 | 2.26.2-1 | 0.5.10 |
* Kolom EFA K8s berisi versi minimum yang direkomendasikan untuk. aws-efa-k8s-device-plugin
catatan
Jika Anda menggunakan versi 1.4.1 dari installer EFA, aws-ofi-nccl plugin
disertakan dengan itu. Untuk versi installer EFA sebelumnya, gunakan aws-ofi-nccl plugin
versi 1.7.2-aws
atau yang lebih baru.
Kami juga menyarankan agar Anda mengonfigurasi instans agar tidak menggunakan status C yang lebih dalam. Untuk informasi selengkapnya, lihat Kinerja tinggi dan latensi rendah dengan membatasi status C yang lebih dalam di Panduan Pengguna Amazon Linux 2. GPU AWS Deep Learning Base terbaru telah AMIs dikonfigurasi sebelumnya untuk tidak menggunakan C-state yang lebih dalam.
Untuk konfigurasi jaringan dan Elastic Fabric Adapter (EFA) lihat. Maksimalkan bandwidth jaringan di EC2 instans Amazon dengan beberapa kartu jaringan