Memulai instans yang dipercepat GPU - Amazon Elastic Compute Cloud

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memulai instans yang dipercepat GPU

Generasi terbaru dari jenis instans akselerasi GPU, seperti yang ditunjukkan dalam daftar berikut memberikan kemampuan kinerja tertinggi untuk pembelajaran mendalam dan aplikasi komputasi kinerja tinggi (HPC). Pilih tautan jenis instans untuk mempelajari lebih lanjut tentang kemampuannya.

Untuk daftar lengkap spesifikasi tipe instans untuk tipe instans yang dipercepat, lihat Komputasi yang dipercepat dalam referensi Jenis EC2 Instance Amazon.

Konfigurasi perangkat lunak

Cara termudah untuk memulai dengan jenis instans akselerasi GPU generasi terbaru adalah dengan meluncurkan instance dari AMI Pembelajaran AWS Mendalam yang telah dikonfigurasi sebelumnya dengan semua perangkat lunak yang diperlukan. Untuk informasi terbaru AWS Deep Learning AMIs untuk digunakan dengan jenis instans akselerasi GPU, lihat DLAMI yang Didukung P6 di Panduan Pengembang.AWS Deep Learning AMIs

Jika Anda perlu membuat AMI khusus untuk meluncurkan instance yang menghosting pembelajaran mendalam atau aplikasi HPC, kami sarankan Anda menginstal versi perangkat lunak minimum berikut di atas gambar dasar Anda.

Jenis instans Pengemudi NVIDIA CUDA NVIDIA GDRCopy Pemasang EFA NCCL EFA K8*
P5 530 12.1 2.3 1.24.1 2.18.3 0.4.4
P5e 550 12.1 2.3 1.24.1 2.18.3 0.5.5
P5en 550 12.1 2.3 1.24.1 2.18.3 0.5.6
P6-B200 570 12.8 2.5 1.4.1 2.26.2-1 0.5.10

* Kolom EFA K8s berisi versi minimum yang direkomendasikan untuk. aws-efa-k8s-device-plugin

catatan

Jika Anda menggunakan versi 1.4.1 dari installer EFA, aws-ofi-nccl plugin disertakan dengan itu. Untuk versi installer EFA sebelumnya, gunakan aws-ofi-nccl plugin versi 1.7.2-aws atau yang lebih baru.

Kami juga menyarankan agar Anda mengonfigurasi instans agar tidak menggunakan status C yang lebih dalam. Untuk informasi selengkapnya, lihat Kinerja tinggi dan latensi rendah dengan membatasi status C yang lebih dalam di Panduan Pengguna Amazon Linux 2. GPU AWS Deep Learning Base terbaru telah AMIs dikonfigurasi sebelumnya untuk tidak menggunakan C-state yang lebih dalam.

Untuk konfigurasi jaringan dan Elastic Fabric Adapter (EFA) lihat. Maksimalkan bandwidth jaringan di EC2 instans Amazon dengan beberapa kartu jaringan