Jalankan lowongan kerja GPU - AWS Batch

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Jalankan lowongan kerja GPU

Pekerjaan GPU membantu Anda menjalankan pekerjaan yang menggunakan instans. GPUs

Jenis instans EC2 berbasis GPU Amazon berikut didukung. Untuk informasi selengkapnya, lihat Instans Amazon EC2 G3, InstansAmazon EC2 G4, Instans Amazon G5, Instans EC2 AmazonG6, Instans EC2 Amazon P2, Instans Amazon EC2 P3, Instans EC2 Amazon EC2 P4d, Instans Amazon P5, InstansAmazon P6, Instans Amazon Trn1, InstansAmazon EC2 Trn2, Amazon EC2 EC2 EC2 https://aws.amazon.com/ec2/instance-types/inf1/ EC2 Instans Inf1, Instans Amazon EC2 Inf2, InstansAmazon Dl1, dan Instans EC2 Amazon Dl2. EC2

Jenis instans

GPUs

Memori GPU

v CPUs

Memori

Bandwith jaringan

g3s.xlarge

1

8 GiB

4

30,5 GiB

10 Gbps

g3.4xlarge

1

8 GiB

16

122 GiB

Hingga 10 Gbps

g3.8xlarge

2

16 GiB

32

244 GiB

10 Gbps

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gbps

g4dn.xlarge

1

16 GiB

4

16 GiB

Hingga 25 Gbps

g4dn.2xlarge

1

16 GiB

8

32 GiB

Hingga 25 Gbps

g4dn.4xlarge

1

16 GiB

16

64 GiB

Hingga 25 Gbps

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gbps

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gbps

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gbps

g5.xlarge

1

24 GiB

4

16 GiB

Hingga 10 Gbps

g5.2xlarge

1

24 GiB

8

32 GiB

Hingga 10 Gbps

g5.4xlarge

1

24 GiB

16

64 GiB

Hingga 25 Gbps

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g5.12xlarge

4

96 GiB

48

192 GiB

40 Gbps

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g5.48xlarge

8

192 GiB

192

768 GiB

100 Gbps

g5g.xlarge

1

16 GB

4

8 GB

Hingga 10 Gbps

g5g.2xlarge

1

16 GB

8

16 GB

Hingga 10 Gbps

g5g.4xlarge

1

16 GB

16

32 GB

Hingga 10 Gbps

g5g.8xlarge

1

16 GB

32

64 GB

12 Gbps

g5g.16xlarge

2

32 GB

64

128 GB

25 Gbps

g5g.metal

2

32 GB

64

128 GB

25 Gbps

g6.xlarge

1

24 GiB

4

16 GiB

Hingga 10 Gbps

g6.2xlarge

1

24 GiB

8

32 GiB

Hingga 10 Gbps

g6.4xlarge

1

24 GiB

16

64 GiB

Hingga 25 Gbps

g6.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g6.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g6.12xlarge

4

96 GiB

48

192 GiB

40 Gbps

g6.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g6.48xlarge

8

192 GiB

192

768 GiB

100 Gbps

g6e.xlarge

1

48 GB

4

32 GB

Hingga 20 Gbps

g6e.2xlarge

1

48 GB

8

64 GB

Hingga 20 Gbps

g6e.4xlarge

1

48 GB

16

128 GB

20 Gbps

g6e.8xlarge

1

48 GB

32

256 GB

25 Gbps

g6e.16xlarge

1

48 GB

64

512 GB

35 Gbps

g6e.12xlarge

4

192 GB

48

384 GB

100 Gbps

g6e.24xlarge

4

192 GB

96

768 GB

200 Gbps

g6e.48xlarge

8

384 GB

192

1536 GB

400 Gbps

gr6.4xbesar

1

24 GB

16

128 GB

Hingga 25 Gbps

gr6.8xbesar

1

24 GB

32

256 GB

25 Gbps

p2.xlarge

1

12 GiB

4

61 GiB

Tinggi

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gbps

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gbps

p3.2xlarge

1

16 GiB

8

61 GiB

Hingga 10 Gbps

p3.8xlarge

4

64 GiB

32

244 GiB

10 Gbps

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gbps

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gbps

p4d.24xlarge

8

320 GB

96

1152 GB

400 Gbps

p4de.24xlarge

8

640 GB

96

1152 GB

400 Gbps

p5.48xlarge

8

640 GiB

192

2 TiB

3200 Gbps

p5e.48xlarge

8

1128 GB

192

2 TB

3200 Gbps

p5en.48xlarge

8

1128 GB

192

2 TB

3200 Gbps

p6-b200.48xlarge

8

1440 GB

192

2 TB

100 Gbps

trn1.2xlarge

1

32 GB

8

32 GB

Hingga 12,5 Gbps

trn1.32xlarge

16

512 GB

128

512 GB

800 Gbps

trn1n.32xlarge

16

512 GB

128

512 GB

1600 Gbps

trn2.48xlarge

16

1,5 TB

192

2 TB

3,2 Tbps

inf1.xlarge

1

8 GB

4

8 GB

Hingga 25 Gbps

inf1.2xlarge

1

8 GB

8

16 GB

Hingga 25 Gbps

inf1.6xlarge

4

32 GB

24

48 GB

25 Gbps

inf1.24xlarge

16

128 GB

96

192 GB

100 Gbps

inf2.xlarge

1

32 GB

4

16 GB

Hingga 15 Gbps

inf2.8xlarge

1

32 GB

32

128 GB

Hingga 25 Gbps

inf2.24xlarge

6

192 GB

96

384 GB

50 Gbps

inf2.48xlarge

12

384 GB

192

768 GB

100 Gbps

dl1.24xlarge

8

256 GB

96

768 GB

400 Gbps

dl2q.24xlarge

8

128 GB

96

768 GB

100 Gbps
catatan

Untuk pekerjaan GPU AWS Batch hanya mendukung jenis instans yang memiliki NVIDIA GPUs. Misalnya, G4adkeluarga tidak didukung untuk penjadwalan GPU. Anda masih dapat menggunakannya G4ad AWS Batch dengan mendefinisikan hanya persyaratan vcpu dan memori dalam definisi pekerjaan, kemudian mengakses host GPUs secara langsung melalui penyesuaian dalam data pengguna template EC2 peluncuran Amazon dengan AMI yang dioptimalkan untuk komputasi Amazon ECS atau Amazon EKS, atau AMI yang disesuaikan untuk menggunakan AMD. GPUs

Jenis instans yang menggunakan ARM64 arsitektur didukung untuk pekerjaan GPU pada data EC2 pengguna yang AMIs disediakan khusus AWS Batch atau Amazon untuk mengakses kode dan konfigurasi yang disesuaikan. GPUs Misalnya, keluarga G5gcontoh.

Parameter ResourceRequirements untuk definisi pekerjaan menentukan jumlah yang akan disematkan GPUs ke wadah. Jumlah ini GPUs tidak tersedia untuk pekerjaan lain yang berjalan pada contoh itu selama durasi pekerjaan itu. Semua tipe instans dalam lingkungan komputasi yang menjalankan pekerjaan GPU harus berasal dari keluargap3,,p4,p5,p6,g3,g3s, g4g5, atau g6 instance. Jika hal ini tidak dilakukan, tugas GPU mungkin akan terjebak di status RUNNABLE.

Pekerjaan yang tidak menggunakan GPUs dapat dijalankan pada instance GPU. Namun, mungkin diperlukan biaya lebih untuk menjalankannya di instans GPU daripada di instans non-GPU yang serupa. Tergantung pada vCPU, memori, dan waktu tertentu yang diperlukan, tugas non-GPU ini mungkin memblokir berjalannya tugas GPU.

Topik