View a markdown version of this page

Führen Sie GPU-Jobs aus - AWS Batch

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Führen Sie GPU-Jobs aus

GPU-Jobs helfen Ihnen dabei, Jobs auszuführen, die die GPUs einer Instanz verwenden.

Die folgenden Amazon EC2 GPU-based EC2-Instance-Typen werden unterstützt. Weitere Informationen finden Sie unter Amazon EC2 G3-Instances, Amazon EC2 G4-Instances, Amazon EC2 G5-Instances, Amazon EC2 G6-Instances, Amazon EC2 P3-Instances, Amazon EC2 P4d-Instances, Amazon EC2 P5-Instances, Amazon EC2 P6-Instances, Amazon EC2 Trn1-Instances, Amazon EC2 Trn2-Instances, Amazon EC2 Inf1-Instances, Amazon EC2 Inf2 Instances 2 Instanzen, Amazon EC2 Dl1-Instances und Amazon EC2 Dl2-Instances.

Instance-Typ

GPUs

GPU-Arbeitsspeicher

vCPUs

Arbeitsspeicher

Netzwerkbandbreite

g3s.xgroß

1

8 GiB

4

30,5 GiB

10 Gbit/s

g3.4xgroß

1

8 GiB

16

122 GiB

Bis zu 10 Gbit/s

g3.8xgroß

2

16 GiB

32

244 GiB

10 Gbit/s

g3.16xgroß

4

32 GiB

64

488 GiB

25 Gbit/s

g4dn.xgroß

1

16 GiB

4

16 GiB

Bis zu 25 Gbit/s

g4dn.2xgroß

1

16 GiB

8

32 GiB

Bis zu 25 Gbit/s

g4dn.4xgroß

1

16 GiB

16

64 GiB

Bis zu 25 Gbit/s

g4dn.8xgroß

1

16 GiB

32

128 GiB

50 Gbit/s

g4dn.12xgroß

4

64 GiB

48

192 GiB

50 Gbit/s

g4dn.16xgroß

1

16 GiB

64

256 GiB

50 Gbit/s

g5.xgroß

1

24 GiB

4

16 GiB

Bis zu 10 Gbit/s

g5.2xlarge

1

24 GiB

8

32 GiB

Bis zu 10 Gbit/s

g5.4xlarge

1

24 GiB

16

64 GiB

Bis zu 25 Gbit/s

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gbit/s

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gbit/s

g5.12xlarge

4

96 GiB

48

192 GiB

40 GBit/s

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gbit/s

g5.48xlarge

8

192 GiB

192

768 GiB

100 Gbit/s

g5g.xlarge

1

16 GiB

4

8 GiB

Bis zu 10 Gbit/s

g5g.2xlarge

1

16 GiB

8

16 GiB

Bis zu 10 Gbit/s

g5g.4xlarge

1

16 GiB

16

32 GiB

Bis zu 10 Gbit/s

g5g.8xlarge

1

16 GiB

32

64 GiB

12 Gbit/s

g5g.16xlarge

2

32 GiB

64

128 GiB

25 Gbit/s

g5g.metal

2

32 GiB

64

128 GiB

25 Gbit/s

g6.xlarge

1

24 GiB

4

16 GiB

Bis zu 10 Gbit/s

g6.2xlarge

1

24 GiB

8

32 GiB

Bis zu 10 Gbit/s

g6.4xlarge

1

24 GiB

16

64 GiB

Bis zu 25 Gbit/s

g6.8xlarge

1

24 GiB

32

128 GiB

25 Gbit/s

g6.16xlarge

1

24 GiB

64

256 GiB

25 Gbit/s

g6.12xlarge

4

96 GiB

48

192 GiB

40 GBit/s

g6.24xlarge

4

96 GiB

96

384 GiB

50 Gbit/s

g6.48xlarge

8

192 GiB

192

768 GiB

100 Gbit/s

g6e.xlarge

1

48 GiB

4

32 GiB

Bis zu 20 Gbit/s

g6e.2xlarge

1

48 GiB

8

64 GiB

Bis zu 20 Gbit/s

g6e.4xlarge

1

48 GiB

16

128 GiB

20 Gbit/s

g6e.8xlarge

1

48 GiB

32

256 GiB

25 Gbit/s

g6e.16xlarge

1

48 GiB

64

512 GiB

35 Gbit/s

g6e.12xlarge

4

192 GiB

48

384 GiB

100 Gbit/s

g6e.24xlarge

4

192 GiB

96

768 GiB

200 Gbit/s

g6e.48xlarge

8

384 GiB

192

1536 GiB

400 Gbit/s

gr6.4xlarge

1

24 GiB

16

128 GiB

Bis zu 25 Gbit/s

gr6.8xlarge

1

24 GiB

32

256 GiB

25 Gbit/s

p2.xgroß

1

12 GiB

4

61 GiB

Hoch

p2.8xgroß

8

96 GiB

32

488 GiB

10 Gbit/s

p2.16xgroß

16

192 GiB

64

732 GiB

20 Gbit/s

p3.2xgroß

1

16 GiB

8

61 GiB

Bis zu 10 Gbit/s

p3.8xgroß

4

64 GiB

32

244 GiB

10 Gbit/s

p3.16xgroß

8

128 GiB

64

488 GiB

25 Gbit/s

p3dn.24xgroß

8

256 GiB

96

768 GiB

100 Gbit/s

p4d.24xgroß

8

320 GiB

96

1152 GiB

400 Gbit/s

p4de.24xlarge

8

640 GiB

96

1152 GiB

400 Gbit/s

p5.48xlarge

8

640 GiB

192

2 TiB

3200 Gbit/s

p5e.48xlarge

8

1128 GiB

192

2 TiB

3200 Gbit/s

p5en.48xlarge

8

1128 GiB

192

2 TiB

3200 Gbit/s

p6-b200.48xlarge

8

1440 GiB

192

2 TiB

100 Gbit/s

trn1.2xlarge

1

32 GiB

8

32 GiB

Bis zu 12,5 GBit/s

trn1.32xlarge

16

512 GiB

128

512 GiB

800 Gbit/s

trn1n.32xlarge

16

512 GiB

128

512 GiB

1600 Gbit/s

trn2.48xlarge

16

1,5 TiB

192

2 TiB

3,2 Tbit/s

inf1.xlarge

1

8 GiB

4

8 GiB

Bis zu 25 Gbit/s

inf1.2xlarge

1

8 GiB

8

16 GiB

Bis zu 25 Gbit/s

inf1.6xlarge

4

32 GiB

24

48 GiB

25 Gbit/s

inf1.24xlarge

16

128 GiB

96

192 GiB

100 Gbit/s

inf2.xlarge

1

32 GiB

4

16 GiB

Bis zu 15 GBit/s

inf2.8xlarge

1

32 GiB

32

128 GiB

Bis zu 25 Gbit/s

inf2.24xlarge

6

192 GiB

96

384 GiB

50 Gbit/s

inf2.48xlarge

12

384 GiB

192

768 GiB

100 Gbit/s

dl1.24xlarge

8

256 GiB

96

768 GiB

400 Gbit/s

dl2q.24xlarge

8

128 GiB

96

768 GiB

100 Gbit/s
Anmerkung

Unterstützt für GPU-Jobs AWS Batch nur Instance-Typen mit NVIDIA-GPUs. Beispielsweise wird die G4adFamilie für die GPU-Planung nicht unterstützt. Sie können weiterhin G4adon verwenden, AWS Batch indem Sie nur die vCPU- und Speicheranforderungen in der Auftragsdefinition definieren und dann direkt auf die Host-GPUs zugreifen, indem Sie Benutzerdaten in einer Amazon EC2 EC2-Startvorlage mit einem rechneroptimierten AMI von Amazon ECS oder Amazon EKS oder einem benutzerdefinierten AMI für die Verwendung von AMD-GPUs anpassen.

Instance-Typen, die eine ARM64-Architektur verwenden, werden für GPU-Jobs auf benutzerdefinierten AMIs unterstützt, die für Amazon EC2 EC2-Benutzerdaten bereitgestellt werden, um über benutzerdefinierten Code und Konfigurationen auf die GPUs zuzugreifen. AWS Batch Zum Beispiel die Instance-Familie. G5g

Der Parameter ResourceRequirements für die Jobdefinition gibt die Anzahl der GPUs an, die an den Container angeheftet werden sollen. Diese Anzahl von GPUs ist für die Dauer dieses Auftrags für keinen anderen Job verfügbar, der auf dieser Instanz ausgeführt wird. Alle Instance-Typen in einer Rechenumgebung, die GPU-Jobs ausführenp3, müssen zu den g6 Instance-Familien p4 p5p6,g3,g3s,g4,g5,, oder gehören. Geschieht dies nicht, kann es sein, dass ein GPU-Job im RUNNABLE Status hängen bleibt.

Jobs, die die GPUs nicht verwenden, können auf GPU-Instanzen ausgeführt werden. Ihre Ausführung auf GPU-Instanzen kann jedoch mehr kosten als auf ähnlichen Nicht-GPU-Instanzen. Abhängig von der spezifischen vCPU, dem Arbeitsspeicher und der benötigten Zeit können diese Nicht-GPU-Jobs die Ausführung von GPU-Jobs blockieren.

Themen