Exécuter des tâches GPU - AWS Batch

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Exécuter des tâches GPU

Les tâches GPU vous aident à exécuter des tâches qui utilisent celles d'une instance GPUs.

Les types d'instances EC2 basés sur le GPU Amazon suivants sont pris en charge. Pour plus d'informations, consultez les instances Amazon EC2 G3, les instancesAmazon EC2 G4, les instancesAmazon EC2 G5, les instances Amazon G6, les EC2 instances Amazon EC2 P2,les instances Amazon EC2 P3, les instancesAmazon EC2 P4d, les instancesAmazon EC2 P5, les instancesAmazon P6, les instances Amazon Trn1, les EC2 instances Amazon Trn2,Amazon EC2 EC2 EC2 Instances Inf1, instances Amazon EC2 Inf2, instances Amazon EC2 Dl1 et instances Amazon EC2 Dl2.

Type d’instance

GPUs

Mémoire GPU

v CPUs

Mémoire

Bande passante réseau

g3s.xlarge

1

8 GiO

4

30,5 GiB

10 Gbit/s

g3.4xlarge

1

8 GiO

16

122 GiB

Jusqu'à 10 Gbit/s

g3.8xlarge

2

16 GiO

32

244 GiB

10 Gbit/s

g3.16xlarge

4

32 GiO

64

488 GiB

25 Gb/s

g4dn.xlarge

1

16 GiO

4

16 GiO

Jusqu'à 25 Gbit/s

g4dn.2xlarge

1

16 GiO

8

32 GiO

Jusqu'à 25 Gbit/s

g4dn.4xlarge

1

16 GiO

16

64 Go

Jusqu'à 25 Gbit/s

g4dn.8xlarge

1

16 GiO

32

128 Gio

50 Gb/s

g4dn.12xlarge

4

64 Go

48

192 Go

50 Gb/s

g4dn.16xlarge

1

16 GiO

64

256 Gio

50 Gb/s

g5.xlarge

1

24 GiO

4

16 GiO

Jusqu'à 10 Gbit/s

g5.2xlarge

1

24 GiO

8

32 GiO

Jusqu'à 10 Gbit/s

g5.4xlarge

1

24 GiO

16

64 Go

Jusqu'à 25 Gbit/s

g5.8xlarge

1

24 GiO

32

128 Gio

25 Gb/s

g5.16xlarge

1

24 GiO

64

256 Gio

25 Gb/s

g5.12xlarge

4

96 GiB

48

192 Go

40 Gbit/s

g5.24xlarge

4

96 GiB

96

384 Go

50 Gb/s

g5.48xlarge

8

192 Go

192

768 Gio

100 Gbit/s

g5g.xlarge

1

16 GiO

4

8 GiO

Jusqu'à 10 Gbit/s

g5g.2xlarge

1

16 GiO

8

16 GiO

Jusqu'à 10 Gbit/s

g5g.4xlarge

1

16 GiO

16

32 GiO

Jusqu'à 10 Gbit/s

g5g.8xlarge

1

16 GiO

32

64 Go

12 Gb/s

g5g.16xlarge

2

32 GiO

64

128 Gio

25 Gb/s

g5g.metal

2

32 GiO

64

128 Gio

25 Gb/s

g6.xlarge

1

24 GiO

4

16 GiO

Jusqu'à 10 Gbit/s

g 6,2 x large

1

24 GiO

8

32 GiO

Jusqu'à 10 Gbit/s

g 6,4 x large

1

24 GiO

16

64 Go

Jusqu'à 25 Gbit/s

g 6,8 x large

1

24 GiO

32

128 Gio

25 Gb/s

g 6,16 x large

1

24 GiO

64

256 Gio

25 Gb/s

g 6,12 x large

4

96 GiB

48

192 Go

40 Gbit/s

g 6,24 x large

4

96 GiB

96

384 Go

50 Gb/s

g 6,48 x large

8

192 Go

192

768 Gio

100 Gbit/s

g6e.xlarge

1

48 GiO

4

32 GiO

Jusqu'à 20 Gbit/s

g6e.2xlarge

1

48 GiO

8

64 Go

Jusqu'à 20 Gbit/s

g6e.4xlarge

1

48 GiO

16

128 Gio

20 Gbit/s

6 x 8 x large

1

48 GiO

32

256 Gio

25 Gb/s

G6E, 16 x large

1

48 GiO

64

512 Gio

35 Gbit/s

G6E, 12 x large

4

192 Go

48

384 Go

100 Gbit/s

G6E, 24 x large

4

192 Go

96

768 Gio

200 Gb/s

g 6 e 48 x large

8

384 Go

192

1536 GiB

400 Gb/s

gr6,4 x large

1

24 GiO

16

128 Gio

Jusqu'à 25 Gbit/s

gr6,8 x large

1

24 GiO

32

256 Gio

25 Gb/s

p2.xlarge

1

12 GiO

4

61 GiB

Élevé

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gbit/s

p2.16xlarge

16

192 Go

64

732 GiB

20 Gbit/s

p3.2xlarge

1

16 GiO

8

61 GiB

Jusqu'à 10 Gbit/s

p3.8xlarge

4

64 Go

32

244 GiB

10 Gbit/s

p3.16xlarge

8

128 Gio

64

488 GiB

25 Gb/s

p3dn.24xlarge

8

256 Gio

96

768 Gio

100 Gbit/s

p4d.24xlarge

8

320 GiB

96

1152 GiB

400 Gb/s

p4de.24xlarge

8

640 GiB

96

1152 GiB

400 Gb/s

p5.48xlarge

8

640 GiB

192

2 Tio

3200 Gbit/s

p5e.48 x large

8

1128 GiB

192

2 Tio

3200 Gbit/s

p 5 en 48 x large

8

1128 GiB

192

2 Tio

3200 Gbit/s

p6-b200.48 x large

8

1440 GiB

192

2 Tio

100 Gbit/s

trn1.2xlarge

1

32 GiO

8

32 GiO

Jusqu'à 12,5 Gbps

trn1.32xlarge

16

512 Gio

128

512 Gio

800 Gb/s

trn1n.32xlarge

16

512 Gio

128

512 Gio

1600 Gbit/s

trn 2,48 x large

16

1,5 Tio

192

2 Tio

3,2 Tbit/s

inf1.xlarge

1

8 GiO

4

8 GiO

Jusqu'à 25 Gbit/s

inf1.2xlarge

1

8 GiO

8

16 GiO

Jusqu'à 25 Gbit/s

inf1.6xlarge

4

32 GiO

24

48 GiO

25 Gb/s

inf1.24xlarge

16

128 Gio

96

192 Go

100 Gbit/s

inf2.xlarge

1

32 GiO

4

16 GiO

Jusqu'à 15 Gbit/s

inf2.8xlarge

1

32 GiO

32

128 Gio

Jusqu'à 25 Gbit/s

inf2.24xlarge

6

192 Go

96

384 Go

50 Gb/s

inf2.48xlarge

12

384 Go

192

768 Gio

100 Gbit/s

dl1.24xlarge

8

256 Gio

96

768 Gio

400 Gb/s

dl2q.24xlarge

8

128 Gio

96

768 Gio

100 Gbit/s

Note

Pour les tâches GPU, AWS Batch seuls les types d'instance dotés de NVIDIA sont pris en charge GPUs. Par exemple, la G4adfamille n'est pas prise en charge pour la planification du GPU. Vous pouvez toujours utiliser cette option G4ad AWS Batch en définissant uniquement les exigences en termes de processeur virtuel et de mémoire dans la définition de la tâche, puis en accédant GPUs directement à l'hôte en personnalisant les données utilisateur d'un modèle de EC2 lancement Amazon avec une AMI optimisée pour le calcul Amazon ECS ou Amazon EKS, ou une AMI personnalisée pour l'utilisation d'AMD GPUs.

Les types d'instances qui utilisent une ARM64 architecture sont pris en charge pour les tâches GPU sur mesure AMIs fournies à des données EC2 utilisateur Amazon AWS Batch ou pour y accéder GPUs par un code et des configurations personnalisés. Par exemple, la famille d'G5ginstances.

Le paramètre ResourceRequirements pour la définition de tâche indique le nombre de GPUs à épingler au conteneur. Ce nombre de GPUs n'est disponible pour aucune autre tâche exécutée sur cette instance pendant la durée de cette tâche. Dans un environnement informatique, tous les types d'instances qui exécutent des tâches GPU doivent appartenir aux familles d'g6instances p3 p4 p5 p6 g3g3s,g4,g5,,, ou. Si cela n'est pas fait, une tâche du GPU risque de rester bloquée dans l'RUNNABLEétat.

Les tâches qui n'utilisent pas le GPUs peuvent être exécutées sur des instances de GPU. Cependant, leur exécution sur les instances GPU peut être plus coûteuse que sur des instances similaires non GPU. En fonction du vCPU, de la mémoire et du temps nécessaires, ces tâches non liées au GPU peuvent bloquer l'exécution des tâches GPU.