Esegui lavori GPU - AWS Batch

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Esegui lavori GPU

I job GPU consentono di eseguire lavori che utilizzano un'istanza. GPUs

Sono supportati i seguenti tipi di istanze EC2 basate su Amazon GPU. Per ulteriori informazioni, consulta Istanze Amazon EC2 G3, Istanze Amazon EC2 G4, Istanze Amazon G5, Istanze EC2 AmazonG6, Istanze EC2 Amazon P2, Istanze Amazon EC2 P3, Istanze EC2 Amazon EC2 P4d, Istanze Amazon P5, IstanzeAmazon P6, Istanze Amazon Trn1, IstanzeAmazon EC2 Trn2, Amazon EC2 EC2 EC2 https://aws.amazon.com/ec2/instance-types/inf1/ EC2 Istanze Inf1, istanze Amazon EC2 Inf2, istanzeAmazon Dl1 e istanze EC2 Amazon Dl2. EC2

Tipo di istanza

GPUs

Memoria GPU

v CPUs

Memoria

Larghezza di banda di rete

g3s.xlarge

1

8 GiB

4

30,5 GiB

10 Gb/s

g3.4xlarge

1

8 GiB

16

122 GiB

Fino a 10 Gb/s

g3.8xlarge

2

16 GiB

32

24 GiB

10 Gb/s

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gb/s

g4dn.xlarge

1

16 GiB

4

16 GiB

Fino a 25 Gb/s

g4dn.2xlarge

1

16 GiB

8

32 GiB

Fino a 25 Gb/s

g4dn.4xlarge

1

16 GiB

16

64 GiB

Fino a 25 Gb/s

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gb/s

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gb/s

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gb/s

g5.xlarge

1

24 GiB

4

16 GiB

Fino a 10 Gb/s

g5.2xlarge

1

24 GiB

8

32 GiB

Fino a 10 Gb/s

g5.4xlarge

1

24 GiB

16

64 GiB

Fino a 25 Gb/s

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gb/s

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gb/s

g5.12xlarge

4

96 GiB

48

192 GiB

40 Gb/s

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gb/s

g5.48xlarge

8

192 GiB

192

768 GiB

100 Gb/s

g5g.xlarge

1

16 GiB

4

8 GiB

Fino a 10 Gb/s

g5g.2xlarge

1

16 GiB

8

16 GiB

Fino a 10 Gb/s

g5g.4xlarge

1

16 GiB

16

32 GiB

Fino a 10 Gb/s

g5g.8xlarge

1

16 GiB

32

64 GiB

12 GBps

g5g.16xlarge

2

32 GiB

64

128 GiB

25 Gb/s

g5g.metal

2

32 GiB

64

128 GiB

25 Gb/s

g6.x grande

1

24 GiB

4

16 GiB

Fino a 10 Gb/s

g 6,2 x grande

1

24 GiB

8

32 GiB

Fino a 10 Gb/s

g 6,4 x grande

1

24 GiB

16

64 GiB

Fino a 25 Gb/s

g 6,8 x grande

1

24 GiB

32

128 GiB

25 Gb/s

g 6,16 x grande

1

24 GiB

64

256 GiB

25 Gb/s

g 6,12 x grande

4

96 GiB

48

192 GiB

40 Gb/s

g 6,24 x grande

4

96 GiB

96

384 GiB

50 Gb/s

g 6,48 x grande

8

192 GiB

192

768 GiB

100 Gb/s

g6e.xlarge

1

48 GiB

4

32 GiB

Fino a 20 Gbps

G6 e.2x grande

1

48 GiB

8

64 GiB

Fino a 20 Gbps

G6e.4xlarge

1

48 GiB

16

128 GiB

20 Gb/s

G 6. 8x grande

1

48 GiB

32

256 GiB

25 Gb/s

G6 e.16 x grande

1

48 GiB

64

512 GiB

35 Gbps

G6 e.12 x grande

4

192 GiB

48

384 GiB

100 Gb/s

g 6 e.24 x grande

4

192 GiB

96

768 GiB

200 Gb/s

G6 e.48 x grande

8

384 GiB

192

1536 GiB

400 Gb/s

gr 6,4 x grande

1

24 GiB

16

128 GiB

Fino a 25 Gb/s

gr 6,8 x grande

1

24 GiB

32

256 GiB

25 Gb/s

p2.xlarge

1

12 GiB

4

61 GiB

Elevata

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gb/s

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gb/s

p3.2xlarge

1

16 GiB

8

61 GiB

Fino a 10 Gb/s

p3.8xlarge

4

64 GiB

32

24 GiB

10 Gb/s

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gb/s

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gb/s

p4d.24xlarge

8

320 GiB

96

1152 GiB

400 Gb/s

p4de.24xlarge

8

640 GiB

96

1152 GiB

400 Gb/s

p5.48xlarge

8

640 GiB

192

2 TiB

3200 Gbps

p 5. 48 x grande

8

128 GiB

192

2 TiB

3200 Gbps

p5en. 48 x grande

8

128 GiB

192

2 TiB

3200 Gbps

p6-b 200,48 x grande

8

1440 GiB

192

2 TiB

100 Gb/s

trn1.2xlarge

1

32 GiB

8

32 GiB

Fino a 12,5 Gb/s

trn1.32xlarge

16

512 GiB

128

512 GiB

800 Gbps

trn1n.32xlarge

16

512 GiB

128

512 GiB

1600 Gbps

trn 2,48 x grande

16

1,5 TiB

192

2 TiB

3,2 Tbps

inf1.xlarge

1

8 GiB

4

8 GiB

Fino a 25 Gb/s

inf1.2xlarge

1

8 GiB

8

16 GiB

Fino a 25 Gb/s

inf1.6xlarge

4

32 GiB

24

48 GiB

25 Gb/s

inf1.24xlarge

16

128 GiB

96

192 GiB

100 Gb/s

inf2.xlarge

1

32 GiB

4

16 GiB

Fino a 15 Gb/s

inf2.8xlarge

1

32 GiB

32

128 GiB

Fino a 25 Gb/s

inf2.24xlarge

6

192 GiB

96

384 GiB

50 Gb/s

inf2.48xlarge

12

384 GiB

192

768 GiB

100 Gb/s

dl1.24xlarge

8

256 GiB

96

768 GiB

400 Gb/s

dl2q.24xlarge

8

128 GiB

96

768 GiB

100 Gb/s
Nota

Per i lavori con GPU supporta AWS Batch solo i tipi di istanze con NVIDIA. GPUs Ad esempio, la G4adfamiglia non è supportata per la pianificazione tramite GPU. Puoi comunque utilizzare G4adon AWS Batch definendo solo i requisiti di vcpu e memoria nella definizione del processo, quindi accedendo GPUs direttamente all'host tramite la personalizzazione in un modello di Amazon EC2 Launch, i dati utente con un'AMI ottimizzata per il calcolo Amazon ECS o Amazon EKS o un'AMI personalizzata per l'utilizzo di AMD. GPUs

I tipi di istanza che utilizzano un' ARM64 architettura sono supportati per i lavori GPU su dati AMIs forniti su misura AWS Batch o dati EC2 utente Amazon a cui accedere GPUs tramite codice e configurazioni personalizzati. Ad esempio, la famiglia di G5gistanze.

Il parametro ResourceRequirements per la definizione del processo specifica il numero di GPUs da aggiungere al contenitore. Questo numero di non GPUs è disponibile per nessun altro processo eseguito su quell'istanza per la durata del processo. Tutti i tipi di istanze in un ambiente di calcolo che esegue processi GPU devono appartenere alle p3 famiglie di g6 istanze p4 p5p6,g3,g3s,g4,,g5, o. Se ciò non viene fatto, un job GPU potrebbe rimanere bloccato nello stato. RUNNABLE

I lavori che non utilizzano il GPUs possono essere eseguiti su istanze GPU. Tuttavia, l'esecuzione su istanze GPU potrebbe costare di più rispetto a istanze simili non GPU. A seconda della vCPU, della memoria e del tempo specifici necessari, questi job non GPU potrebbero bloccare l'esecuzione dei job GPU.

Argomenti