Erste Schritte mit GPU-beschleunigten Instances - Amazon Elastic Compute Cloud

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erste Schritte mit GPU-beschleunigten Instances

Die neueste Generation von GPU-beschleunigten Instance-Typen, wie sie in der folgenden Liste aufgeführt sind, bietet die leistungsstärksten Funktionen für Deep-Learning- und HPC-Anwendungen (High Performance Computing). Wählen Sie den Link zum Instancetyp aus, um mehr über seine Funktionen zu erfahren.

Eine vollständige Liste der Instance-Typspezifikationen für beschleunigte Instance-Typen finden Sie unter Accelerated Computing in der Amazon EC2 Instance Types-Referenz.

Softwarekonfiguration

Der einfachste Weg, mit den GPU-beschleunigten Instance-Typen der neuesten Generation zu beginnen, besteht darin, eine Instance über ein AWS Deep Learning-AMI zu starten, das mit der gesamten erforderlichen Software vorkonfiguriert ist. Aktuelle Informationen AWS Deep Learning AMIs zur Verwendung mit GPU-beschleunigten Instance-Typen finden Sie unter P6 Supported DLAMI im AWS Deep Learning AMIs Developer Guide.

Wenn Sie ein benutzerdefiniertes AMI erstellen müssen, um Instances zu starten, die Deep Learning- oder HPC-Anwendungen hosten, empfehlen wir Ihnen, die folgenden Mindest-Softwareversionen zusätzlich zu Ihrem Basis-Image zu installieren.

Instance-Typ NVIDIA-Treiber CUDA NVIDIA GDRCopy EFA-Installer NCCL EFA K8s*
P5 530 12,1 2.3 1.24.1 2.18.3 0.4.4
P5e 550 12,1 2.3 1.24.1 2.18.3 0.5.5
P5en 550 12,1 2.3 1.24.1 2.18.3 0.5.6
P6-B200 570 12,8 2.5 1.4.1 2,26,2-1 0.5,10

* Die Spalte EFA K8s enthält die empfohlene Mindestversion für. aws-efa-k8s-device-plugin

Anmerkung

Wenn Sie Version 1.4.1 des EFA-Installationsprogramms verwenden, ist das im Lieferumfang enthalten. aws-ofi-nccl plugin Verwenden Sie für frühere Versionen des EFA-Installationsprogramms aws-ofi-nccl plugin Version 1.7.2-aws oder höher.

Außerdem empfiehlt es sich, die Instance so zu konfigurieren, dass keine tieferen Ruhezustände verwendet werden. Weitere Informationen finden Sie unter Hohe Performance und geringe Latenz durch die Beschränkung von tieferen C-Zuständen im Benutzerhandbuch für Amazon Linux 2. Die neuesten AWS Deep Learning Base-GPUs AMIs sind so vorkonfiguriert, dass sie keine tieferen C-States verwenden.

Informationen zu Netzwerk und Elastic Fabric Adapter (EFA)-Konfiguration finden Sie unter Maximieren Sie die Netzwerkbandbreite auf EC2 Amazon-Instances mit mehreren Netzwerkkarten.