AMI 名形式サポートされる EC2 インスタンス AMI のコンテンツ注意リリース日: 2025-05-22

AWS Deep Learning OSS AMI GPU PyTorch 2.7 (Amazon Linux 2023)

開始方法については、「」を参照してくださいDLAMI の使用開始。

AMI 名形式

Deep Learning OSS Nvidia ドライバー AMI GPU PyTorch 2.7 (Amazon Linux 2023) ${YYYY-MM-DD}

サポートされる EC2 インスタンス

DLAMI の重要な変更点を参照してください。
G4dn, G5, G5, Gr6, P4, P4de, P5, P5e, P5en, P6-B200

AMI には以下が含まれます。

サポートされている AWS サービス: Amazon EC2
オペレーティングシステム: Amazon Linux 2023
コンピューティングアーキテクチャ: x86
Linux カーネル: 6.1
NVIDIA ドライバー: 570.133.20
NVIDIA CUDA 12.8 スタック：
- CUDA、NCCL、および cuDDN インストールディレクトリ： /usr/local/cuda-12.8/
- NCCL テストの場所：
  - all_reduce、all_gather、および reduce_scatter:
    /usr/local/cuda-12.8/efa/test-cuda-12.8/
  - NCCL テストを実行するために、LD_LIBRARY_PATH はすでに必要なパスで更新されています。
    
    一般的な PATHsはすでに LD_LIBRARY_PATH に追加されています。
    /opt/amazon/efa/lib:/opt/amazon/openmpi/lib:/opt/amazon/ofi-nccl/lib:/usr/local/lib:/usr/lib
    LD_LIBRARY_PAT が CUDA バージョンパスで更新されました。
    /usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/x86_64-linux/lib
- コンパイルされた NCCL バージョン：
  - 12.8 の CUDA ディレクトリの場合、コンパイルされた NCCL バージョン 2.26.2+CUDA12.8
- デフォルトの CUDA: 12.8
  - PATH /usr/local/cuda が CUDA 12.8 を指す
  - 以下の env vars を更新しました。
    
    LD_LIBRARY_PATH に /usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda/targets/x86_64-linux/lib を含める
    /usr/local/cuda/bin/:/usr/local/cuda/include/ を持つ PATH
EFA インストーラ： 1.40.0
Nvidia GDRCopy: 2.5
AWS OFI NCCL: 1.14.2-aws
- インストールパス： /opt/amazon/ofi-nccl/。パス /opt/amazon/ofi-nccl/lib が LD_LIBRARY_PATH に追加されました
/usr/local/bin/aws の AWS CLI v2
EBS ボリュームタイプ: gp3
Nvidia コンテナツールキット: 1.17.7
- バージョンコマンド: nvidia-container-cli -V
Docker: 25.0.8
Python: /usr/bin/python3.12

SSM パラメータを使用して AMI-ID をクエリする (リージョンの例は us-east-1):


aws ssm get-parameter --region us-east-1 \
    --name /aws/service/deeplearning/ami/x86_64/oss-nvidia-driver-gpu-pytorch-2.7-amazon-linux-2023/latest/ami-id \
    --query "Parameter.Value" \
    --output text

AWSCLI で AMI-ID をクエリする (リージョンの例は us-east-1):


aws ec2 describe-images --region us-east-1 --owners amazon --filters 'Name=name,Values=Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.7 (Amazon Linux 2023) ????????' 'Name=state,Values=available' --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' --output text

注意

P6-B200 インスタンス

P6-B200 インスタンスには、CUDA バージョン 12.8 以降と NVIDIA ドライバー 570 以降のドライバーが必要です。
P6-B200 には 8 つのネットワークインターフェイスカードが含まれており、次の AWS CLI コマンドを使用して起動できます。


aws ec2 run-instances --region $REGION \
    --instance-type $INSTANCETYPE \
    --image-id $AMI --key-name $KEYNAME \
    --iam-instance-profile "Name=dlami-builder" \
    --tag-specifications "ResourceType=instanace,Tags=[{Key=Name,Value=$TAG}]" \
    --network-interfaces ""NetworkCardIndex=0,DeviceIndex=0,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=1,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=2,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=3,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=4,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    ....
    ....
    ....
    "NetworkCardIndex=7,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa"

P5/P5e インスタンス

DeviceIndex は各 NetworkCard に固有であり、NetworkCard あたりの ENIs の制限より小さい負以外の整数である必要があります。P5 では、NetworkCard あたりの ENIs の数は 2 です。つまり、DeviceIndex の有効な値は 0 または 1 のみです。以下は、awscli を使用した EC2 P5 インスタンス起動コマンドの例です。数値が 0～31 の場合は NetworkCardIndex、最初のインターフェイスの場合は DeviceIndex を 0、残りの 31 インターフェイスの場合は 1 と示しています。


aws ec2 run-instances --region $REGION \
    --instance-type $INSTANCETYPE \
    --image-id $AMI --key-name $KEYNAME \
    --iam-instance-profile "Name=dlami-builder" \
    --tag-specifications "ResourceType=instanace,Tags=[{Key=Name,Value=$TAG}]" \
    --network-interfaces ""NetworkCardIndex=0,DeviceIndex=0,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=1,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=2,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=3,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    "NetworkCardIndex=4,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
    ....
    ....
    ....
    "NetworkCardIndex=31,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa"

カーネル

カーネルバージョンはコマンドを使用して固定されます。
```
sudo dnf versionlock kernel*
```
インストールされているドライバーとパッケージバージョンとの互換性を確保するために、カーネルバージョンを更新しないことをお勧めします (セキュリティパッチによる場合を除く）。ユーザーが引き続き更新する場合は、次のコマンドを実行してカーネルバージョンのピン留めを解除できます。
```
sudo dnf versionlock delete kernel*
sudo dnf update -y
```
DLAMI の新しいバージョンごとに、利用可能な最新の互換性のあるカーネルが使用されます。

Anaconda チャネルの PyTorch 廃止

PyTorch 2.6 以降、PyTorch は Conda のサポートを廃止しました (公式発表を参照）。その結果、PyTorch 2.6 以降は Python 仮想環境の使用に移行します。PyTorch venv をアクティブ化するには、ソース /opt/pytorch/bin/activate を使用してください。

リリース日: 2025-05-22

AMI 名: Deep Learning OSS Nvidia ドライバー AMI GPU PyTorch 2.7 (Amazon Linux 2023) 20250520

を追加

Deep Learning AMI GPU PyTorch 2.7 (Amazon Linux 2023) シリーズの初期リリース。NVIDIA Driver R570、CUDA=12.8、cuDNN=9.10、PyTorch NCCL=2.26.2、および EFA=1.40.0 で補完された Python 仮想環境 pytorch (ソース /opt/pytorch/bin/activate) を含める。

ブラウザで JavaScript が無効になっているか、使用できません。

AWS ドキュメントを使用するには、JavaScript を有効にする必要があります。手順については、使用するブラウザのヘルプページを参照してください。

ドキュメントの表記規則

X86

GPU PyTorch 2.7 (Ubuntu 22.04)