サポートされているフレームワークと AWS リージョン

SageMaker モデル並列処理ライブラリ v2 (SMP v2) を使用する前に、サポートされているフレームワークとインスタンスタイプを確認し、 AWS アカウントと に十分なクォータがあるかどうかを確認します AWS リージョン。

サポートされるフレームワーク

SMP v2 は、次の深層学習フレームワークをサポートしており、SMP Docker コンテナと SMP Conda チャネルを介して使用できます。SageMaker Python SDK で ModelTrainer クラスを使用し、SMP v2 を使用するディストリビューション設定を指定すると、SageMaker AI は自動的に SMP Docker コンテナを取得します。SMP v2 を使用するには、開発環境で SageMaker Python SDK を常に最新の状態に保つことをお勧めします。

SageMaker モデル並列処理ライブラリでサポートされている PyTorch バージョン

SMP Conda チャネル

次の Amazon S3 バケットは、SMP サービスチームがホストするパブリック Conda チャネルです。SageMaker HyperPod クラスターなどの環境に SMP v2 ライブラリをインストールする場合は、この Conda チャネルを使用して正しく SMP ライブラリをインストールしてください。

https://sagemaker-distributed-model-parallel.s3.us-west-2.amazonaws.com/smp-v2/

Conda チャネル全般の詳細については、Conda のドキュメントの「Channels」を参照してください。

オープンソースライブラリで SMP v2 を使用する

SMP v2 ライブラリは、PyTorch FSDP の API に対応しているため、PyTorch Lightning、Hugging Face Transformers、Hugging Face Accelerate など、他の PyTorch ベースのオープンソースライブラリと連携します。他のサードパーティーライブラリと併せて SMP ライブラリを使用する方法についてさらに質問がある場合は、SMP サービスチーム (sm-model-parallel-feedback@amazon.com) にお問い合わせください。

AWS リージョン

SMP v2 は、以下で利用できます AWS リージョン。SMP Docker イメージの URI または SMP Conda チャネルを使用する場合は、次のリストからご利用になる AWS リージョン に一致するものを見つけ、それに応じてイメージ URI またはチャネル URL を更新してください。

サポートされるインスタンスタイプ

SMP v2 には、次のいずれかの ML インスタンスタイプが必要です。

SageMaker 機械学習インスタンスタイプ全般の仕様については、「Amazon EC2 インスタンスタイプ」ページの「高速コンピューティング」セクションを参照してください。インスタンスの料金の詳細については、「Amazon SageMaker AI Pricing」を参照してください。

次のようなエラーメッセージが表示された場合は、「AWS Service Quotas ユーザーガイド」の「クォータ引き上げのリクエスト」の手順に従ってください。

ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling
    the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge
    for training job usage' is 0 Instances, with current utilization of 0 Instances
    and a request delta of 1 Instances.
    Please contact AWS support to request an increase for this limit.