翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

# SageMaker モデル並列処理ライブラリ v2 の主要機能
<a name="model-parallel-core-features-v2"></a>

Amazon SageMaker AI のモデル並列処理ライブラリ v2 (SMP v2) は、シャーディングデータ並列処理、テンソル並列処理、チェックポイントなど、分散処理の戦略とメモリ節約の技術を提供します。SMP v2 によるモデル並列処理の戦略と手法は、大規模なモデルを複数のデバイスに分散させるのに役立ち、それと同時にトレーニング速度とメモリ消費も最適化できます。SMP v2 には、`torch.sagemaker` という Python パッケージも用意されているので、トレーニングスクリプトを数行のコード変更だけで適応させることができます。

このガイドでは、「[SageMaker モデル並列処理ライブラリ v2 を使用する](model-parallel-use-api-v2.md)」で紹介している基本的な 2 ステップのフローに沿って説明します。SMP v2 の主要機能とその使用方法の詳細については、以下のトピックを参照してください。

**注記**  
これらの主要機能は、SMP v2.0.0 以降および SageMaker Python SDK v2.200.0 以降で利用できます。また、PyTorch v2.0.1 以降でも動作します。パッケージのバージョンを確認するには、「[サポートされているフレームワークと AWS リージョン](distributed-model-parallel-support-v2.md)」を参照してください。

**Topics**
+ [ハイブリッドシャーディングデータ並列処理](model-parallel-core-features-v2-sharded-data-parallelism.md)
+ [エキスパート並列処理](model-parallel-core-features-v2-expert-parallelism.md)
+ [コンテキスト並列処理](model-parallel-core-features-v2-context-parallelism.md)
+ [AWS インフラストラクチャに最適化された SMDDP ライブラリとの互換性](model-parallel-core-features-v2-smddp-allgather.md)
+ [混合精度トレーニング](model-parallel-core-features-v2-mixed-precision.md)
+ [パラメータの遅延初期化](model-parallel-core-features-v2-delayed-param-init.md)
+ [アクティベーションチェックポイント](model-parallel-core-features-v2-pytorch-activation-checkpointing.md)
+ [アクティベーションオフロード](model-parallel-core-features-v2-pytorch-activation-offloading.md)
+ [テンソル並列性](model-parallel-core-features-v2-tensor-parallelism.md)
+ [ファインチューニング](model-parallel-core-features-v2-fine-tuning.md)
+ [FlashAttention](model-parallel-core-features-v2-flashattention.md)
+ [SMP を使用したチェックポイント](model-parallel-core-features-v2-checkpoints.md)