SOCI を使用してコンテナのスタートアップを高速化する - Amazon SageMaker AI
主な利点SOCI インデックス作成の仕組みアーキテクチャのコンポーネントサポートされているツール

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

SOCI を使用してコンテナのスタートアップを高速化する

SOCI (Seekable Open Container Initiative) インデックス作成により、 Amazon SageMaker Studioまたは Amazon SageMaker Unified Studio でのカスタムコンテナイメージの遅延ロードが可能になります。SOCI は、カスタムBring your own image (BYOI)コンテナの起動時間を約 30～70% 大幅に短縮します。レイテンシーの改善は、イメージのサイズ、ホスティングインスタンスの可用性、その他のアプリケーションの依存関係によって異なります。SOCI は、必要なコンポーネントのみでコンテナを起動できるインデックスを作成し、必要に応じて追加のファイルをオンデマンドで取得します。

SOCI は、カスタムイメージの反復機械学習 (ML) 開発ワークフローを中断するコンテナの起動時間の遅延に対処します。ML ワークロードが複雑になるにつれて、コンテナイメージが大きくなり、開発サイクルを妨げるスタートアップの遅延が発生しています。

トピック

主な利点

  • イテレーションサイクルの高速化: イメージタイプとインスタンスタイプに応じて、コンテナの起動を減らす

  • ユニバーサル最適化: Studio のすべてのカスタム BYOI コンテナにパフォーマンス上の利点を拡張

SOCI インデックス作成の仕組み

SOCI は、コンテナイメージの内部ファイル構造をマッピングする特殊なメタデータインデックスを作成します。このインデックスを使用すると、イメージ全体をダウンロードせずに個々のファイルにアクセスできます。SOCI インデックスは、OCI (Open Container Initiative) 準拠のアーティファクトとして Amazon ECR に保存され、元のコンテナイメージにリンクされ、イメージダイジェストと署名の有効性が保持されます。

Studio でコンテナを起動すると、システムは SOCI インデックスを使用して、起動に必要な必須ファイルのみを識別してダウンロードします。アプリケーションが必要とする追加のコンポーネントは並行して取得されます。

アーキテクチャのコンポーネント

  • 元のコンテナイメージ: Amazon ECR に保存されているベースコンテナ

  • SOCI インデックスアーティファクト: イメージのファイル構造をマッピングするメタデータ

  • OCI イメージインデックスマニフェスト: 元のイメージと SOCI インデックスをリンクします

  • Finch コンテナランタイム: Studio との遅延ロード統合を有効にします

サポートされているツール

ツール 統合
ノード コンテナ化されたセットアップが必要
Finch CLI ネイティブ SOCI サポート
Docker + SOCI CLI 追加のツールが必要
トピック