Greengrass コアデバイスで Amazon SageMaker AI Edge Manager を使用する - AWS IoT Greengrass
仕組み要件SageMaker AI Edge Manager の使用を開始する

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Greengrass コアデバイスで Amazon SageMaker AI Edge Manager を使用する

重要

SageMaker AI Edge Manager は 2024 年 4 月 26 日に廃止されました。引き続きモデルをエッジデバイスにデプロイする方法の詳細については、「SageMaker AI Edge Manager end of life」を参照してください。

Amazon SageMaker AI Edge Manager は、エッジデバイスで実行されるソフトウェアエージェントです。SageMaker AI Edge Manager はエッジデバイスのモデル管理を提供し、Amazon SageMaker AI Neo でコンパイルされたモデルを Greengrass コアデバイスで直接パッケージ化して使用できるようにします。SageMaker AI Edge Manager を使用すると、コアデバイスからモデルの入力データと出力データをサンプリングし、そのデータを AWS クラウド に送信してモニタリングおよび分析することもできます。SageMaker AI Edge Manager は SageMaker AI Neo を使用して、ターゲットハードウェア用のモデルを最適化するため、デバイスに直接 DLR ランタイムをインストールする必要はありません。Greengrass デバイスでは、SageMaker AI Edge Manager はローカル AWS IoT 証明書をロードしたり、AWS IoT 認証情報プロバイダーのエンドポイントを直接呼び出したりしません。代わりに SageMaker AI Edge Manager は、トークン交換サービスを使用して、TES エンドポイントから一時的な認証情報を取得します。

このセクションでは、SageMaker AI Edge Manager が Greengrass コアデバイスで機能する仕組みを説明します。

SageMaker AI Edge Manager が Greengrass デバイスで機能する仕組み

SageMaker AI Edge Manager エージェントをコアデバイスにデプロイするには、aws.greengrass.SageMakerEdgeManager コンポーネントを含むデプロイを作成します。AWS IoT Greengrass は、デバイスの Edge Manager エージェントのインストールとライフサイクルを管理します。エージェントバイナリの新しいバージョンが利用可能になったとき、aws.greengrass.SageMakerEdgeManager コンポーネントの更新されたバージョンをデプロイして、デバイスにインストールされているエージェントのバージョンをアップグレードします。

SageMaker AI Edge Manager を AWS IoT Greengrass と使用する場合、ワークフローには以下の大まかな手順が含まれます。

  1. SageMaker AI Neo でモデルをコンパイルします。

  2. SageMaker AI エッジパッケージングジョブを使用して、SageMaker AI Neo がコンパイルしたモデルをパッケージ化します。モデルにエッジパッケージングジョブを実行するとき、Greengrass コアデバイスにデプロイ可能なアーティファクトとして、パッケージ化されたモデルでモデルコンポーネントを作成することを選択できます。

  3. カスタム推論コンポーネントを作成します。エッジマネージャーエージェントとやり取りしてコアデバイスで推論を実行するため、この推論コンポーネントを使用できます。これらの操作には、モデルのロード、推論を実行する予測リクエストの呼び出し、コンポーネントのシャットダウン時にモデルのアンロードが含まれます。

  4. SageMaker AI Edge Manager コンポーネント、パッケージ化されたモデルコンポーネント、および推論コンポーネントをデプロイして、デバイス上の SageMaker AI 推論エンジン (Edge Manager エージェント) でモデルを実行します。

SageMaker AI Edge Manager と連携するエッジパッケージングジョブと推論コンポーネントの作成に関する詳細については、「Amazon SageMaker AI デベロッパーガイド」の「Deploy Model Package and Edge Manager Agent with AWS IoT Greengrass」を参照してください。

チュートリアル: SageMaker AI Edge Manager の使用を開始する チュートリアルは、サンプル推論とモデルコンポーネントの作成に AWS が提供するコードの例を使用して、既存の Greengrass コアデバイスで SageMaker AI Edge Manager エージェントをセットアップして使用する方法について説明します。

Greengrass コアデバイスで SageMaker AI Edge Manager を使用する場合、キャプチャデータ機能を使用してサンプルデータを AWS クラウド にアップロードすることもできます。キャプチャデータは、今後の分析用に S3 バケットまたはローカルディレクトリに推論入力、推論結果、追加の推論データをアップロードするために使用する SageMaker AI 機能です。SageMaker AI Edge Manager でキャプチャデータを使用する方法の詳細については、「Amazon SageMaker AI デベロッパーガイド」の「Manage Model」を参照してください。

要件

Greengrass コアデバイスで SageMaker AI Edge Manager エージェントを使用するには、以下の要件を満たす必要があります。

  • Amazon Linux 2 で実行されている Greengrass コアデバイス、Debian ベースの Linux プラットフォーム (x86_64 または Armv8)、または Windows (x86_64)。アカウントをお持ちでない場合は、「チュートリアル: AWS IoT Greengrass V2 の開始方法」を参照してください。

  • Python 3.6 以降 (ご使用の Python のバージョン用 pip がコアデバイスにインストールされていること)。

  • 次のように設定された Greengrass デバイスのロール:

    • 次の IAM ポリシーの例で示されているように、credentials.iot.amazonaws.com と sagemaker.amazonaws.com がロールの継承を可能にする信頼関係。

      { 
  "Version": "2012-10-17",		 	 	 
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • AmazonSageMakerEdgeDeviceFleetPolicy IAM マネージドポリシー。

    • 次の IAM ポリシーの例で示されている s3:PutObject アクション。

      {
  "Version": "2012-10-17",		 	 	 
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Greengrass コアデバイスと同じ AWS アカウント と AWS リージョン で作成された Amazon S3 バケット。SageMaker AI Edge Manager では、エッジデバイスフリートを作成するため、またデバイスで推論を実行した際のサンプルデータを保存するために、S3 バケットが必要です。S3 バケットを作成する方法の情報については、「Amazon S3 の使用を開始」を参照してください。

  • Greengrass コアデバイスと同じ AWS IoT ロールエイリアスを使用する SageMaker AI エッジデバイスフリート。詳細については、「エッジデバイスフリートを作成する」を参照してください。

  • SageMaker AI Edge デバイスフリート内のエッジデバイスとして登録された Greengrass コアデバイス。エッジデバイス名は、コアデバイスの AWS IoT モノ名に一致する必要があります。詳細については、「Greengrass コアデバイスを登録する」を参照してください。

SageMaker AI Edge Manager の使用を開始する

チュートリアルを完了して、SageMaker AI Edge Manager の使用を開始できます。チュートリアルでは、既存のコアデバイスで AWS が提供するサンプルコンポーネントを使用して SageMaker AI Edge Manager の使用を開始する方法を説明します。これらのサンプルコンポーネントは、SageMaker AI Edge Manager コンポーネントを依存関係として使用して Edge Manager エージェントをデプロイし、SageMaker AI Neo を使用してコンパイルされた事前トレーニング済みモデルを使用して推論を実行します。詳細については、「チュートリアル: SageMaker AI Edge Manager の使用を開始する」を参照してください。