Uso del Administrador de periféricos de Amazon SageMaker AI en los dispositivos principales de Greengrass - AWS IoT Greengrass
FuncionamientoRequisitosIntroducción al Administrador de periféricos de SageMaker AI

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Uso del Administrador de periféricos de Amazon SageMaker AI en los dispositivos principales de Greengrass

importante

El Administrador de periféricos de SageMaker AI dejó de estar disponible el 26 de abril de 2024. Para obtener más información sobre cómo continuar implementando sus modelos en dispositivos de periferia, consulte Fin del ciclo de vida del Administrador de periféricos de SageMaker AI.

El Administrador de periféricos de Amazon SageMaker AI es un agente de software que se ejecuta en dispositivos de periferia. El Administrador de periféricos de SageMaker AI proporciona administración de modelos para dispositivos de periferia, de modo que puede empaquetar y usar modelos compilados por Amazon SageMaker AI Neo directamente en los dispositivos principales de Greengrass. Con el Administrador de periféricos de SageMaker AI también puede muestrear los datos de entrada y salida del modelo desde sus dispositivos principales y enviar esos datos a la Nube de AWS para su supervisión y análisis. Como el Administrador de periféricos de SageMaker AI utiliza SageMaker AI Neo para optimizar los modelos para los equipos de destino, no es necesario instalar el tiempo de ejecución de DLR directamente en el dispositivo. En dispositivos de Greengrass, el Administrador de periféricos de SageMaker AI no carga los certificados locales AWS IoT y llama directamente al punto de conexión del proveedor de credenciales AWS IoT. En su lugar, el Administrador de periféricos de SageMaker AI utiliza el servicio de intercambio de token y obtiene una credencial temporal de un punto de conexión del TES.

Esta sección describe cómo el Administrador de periféricos de SageMaker AI funciona con los dispositivos principales de Greengrass.

Cómo funciona el Administrador de periféricos de SageMaker AI en los dispositivos principales de Greengrass

Para implementar el agente del Administrador de periféricos de SageMaker AI en sus dispositivos principales, cree una implementación que incluya el componente aws.greengrass.SageMakerEdgeManager. AWS IoT Greengrass administra la instalación y el ciclo de vida del agente del administrador de periféricos en sus dispositivos. Cuando haya disponible una nueva versión del binario del agente, implemente la versión actualizada del componente aws.greengrass.SageMakerEdgeManager para actualizar la versión del agente que está instalada en su dispositivo.

Al utilizar el Administrador de periféricos de SageMaker AI con AWS IoT Greengrass, su flujo de trabajo incluye los siguientes pasos generales:

  1. Compile sus modelos con SageMaker AI Neo.

  2. Empaquete sus modelos compilados por SageMaker AI Neo utilizando los trabajos de empaquetado de periféricos de SageMaker AI. Cuando ejecuta un trabajo de empaquetado de periferia para su modelo, puede optar por crear un componente del modelo con el modelo empaquetado como un artefacto que se puede implementar en su dispositivo principal de Greengrass.

  3. Cree un componente de inferencia personalizado. Este componente de inferencia se utiliza para interactuar con el agente del administrador de periféricos y realizar la inferencia en el dispositivo principal. Estas operaciones incluyen cargar modelos, invocar solicitudes de predicción para ejecutar la inferencia y descargar modelos cuando el componente se apaga.

  4. Implemente el componente Administrador de periféricos de SageMaker AI, el componente de modelo empaquetado y el componente de inferencia para ejecutar su modelo en el motor de inferencia de SageMaker AI (agente del administrador de periféricos) en su dispositivo.

Para obtener más información sobre la creación de trabajos de empaquetado de periferia y componentes de inferencia que funcionen con el Administrador de periféricos de SageMaker AI, consulte Paquete del modelo de implementación y agente administrador de periféricos con AWS IoT Greengrass en la Guía para desarrolladores de Amazon SageMaker AI.

El tutorial Tutorial: Cómo empezar a SageMaker usar AI Edge Manager le muestra cómo configurar y utilizar el agente del Administrador de periféricos de SageMaker AI en un dispositivo principal de Greengrass existente, mediante el código de ejemplo proporcionado por AWS que puede utilizar para crear ejemplos de inferencia y modelo de componentes.

Al utilizar el Administrador de periféricos de SageMaker AI en los dispositivos principales de Greengrass, también puede utilizar la característica de captura de datos para cargar datos de muestra en la Nube de AWS. La captura de datos es una característica de SageMaker AI que se utiliza para cargar entradas de inferencia, resultados de inferencias y datos de inferencia adicionales a un bucket de S3 o a un directorio local para futuros análisis. Para obtener más información sobre el uso de datos de captura con el Administrador de periféricos de SageMaker AI, consulte Administración del modelo en la Guía para desarrolladores de Amazon SageMaker AI.

Requisitos

Para utilizar el agente Administrador de periféricos de SageMaker AI en los dispositivos principales de Greengrass, debe cumplir con los siguientes requisitos.

  • Un dispositivo principal de Greengrass que se ejecuta en Amazon Linux 2, una plataforma de Linux basada en Debian (x86_64 o Armv8) o Windows (x86_64). Si no dispone de una, consulte Tutorial: Introducción a AWS IoT Greengrass V2.

  • Python 3.6 o posterior, incluido pip para la versión de Python, instalado en el dispositivo principal.

  • El rol del dispositivo de Greengrass se configuró con lo siguiente:

    • Una relación de confianza que permite a credentials.iot.amazonaws.com y a sagemaker.amazonaws.com asumir el rol, como se muestra en el siguiente ejemplo de política de IAM.

      { 
  "Version": "2012-10-17",		 	 	 
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La política administrada por IAM AmazonSageMakerEdgeDeviceFleetPolicy.

    • La acción s3:PutObject, como se muestra en el siguiente ejemplo de política de IAM.

      {
  "Version": "2012-10-17",		 	 	 
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un bucket de Amazon S3 creado en la misma Cuenta de AWS y Región de AWS que su dispositivo principal de Greengrass. El Administrador de periféricos de SageMaker AI requiere un bucket de S3 para crear la flota de dispositivos de periferia y almacenar datos de muestra procedentes de la ejecución de inferencias en su dispositivo. Para más información sobre la creación de buckets de S3, consulte Introducción a Amazon S3.

  • Una flota de dispositivos de periferia de SageMaker AI que utiliza el mismo alias de rol AWS IoT que su dispositivo principal de Greengrass. Para obtener más información, consulte Creación de una flota de dispositivos de periferia.

  • Su dispositivo principal de Greengrass está registrado como dispositivo de periferia en su flota de dispositivos de periferia de SageMaker AI. El nombre del dispositivo de periferia debe coincidir con el nombre del objeto AWS IoT del dispositivo principal. Para obtener más información, consulte Registro del dispositivo principal de Greengrass.

Introducción al Administrador de periféricos de SageMaker AI

Puede completar un tutorial para empezar a utilizar el Administrador de periféricos de SageMaker AI. En este tutorial, se muestra cómo empezar a utilizar el Administrador de periféricos de SageMaker AI con los componentes de muestra proporcionados por AWS en un dispositivo de núcleo existente. Estos componentes de ejemplo utilizan el componente Administrador de periféricos de SageMaker AI como dependencia para implementar el agente del administrador de periféricos y realizar inferencias mediante modelos previamente entrenados que se compilaron con SageMaker AI Neo. Para obtener más información, consulte Tutorial: Cómo empezar a SageMaker usar AI Edge Manager.