Use o Amazon SageMaker AI Edge Manager nos dispositivos principais do Greengrass - AWS IoT Greengrass
Como funcionaRequisitosComece a usar o SageMaker AI Edge Manager

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Use o Amazon SageMaker AI Edge Manager nos dispositivos principais do Greengrass

Importante

SageMaker O AI Edge Manager foi descontinuado em 26 de abril de 2024. Para obter mais informações sobre como continuar implantando seus modelos em dispositivos de ponta, consulte Fim da vida útil do SageMaker AI Edge Manager.

O Amazon SageMaker AI Edge Manager é um agente de software executado em dispositivos periféricos. SageMaker O AI Edge Manager fornece gerenciamento de modelos para dispositivos de borda para que você possa empacotar e usar modelos compilados pelo Amazon SageMaker AI Neo diretamente nos dispositivos principais do Greengrass. Ao usar o SageMaker AI Edge Manager, você também pode amostrar dados de entrada e saída do modelo de seus dispositivos principais e enviar esses dados Nuvem AWS para monitoramento e análise. Como o SageMaker AI Edge Manager usa o SageMaker AI Neo para otimizar seus modelos para o hardware de destino, você não precisa instalar o tempo de execução do DLR diretamente no seu dispositivo. Nos dispositivos Greengrass, o SageMaker AI Edge Manager não carrega AWS IoT certificados locais nem liga diretamente para o endpoint do provedor de AWS IoT credenciais. Em vez disso, o SageMaker AI Edge Manager usa o serviço de troca de tokens para buscar credenciais temporárias de um endpoint TES.

Esta seção descreve como o SageMaker AI Edge Manager funciona nos dispositivos principais do Greengrass.

Como o SageMaker AI Edge Manager funciona em dispositivos Greengrass

Para implantar o agente do SageMaker AI Edge Manager em seus dispositivos principais, crie uma implantação que inclua o aws.greengrass.SageMakerEdgeManager componente. AWS IoT Greengrass gerencia a instalação e o ciclo de vida do agente Edge Manager em seus dispositivos. Quando uma nova versão do binário do agente estiver disponível, implante a versão atualizada do componente aws.greengrass.SageMakerEdgeManager para atualizar a versão do agente que está instalada no dispositivo.

Quando você usa o SageMaker AI Edge Manager com AWS IoT Greengrass, seu fluxo de trabalho inclui as seguintes etapas de alto nível:

  1. Compile modelos com o SageMaker AI Neo.

  2. Empacote seus modelos SageMaker AI Neo-compilados usando trabalhos de empacotamento SageMaker AI edge. Ao executar uma tarefa de empacotamento de borda em seu modelo, você pode criar um componente de modelo com o modelo empacotado como um artefato que pode ser implantado no dispositivo principal do Greengrass.

  3. Crie um componente de inferência personalizado. Use esse componente para interagir com o agente do Edge Manager e realizar a inferência no dispositivo principal. Essas operações envolvem carregar os modelos, invocar as solicitações de previsão para realizar a inferência e descarregar os modelos quando o componente é encerrado.

  4. Implante o componente SageMaker AI Edge Manager, o componente de modelo empacotado e o componente de inferência para executar seu modelo no mecanismo de inferência de SageMaker IA (agente do Edge Manager) em seu dispositivo.

Para obter mais informações sobre a criação de trabalhos de empacotamento de borda e componentes de inferência que funcionam com o SageMaker AI Edge Manager, consulte Deploy Model Package and Edge Manager Agent AWS IoT Greengrass no Amazon SageMaker AI Developer Guide.

O Tutorial: Comece a usar o SageMaker AI Edge Manager tutorial mostra como configurar e usar o agente do SageMaker AI Edge Manager em um dispositivo principal existente do Greengrass, usando um código AWS de exemplo fornecido que você pode usar para criar exemplos de inferência e componentes de modelo.

Ao usar o SageMaker AI Edge Manager nos dispositivos principais do Greengrass, você também pode usar o recurso de captura de dados para carregar dados de amostra para o. Nuvem AWS A captura de dados é um recurso de SageMaker IA que você usa para fazer upload de entradas de inferência, resultados de inferência e dados de inferência adicionais em um bucket do S3 ou em um diretório local para análise futura. Para obter mais informações sobre o uso de dados de captura com o SageMaker AI Edge Manager, consulte Gerenciar modelo no Amazon SageMaker AI Developer Guide.

Requisitos

Você deve atender aos seguintes requisitos para usar o agente do SageMaker AI Edge Manager nos dispositivos principais do Greengrass.

  • Um dispositivo principal do Greengrass executado no Amazon Linux 2, uma plataforma Linux baseada em Debian (x86_64 ou Armv8) ou Windows (x86_64). Se você não tiver uma, consulte Tutorial: Começando com AWS IoT Greengrass V2.

  • Python 3.6 ou posterior, incluindo o pip para sua versão do Python, instalada em seu dispositivo principal.

  • O perfil do dispositivo do Greengrass foi configurado com o seguinte:

    • Uma relação de confiança que permite que credentials.iot.amazonaws.com e sagemaker.amazonaws.com assumam o perfil, conforme mostrado no exemplo de política do IAM a seguir.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • A política gerenciada AmazonSageMakerEdgeDeviceFleetPolicydo IAM.

    • A ação s3:PutObject, conforme mostrado no exemplo de política do IAM a seguir.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Um bucket do Amazon S3 criado no mesmo dispositivo central do Greengrass Conta da AWS e no Região da AWS mesmo dispositivo. SageMaker O AI Edge Manager requer um bucket S3 para criar uma frota de dispositivos de ponta e armazenar dados de amostra da execução de inferência em seu dispositivo. Para obter informações sobre como criar buckets do S3, consulte Conceitos básicos do Amazon S3.

  • Uma frota de dispositivos de ponta de SageMaker IA que usa o mesmo alias de AWS IoT função do seu dispositivo principal do Greengrass. Para obter mais informações, consulte Criar uma frota de dispositivos de borda.

  • Seu dispositivo principal do Greengrass foi registrado como um dispositivo de ponta em sua frota de dispositivos SageMaker AI Edge. O nome do dispositivo de borda deve corresponder ao AWS IoT nome do dispositivo principal. Para obter mais informações, consulte Registrar seu dispositivo principal do Greengrass.

Comece a usar o SageMaker AI Edge Manager

Você pode concluir um tutorial para começar a usar o SageMaker AI Edge Manager. O tutorial mostra como começar a usar o SageMaker AI Edge Manager com componentes AWS de amostra fornecidos em um dispositivo principal existente. Esses componentes de amostra usam o componente SageMaker AI Edge Manager como uma dependência para implantar o agente do Edge Manager e realizar inferências usando modelos pré-treinados que foram compilados usando o AI Neo SageMaker . Para obter mais informações, consulte Tutorial: Comece a usar o SageMaker AI Edge Manager.