Uso do Amazon SageMaker AI Edge Manager em dispositivos principais do Greengrass - AWS IoT Greengrass
Como funcionaRequisitosConceitos básicos do SageMaker AI Edge Manager

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Uso do Amazon SageMaker AI Edge Manager em dispositivos principais do Greengrass

Importante

O SageMaker AI Edge Manager foi descontinuado em 26 de abril de 2024. Para obter mais informações sobre como continuar a implantar seus modelos em dispositivos de borda, consulte Fim da vida útil do SageMaker AI Edge Manager.

O Amazon SageMaker AI Edge Manager é um agente de software executado em dispositivos de borda. O SageMaker AI Edge Manager fornece gerenciamento de modelos para dispositivos de borda para que você possa empacotar e usar modelos compilados pelo Amazon SageMaker AI Neo diretamente nos dispositivos principais do Greengrass. Ao usar o SageMaker AI Edge Manager, você também pode fazer amostras de dados de entrada e saída do modelo a partir dos dispositivos principais e enviar esses dados para a Nuvem AWS para monitoramento e análise. Como o SageMaker AI Edge Manager usa o SageMaker AI Neo para otimizar os modelos com base no hardware de destino, você não precisa instalar o runtime do DLR diretamente em seu dispositivo. Nos dispositivos do Greengrass, o SageMaker AI Edge Manager não carrega os certificados locais do AWS IoT ou chama diretamente o endpoint do provedor de credenciais do AWS IoT. Em vez disso, o SageMaker AI Edge Manager usa o serviço de troca de tokens para obter uma credencial temporária de um endpoint de TES.

Esta seção descreve como o SageMaker AI Edge Manager funciona nos dispositivos principais do Greengrass.

Como o SageMaker AI Edge Manager funciona em dispositivos do Greengrass

Para implantar o agente do SageMaker AI Edge Manager nos dispositivos principais, crie uma implantação que inclua o componente aws.greengrass.SageMakerEdgeManager. O AWS IoT Greengrass gerencia a instalação e o ciclo de vida do agente do Edge Manager em seus dispositivos. Quando uma nova versão do binário do agente estiver disponível, implante a versão atualizada do componente aws.greengrass.SageMakerEdgeManager para atualizar a versão do agente que está instalada no dispositivo.

Quando você usa o SageMaker AI Edge Manager com o AWS IoT Greengrass, o fluxo de trabalho inclui as etapas de alto nível a seguir:

  1. Compile os modelos com o SageMaker AI Neo.

  2. Empacote os modelos compilados pelo SageMaker AI Neo usando as tarefas de empacotamento do SageMaker AI Edge. Ao executar uma tarefa de empacotamento de borda em seu modelo, você pode criar um componente de modelo com o modelo empacotado como um artefato que pode ser implantado no dispositivo principal do Greengrass.

  3. Crie um componente de inferência personalizado. Use esse componente para interagir com o agente do Edge Manager e realizar a inferência no dispositivo principal. Essas operações envolvem carregar os modelos, invocar as solicitações de previsão para realizar a inferência e descarregar os modelos quando o componente é encerrado.

  4. Implante os componentes SageMaker AI Edge Manager, de modelo empacotado e de inferência para executar seu modelo no mecanismo de inferência do SageMaker AI (agente do Edge Manager) no dispositivo.

Para obter mais informações sobre a criação de tarefas de empacotamento de borda e os componentes de inferência que funcionam com o SageMaker AI Edge Manager, consulte Implantação do pacote de modelos e do agente do Edge Manager com o AWS IoT Greengrass no Guia do desenvolvedor do Amazon SageMaker AI.

O tutorial Tutorial: Comece a usar o SageMaker AI Edge Manager mostra como configurar e usar o agente do SageMaker AI Edge Manager em um dispositivo principal existente do Greengrass, usando um código de exemplo fornecido pela AWS para criar componentes de amostra de inferência e de modelo.

Ao usar o SageMaker AI Edge Manager nos dispositivos principais do Greengrass, você também pode usar o recurso de captura de dados para carregar dados de amostra na Nuvem AWS. A captura de dados é um recurso do SageMaker AI que você usa para carregar entradas, resultados e dados adicionais da inferência em um bucket do S3 ou um diretório local para análise futura. Para obter mais informações sobre como usar a captura de dados com o SageMaker AI Edge Manager, consulte Gerenciamento de modelos no Guia do desenvolvedor do Amazon SageMaker AI.

Requisitos

É necessário atender aos requisitos abaixo para usar o agente do SageMaker AI Edge Manager nos dispositivos principais do Greengrass.

  • Um dispositivo principal do Greengrass executado no Amazon Linux 2, uma plataforma Linux baseada em Debian (x86_64 ou Armv8) ou Windows (x86_64). Se você não tiver uma, consulte Tutorial: Conceitos básicos do AWS IoT Greengrass V2.

  • Python 3.6 ou posterior, incluindo o pip para sua versão do Python, instalada em seu dispositivo principal.

  • O perfil do dispositivo do Greengrass foi configurado com o seguinte:

    • Uma relação de confiança que permite que credentials.iot.amazonaws.com e sagemaker.amazonaws.com assumam o perfil, conforme mostrado no exemplo de política do IAM a seguir.

      { 
  "Version": "2012-10-17",		 	 	 
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • A política gerenciada do IAM AmazonSageMakerEdgeDeviceFleetPolicy.

    • A ação s3:PutObject, conforme mostrado no exemplo de política do IAM a seguir.

      {
  "Version": "2012-10-17",		 	 	 
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Um bucket do Amazon S3 criado nas mesmas Conta da AWS e Região da AWS que o dispositivo principal do Greengrass. O SageMaker AI Edge Manager requer um bucket do S3 para criar a frota de dispositivos de borda e armazenar os dados de amostra da execução de inferência em seu dispositivo. Para obter informações sobre como criar buckets do S3, consulte Conceitos básicos do Amazon S3.

  • Uma frota de dispositivos de borda do SageMaker AI que usa o mesmo alias da função de AWS IoT que seu dispositivo principal do Greengrass. Para obter mais informações, consulte Criar uma frota de dispositivos de borda.

  • Seu dispositivo principal do Greengrass registrado como um dispositivo de borda na frota de dispositivos do SageMaker AI Edge. O nome do dispositivo de borda deve corresponder ao nome do item do AWS IoT do dispositivo principal. Para obter mais informações, consulte Registrar seu dispositivo principal do Greengrass.

Conceitos básicos do SageMaker AI Edge Manager

É possível concluir um tutorial para começar a usar o SageMaker AI Edge Manager. O tutorial mostra como começar a usar o SageMaker AI Edge Manager com componentes de amostra fornecidos pela AWS em um dispositivo principal existente. Esses componentes de amostra usam o componente SageMaker AI Edge Manager como uma dependência para implantar o agente do Edge Manager e realizar inferências usando modelos pré-treinados que foram compilados pelo SageMaker AI Neo. Para obter mais informações, consulte Tutorial: Comece a usar o SageMaker AI Edge Manager.