As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Implantar o modelo em grande escala
Configure o dimensionamento e o CloudWatch monitoramento automáticos do seu endpoint de SageMaker IA para deixá-lo pronto para produção.
Por que o monitoramento da produção é importante para a classificação de texto
As workloads de classificação de texto exigem monitoramento porque elas:
Experimentam padrões de tráfego variáveis com picos de processamento.
Exigem tempos de resposta inferiores a um segundo.
Necessitam de ajuste de escala automático para otimizar os custos.
Pré-requisitos
Antes de começar, garanta que você tenha:
Seu endpoint de SageMaker IA implantado na seção anterior.
O nome do seu endpoint (por exemplo, jumpstart-dft-hf-tc).
Seu Região da AWS (por exemplo, us-east-2).
Para criar ou solucionar problemas de endpoints, consulte Real-time inferência.
Configurar o monitoramento da produção
Configure o CloudWatch monitoramento para monitorar o desempenho do seu modelo na produção.
-
No seu JupyterLab espaço, abra o
sagemaker_production_monitoring.ipynbcaderno do pacote de avaliação que você enviou anteriormente. -
Atualize o nome e a região do endpoint na seção de configuração.
-
Para configurar, siga as instruções do caderno:
Auto-scaling (1 a 10 instâncias com base no tráfego).
CloudWatch alarmes para limites de latência e invocação.
Painel de métricas para monitoramento visual.
Verificar sua configuração
Depois de concluir as etapas do caderno, verifique se você tem:
tatus do endpoint:
InService.Auto-scaling: 1-10 instâncias configuradas.
CloudWatch Alarmes: monitoramento de 2 alarmes.
Métricas: mais de 15 métricas registradas.
nota
Os alarmes podem mostrar INSUFFICIENT_DATA inicialmente. Isso é normal e mudará para OK com o uso.
Monitorar um endpoint
Acesse o monitoramento visual por meio do console AWS de gerenciamento:
Para obter mais informações, consulte Monitor SageMaker AI.
Gerenciar custos e limpar recursos
Sua configuração de monitoramento fornece informações valiosas de produção, mas também gera AWS cobranças contínuas por meio de CloudWatch métricas, alarmes e políticas de escalonamento automático. Saber como gerenciar esses custos é essencial para ter operações econômicas. Limpe os recursos quando eles não forem mais necessários.
Atenção
Seu endpoint continua incorrendo em cobranças mesmo quando não está processando solicitações. Para interromper todas as cobranças, exclua o endpoint. Para obter instruções, consulte Excluir endpoints e recursos.
Para configurações avançadas de monitoramento, consulte CloudWatch Métricas para SageMaker IA.
