Pipelines do CloudWatch
Um pipeline de telemetria coleta, processa e roteia dados, como logs, métricas e rastros de várias fontes para diferentes destinos. Os pipelines do CloudWatch oferecem uma maneira centralizada de coletar dados de serviços da AWS, aplicações de terceiros e fontes personalizadas. O pipeline processa e transforma dados usando um rico conjunto de processadores, converte dados em formatos padrão, como OCSF (Open Cybersecurity Schema Framework), e roteia os dados processados para o CloudWatch Logs.
Você pode coletar dados de uma ampla variedade de fontes, inclusive de serviços da AWS, aplicações de terceiros e de suas próprias fontes personalizadas. Esses dados são então processados e transformados usando processadores que podem padronizar formatos, filtrar informações desnecessárias e enriquecer os dados com contexto adicional. Isso permite converter formatos de dados variados em esquemas padronizados, como OCSF, possibilitando a análise unificada de todas as fontes de dados.
Em todo o pipeline, seus dados permanecem protegidos com a criptografia de camada de transporte, garantindo que os requisitos de segurança e conformidade sejam atendidos.
nota
Ao configurar pipelines, lembre-se de que as definições de pipeline não são criptografadas e nunca devem incluir dados sensíveis, como informações de identificação pessoal (PII).
Há três componentes principais:
-
Fonte: defina de onde vêm os dados (serviços da AWS, aplicações de terceiros ou fontes personalizadas)
-
Processadores: opcionalmente, configure como seus dados são transformados, filtrados ou enriquecidos.
nota
A adição de processado resulta na mutação dos eventos de logs, e os logs originais (brutos) não são retidos.
-
Coletor: especifique onde seus dados processados devem ser entregues
Para começar a usar os pipelines do CloudWatch:
-
Faça login no console de gerenciamento AWS
-
Navegue até o CloudWatch.
-
Escolha Ingestão no painel de navegação e depois selecione a guia Pipelines.
-
Selecione Criar pipeline.
nota
Tenha em mente estes limites que se aplicam aos pipelines do CloudWatch
-
Número máximo de pipelines por conta: 330
-
Até 300 pipelines para coletar dados do CloudWatch Logs
-
Até 30 pipelines para coletar dados de outras fontes
-
Os recursos dos pipelines do CloudWatch são incluídos nos preços existentes de ingestão de dados do CloudWatch Logs, sem custo adicional, com a medição ocorrendo no momento da ingestão.
Os preços de ingestão das classes de logs existentes para logs fornecidos e personalizados se aplicam. Por exemplo, a ingestão de 30 GB de logs personalizados da classe padrão e seu processamento por um pipeline custaria 15 USD por mês na ingestão de logs. A ingestão e o processamento de logs personalizados pouco acessados custaria 7,50 USD/mês. Consulte Preços do CloudWatch para obter mais detalhes sobre os preços de ingestão de dados de log.
A ingestão de dados de fontes de conectores 3P ou por um conector de bucket do S3 é classificada como ingestão de logs personalizados e segue os preços de ingestão de dados de log personalizados. A medição ocorre no momento da ingestão dos dados no CloudWatch. As fontes de conectores 3P ou por um conector de bucket do S3 são medidas após o processamento. A medição das fontes do pipeline do CloudWatch, incluindo fontes de logs fornecidos e personalizados do CloudWatch Logs, ocorre no momento em que os registros são recebidos, ou seja, antes do processamento por um pipeline.
Os pipelines do CloudWatch estão disponíveis nas regiões da AWS a seguir.
nota
A coleta de fontes de dados de terceiros está disponível em regiões onde o OpenSearch Ingestion tem endpoints de API.
-
Leste dos EUA (Ohio)
-
Leste dos EUA (Norte da Virgínia)
-
Oeste dos EUA (N. da Califórnia)
-
Oeste dos EUA (Oregon)
-
Ásia-Pacífico (Hong Kong)
-
Ásia-Pacífico (Malásia)
-
Ásia-Pacífico (Mumbai)
-
Ásia-Pacífico (Osaka)
-
Ásia-Pacífico (Seul)
-
Ásia-Pacífico (Singapura)
-
Ásia-Pacífico (Sydney)
-
Ásia-Pacífico (Tailândia)
-
Ásia-Pacífico (Tóquio)
-
Canadá (Central)
-
Europa (Frankfurt)
-
Europa (Irlanda)
-
Europa (Londres)
-
Europa (Paris)
-
Europa (Espanha)
-
Europa (Estocolmo)
-
América do Sul (São Paulo)
Para obter mais detalhes, consulte Endpoints e cotas do Amazon CloudWatch na Referência geral da AWS.