Scraping di ulteriori origini Prometheus e importazione di tali parametri

L'agente CloudWatch con monitoraggio Prometheus ha bisogno di due configurazioni per lo scraping dei parametri Prometheus. Una è per le configurazioni standard Prometheus come documentato in <scrape_config> nella documentazione di Prometheus. L'altra riguarda la configurazione dell'agente CloudWatch.

Per i cluster Amazon ECS, le configurazioni sono integrate con il Parameter Store di AWS Systems Manager dai segreti nella definizione dell'attività Amazon ECS:

Per recuperare altre origini di parametri Prometheus e importarle in CloudWatch, modifica sia la configurazione di scraping di Prometheus che la configurazione dell'agente CloudWatch, quindi reimplementa l'agente con la configurazione aggiornata.

Requisiti del gruppo di sicurezza VPC

Le regole di ingresso dei gruppi di sicurezza per i carichi di lavoro Prometheus devono aprire le porte Prometheus all'agente CloudWatch per lo scraping dei parametri Prometheus dall'IP privato.

Le regole in uscita del gruppo di sicurezza per l'agente CloudWatch devono consentire all'agente CloudWatch di connettersi alla porta dei carichi di lavoro Prometheus tramite IP privato.

Configurazione di scraping di Prometheus

L'agente CloudWatch supporta le configurazioni di scraping standard di Prometheus come documentato <scrape_config> nella documentazione di Prometheus. È possibile modificare questa sezione per aggiornare le configurazioni già presenti in questo file e aggiungere ulteriori destinazioni di scraping Prometheus. Per impostazione predefinita, il file di configurazione campione contiene le seguenti righe di configurazione globali:

global:
  scrape_interval: 1m
  scrape_timeout: 10s

È inoltre possibile definire valori diversi per queste impostazioni a livello di processo, per ignorare le configurazioni globali.

Attività di scraping di Prometheus

I file YAML dell'agente CloudWatch hanno già alcuni processi di scraping predefiniti configurati. Ad esempio, nei file YAML per Amazon ECS ad esempio cwagent-ecs-prometheus-metric-for-bridge-host.yaml, i processi di scraping predefiniti sono configurati nella sezione ecs_service_discovery.

"ecs_service_discovery": {
                  "sd_frequency": "1m",
                  "sd_result_file": "/tmp/cwagent_ecs_auto_sd.yaml",
                  "docker_label": {
                  },
                  "task_definition_list": [
                    {
                      "sd_job_name": "ecs-appmesh-colors",
                      "sd_metrics_ports": "9901",
                      "sd_task_definition_arn_pattern": ".*:task-definition\/.*-ColorTeller-(white):[0-9]+",
                      "sd_metrics_path": "/stats/prometheus"
                    },
                    {
                      "sd_job_name": "ecs-appmesh-gateway",
                      "sd_metrics_ports": "9901",
                      "sd_task_definition_arn_pattern": ".*:task-definition/.*-ColorGateway:[0-9]+",
                      "sd_metrics_path": "/stats/prometheus"
                    }
                  ]
                }

Ciascuna di queste destinazioni predefinite viene recuperata e i parametri vengono inviate a CloudWatch negli eventi di log utilizzando Embedded Metric Format. Per ulteriori informazioni, consulta la pagina Incorporamento dei parametri nei log.

Gli eventi di log dei cluster Amazon ECS sono archiviati nel gruppo di log /aws/ecs/containerinsights/cluster_name/prometheus.

Ogni processo di scraping è contenuto in un flusso di log diverso in questo gruppo di log.

Per aggiungere una nuova destinazione di scraping, aggiungi una nuova voce nella sezione task_definition_list alla sezione ecs_service_discovery del file YAML e riavvia l'agente. Per un esempio di questo processo, vedere Esercitazione per l'aggiunta di nuove destinazioni di scraping di Prometheus: parametri del server API Prometheus.

Configurazione dell'agente CloudWatch per Prometheus

Il file di configurazione dell'agente CloudWatch ha la sezione prometheus in metrics_collected per la configurazione di scraping di Prometheus. Include le opzioni di configurazione seguenti:

Guarda l'esempio metric_declaration che segue.

"metric_declaration": [
  {
     "source_labels":[ "Service", "Namespace"],
     "label_matcher":"(.*node-exporter.*|.*kube-dns.*);kube-system$",
     "dimensions":[
        ["Service", "Namespace"]
     ],
     "metric_selectors":[
        "^coredns_dns_request_type_count_total$"
     ]
  }
]

In questo esempio viene configurata una sezione di formato metrica incorporata da inviare come evento di log se sono soddisfatte le seguenti condizioni:

L'evento di log inviato include la seguente sezione evidenziata:

{
   "CloudWatchMetrics":[
      {
         "Metrics":[
            {
               "Name":"coredns_dns_request_type_count_total"
            }
         ],
         "Dimensions":[
            [
               "Namespace",
               "Service"
            ]
         ],
         "Namespace":"ContainerInsights/Prometheus"
      }
   ],
   "Namespace":"kube-system",
   "Service":"kube-dns",
   "coredns_dns_request_type_count_total":2562,
   "eks_amazonaws_com_component":"kube-dns",
   "instance":"192.168.61.254:9153",
   "job":"kubernetes-service-endpoints",
   ...
}