Configurar el agente de Kinesis para enviar datos - Amazon Data Firehose

Configurar el agente de Kinesis para enviar datos

El agente de Amazon Kinesis es una aplicación de software de Java independiente que sirve de implementación de referencia para mostrar cómo se pueden recopilar y enviar datos a Firehose. El agente monitoriza constantemente un conjunto de archivos y envía nuevos datos a su flujo de Firehose. El agente le muestra cómo encargarse de la rotación de archivos, cómo crear puntos de control y cómo realizar reintentos cuando se producen errores. También le muestra cómo entregar todos los datos de manera confiable, puntual y sencilla. Además, le muestra cómo emitir métricas de CloudWatch para que supervise y solucione mejor los problemas que surjan en el proceso de streaming. Para obtener más información, awslabs/amazon-kinesis-agent.

De forma predeterminada, los registros de cada archivo se analizan en función del carácter de nueva línea ('\n'). Sin embargo, el agente también se puede configurar para analizar registros multilínea (consulte Especificar las opciones de configuración del agente).

Puede instalar el agente en entornos de servidor basados en Linux, como servidores web, de registro o de base de datos. Después de instalar el agente, configúrelo especificando los archivos que desee monitorizar y el flujo de Firehose de los datos. Una vez configurado, el agente recopila datos de los archivos de forma duradera y los envía de forma confiable al flujo de Firehose.

Requisitos previos

Antes de usar el agente de Kinesis, asegúrese de cumplir los siguientes requisitos previos.

  • Su sistema operativo debe ser Amazon Linux o Red Hat Enterprise Linux, versión 7 o posterior.

  • La versión 2.0.0 o posterior del agente se ejecuta con la versión 1.8 o posterior de JRE. La versión 1.1.x del agente se ejecuta con la versión 1.7 o posterior de JRE.

  • Si utiliza Amazon EC2 para ejecutar el agente, lance la instancia de EC2.

  • El rol de IAM o las credenciales de AWS que especifique deben tener permiso para llevar a cabo la operación PutRecordBatch de Amazon Data Firehose para que el agente envíe datos a su flujo de Firehose. Si habilita el seguimiento de CloudWatch para el agente, también se necesita permiso para llevar a cabo la operación PutMetricData de CloudWatch. Para obtener más información, consulte Control del acceso con Amazon Data Firehose, Supervisión del estado del agente de Kinesis y Autenticación y control de acceso de Amazon CloudWatch.