Configuración de orígenes de buckets de S3 personalizados - Amazon CloudWatch

Configuración de orígenes de buckets de S3 personalizados

Con las canalizaciones de CloudWatch, puede procesar registros arbitrarios almacenados en buckets de S3.

Requisitos previos

Para usar Amazon S3 como origen de una canalización, cree antes un bucket de S3. Para obtener instrucciones, consulte Creación de un bucket de propósito general en la Guía del usuario de Amazon S3.

nota

Si el bucket de S3 utilizado como origen en la canalización se encuentra en otra cuenta de AWS, también debe activar los permisos de lectura entre cuentas en el bucket. Esto permite que la canalización lea y procese los datos. Para habilitar los permisos entre cuentas, consulte Propietario del bucket que concede permisos de bucket entre cuentas en la Guía del usuario de Amazon S3.

Si sus buckets de S3 están en varias cuentas, utilice una asignación bucket_owners. Para ver un ejemplo, consulte Cross-account S3 access en la documentación de OpenSearch.

Para configurar el procesamiento S3-SQS, también debe realizar los siguientes pasos:

Configuración del rol de la canalización

A diferencia de otros complementos de origen que envían datos a una canalización, el complemento de fuente de S3 tiene una arquitectura basada en lectura en la que la canalización extrae datos de la fuente. Por lo tanto, para que una canalización pueda leer desde S3, debe especificar un rol dentro de la configuración de fuente de S3 de la canalización que tenga acceso tanto al bucket de S3 como a la cola de Amazon SQS. La canalización asumirá este rol para leer los datos de la cola.

Puede encontrar ejemplos de permisos de rol en Políticas de IAM específicas del origen. Tenga en cuenta que este rol no tiene una relación de confianza con la entidad principal del servicio de canalizaciones de CloudWatch. Puede encontrar un ejemplo de configuración de la política de confianza para su rol de canalización en Relaciones de confianza.

Crear la canalización

Una vez configurados los permisos, puede configurar una canalización en función de su caso de uso de Amazon S3.

Seleccione Crear canalización en la pestaña Canalizaciones de Ingesta de la consola de CloudWatch. Siga los pasos del asistente de canalizaciones y proporcione el ARN de la cola de SQS y el rol de IAM de la canalización requerido cuando se le solicite. Si lo desea, proporcione un nombre y un tipo de origen de datos para adjuntarlos al destino del grupo de registro en Registros de CloudWatch.

Asegúrese de configurar una política de recursos de Registros de CloudWatch si aún no hay ninguna configurada para el grupo de registro de destino y, a continuación, seleccione Crear canalización en el paso Revisar y crear. Si se hace correctamente, se creará la canalización y los datos comenzarán a fluir en un plazo de 5 minutos.

Varias cuentas de Amazon S3 como origen

Puede otorgar acceso a todas las cuentas con Amazon S3 para que las canalizaciones de CloudWatch puedan acceder a los buckets de S3 de otra cuenta como origen. Para habilitar los accesos entre cuentas, consulte Propietario del bucket que concede permisos de bucket entre cuentas en la Guía del usuario de Amazon S3. Una vez que haya concedido el acceso, asegúrese de que su rol en la canalización cuente con los permisos necesarios.

A continuación, puede crear una canalización con bucket_owners para activar el acceso entre cuentas a un bucket de Amazon S3 como origen.

Configuración de orígenes personalizados

Al crear una canalización para orígenes personalizadas:

  • Un analizador debe ser el primer procesador de la canalización.

  • Puede especificar cualquier procesador compatible para las canalizaciones de registros personalizadas.