Monitoraggio del caricamento dei dati - Amazon Aurora

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Monitoraggio del caricamento dei dati

Aurora Postgre SQL Limitless Database offre diversi modi per monitorare i processi di caricamento dei dati:

Elenco dei lavori di caricamento dei dati

È possibile connettersi all'endpoint del cluster e utilizzare la rds_aurora.limitless_data_load_jobs vista per elencare i lavori di caricamento dei dati.

postgres_limitless=> SELECT * FROM rds_aurora.limitless_data_load_jobs LIMIT 6; job_id | status | message | source_db_identifier | source_db_name | full_load_complete_time | progress_details | start_time | last_updated_time | streaming_mode | source_engine_type | ignore_primary_key_conflict | is_dryrun ---------------+-----------+---------+-------------------------------+----------------+-------------------------+-------------------------------------------------------------------------------------------------------------------------------------------------+------------------------+------------------------+-------------------+--------------------+-----------------------------+----------- 1725697520693 | COMPLETED | | persistent-kdm-auto-source-01 | postgres | 2024-09-07 08:48:15+00 | {"FULL_LOAD": {"STATUS": "COMPLETED", "DETAILS": "9 of 9 tables loaded", "COMPLETED_AT": "2024/09/07 08:48:15+00", "RECORDS_MIGRATED": 600003}} | 2024-09-07 08:47:13+00 | 2024-09-07 08:48:15+00 | full_load | aurora_postgresql | t | f 1725696114225 | COMPLETED | | persistent-kdm-auto-source-01 | postgres | 2024-09-07 08:24:20+00 | {"FULL_LOAD": {"STATUS": "COMPLETED", "DETAILS": "3 of 3 tables loaded", "COMPLETED_AT": "2024/09/07 08:24:20+00", "RECORDS_MIGRATED": 200001}} | 2024-09-07 08:23:56+00 | 2024-09-07 08:24:20+00 | full_load | aurora_postgresql | t | f 1725696067630 | COMPLETED | | persistent-kdm-auto-source-01 | postgres | 2024-09-07 08:23:45+00 | {"FULL_LOAD": {"STATUS": "COMPLETED", "DETAILS": "6 of 6 tables loaded", "COMPLETED_AT": "2024/09/07 08:23:45+00", "RECORDS_MIGRATED": 400002}} | 2024-09-07 08:23:10+00 | 2024-09-07 08:23:45+00 | full_load | aurora_postgresql | t | f 1725694221753 | CANCELED | | persistent-kdm-auto-source-01 | postgres | | {} | 2024-09-07 07:31:18+00 | 2024-09-07 07:51:49+00 | full_load_and_cdc | aurora_postgresql | t | f 1725691698210 | COMPLETED | | persistent-kdm-auto-source-01 | postgres | 2024-09-07 07:10:51+00 | {"FULL_LOAD": {"STATUS": "COMPLETED", "DETAILS": "1 of 1 tables loaded", "COMPLETED_AT": "2024/09/07 07:10:51+00", "RECORDS_MIGRATED": 100000}} | 2024-09-07 07:10:42+00 | 2024-09-07 07:10:52+00 | full_load | aurora_postgresql | t | f 1725691695049 | COMPLETED | | persistent-kdm-auto-source-01 | postgres | 2024-09-07 07:10:48+00 | {"FULL_LOAD": {"STATUS": "COMPLETED", "DETAILS": "1 of 1 tables loaded", "COMPLETED_AT": "2024/09/07 07:10:48+00", "RECORDS_MIGRATED": 100000}} | 2024-09-07 07:10:41+00 | 2024-09-07 07:10:48+00 | full_load | aurora_postgresql | t | f (6 rows)

I Job record vengono eliminati dopo 90 giorni.

Visualizzazione dei dettagli dei lavori di caricamento dei dati utilizzando l'ID del lavoro

Se conosci un ID di lavoro, puoi connetterti all'endpoint del cluster e utilizzare la rds_aurora.limitless_data_load_job_details vista per visualizzare i dettagli di quel processo di caricamento dei dati, inclusi il nome della tabella, lo stato del lavoro e il numero di righe caricate. È possibile ottenere l'ID del lavoro nelle risposte alle funzioni di avvio del caricamento dei dati o dalla rds_aurora.limitless_data_load_jobs vista.

postgres_limitless=> SELECT * FROM rds_aurora.limitless_data_load_job_details WHERE job_id='1725696114225'; job_id | destination_table_name | destination_schema_name | start_time | status | full_load_rows | full_load_total_rows | full_load_complete_time | cdc_insert | cdc_update | cdc_delete --------------+------------------------+-------------------------+------------------------+-----------+----------------+----------------------+-------------------------+------------+------------+------------ 1725696114225 | standard_1 | public | 2024-09-07 08:23:57+00 | COMPLETED | 100000 | 100000 | 2024-09-07 08:24:08+00 | 0 | 0 | 0 1725696114225 | standard_2 | public | 2024-09-07 08:24:08+00 | COMPLETED | 100000 | 100000 | 2024-09-07 08:24:17+00 | 0 | 0 | 0 1725696114225 | standard_3 | public | 2024-09-07 08:24:18+00 | COMPLETED | 1 | 1 | 2024-09-07 08:24:20+00 | 0 | 0 | 0 1725696114225 | standard_4 | public | 2024-09-07 08:23:58+00 | PENDING | 0 | 0 | | 0 | 0 | 0 (4 rows)

I Job record vengono eliminati dopo 90 giorni.

Monitoraggio del gruppo di CloudWatch log Amazon

Dopo che lo stato del processo di caricamento dei dati cambia aRUNNING, puoi controllare l'avanzamento del runtime utilizzando Amazon CloudWatch Logs.

Per monitorare i flussi di CloudWatch log

Accedi a AWS Management Console e apri la CloudWatch console all'indirizzo https://console.aws.amazon.com/cloudwatch/.

  1. Passa a Registri, quindi a Gruppi di log.

  2. Scegli il gruppo di log/aws/rds/aurora-limitless-database.

  3. Cerca il flusso di log del tuo processo di caricamento dei dati tramite job_id.

    Il flusso di log ha lo schema Data-Load-Job -. job_id

  4. Scegliete il flusso di registro per vedere gli eventi del registro.

Ogni flusso di log mostra gli eventi contenenti lo stato del lavoro e il numero di righe caricate nelle tabelle di destinazione del database Aurora Postgre SQL Limitless. Se un processo di caricamento dei dati non riesce, viene creato anche un registro degli errori che mostra lo stato dell'errore e il motivo.

I Job record vengono eliminati dopo 90 giorni.

Monitoraggio RDS degli eventi

Il processo di caricamento dei dati pubblica anche RDS eventi, ad esempio quando un processo riesce, fallisce o viene annullato. È possibile visualizzare gli eventi dal database di destinazione.

Per ulteriori informazioni, consulta Eventi del gruppo DB Shard.