View a markdown version of this page

Risoluzione dei problemi: creazione e aggiornamento di un ambiente Amazon MWAA - Amazon Managed Workflows for Apache Airflow

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Risoluzione dei problemi: creazione e aggiornamento di un ambiente Amazon MWAA

Gli argomenti di questa pagina contengono errori che possono verificarsi durante la creazione e l'aggiornamento di un ambiente Amazon Managed Workflows for Apache Airflow e come risolverli.

Aggiornamento di requirements.txt

L'argomento seguente descrive gli errori che potresti ricevere durante l'aggiornamento del tuorequirements.txt.

Ho specificato una nuova versione del mio requirements.txt e ci vogliono più di 20 minuti per aggiornare il mio ambiente

Se il tuo ambiente impiega più di venti minuti per installare una nuova versione di un requirements.txt file, l'aggiornamento dell'ambiente non è riuscito e Amazon MWAA sta ripristinando l'ultima versione stabile dell'immagine del contenitore.

  1. Controlla le versioni del pacchetto. Ti consigliamo di specificare sempre una versione specifica (==) o una versione massima (<=) per le dipendenze Python nel tuo. requirements.txt

  2. Controllate i log di Apache Airflow. Se hai abilitato i log di Apache Airflow, verifica che i gruppi di log siano stati creati correttamente nella pagina Logs groups della console. CloudWatch Se ricevi log vuoti, il motivo più comune è la mancanza di autorizzazioni nel tuo ruolo di esecuzione per CloudWatch Amazon S3, dove vengono scritti i log. Per saperne di più, consulta. Ruolo di esecuzione

  3. Controllate le opzioni di configurazione di Apache Airflow. Se utilizzate Secrets Manager, verificate che le coppie chiave-valore specificate come opzione di configurazione di Apache Airflow siano state configurate correttamente. Per saperne di più, consulta. Configurazione di una connessione Apache Airflow utilizzando un AWS Secrets Manager Secret

  4. Controlla la configurazione della rete VPC. Per saperne di più, consulta. Ho provato a creare un ambiente ed è bloccato nello stato Creazione

  5. Controlla le autorizzazioni dei ruoli di esecuzione. Un ruolo di esecuzione è un ruolo AWS Identity and Access Management (IAM) con una politica di autorizzazioni che concede ad Amazon MWAA il permesso di richiamare le risorse di altri AWS servizi (come Amazon S3, Amazon SQS CloudWatch, Amazon ECR) per tuo conto. È inoltre necessario consentire l'accesso alla tua Customer-managed chiave o alla tua chiave AWS di proprietà. Per saperne di più, fai riferimento a. Ruolo di esecuzione

  6. Per eseguire uno script di risoluzione dei problemi che controlli la configurazione e la configurazione della rete Amazon VPC per il tuo ambiente Amazon MWAA, consulta lo script Verify Environment in AWS Support Tools on. GitHub

Ricevo il messaggio Impossibile installare i pacchetti a causa di un errore del sistema operativo [Errore 28] Errore di mancanza di spazio sul dispositivo

I contenitori Amazon MWAA hanno una quantità limitata di spazio di archiviazione per il sistema operativo, i DAG, i runtime e le librerie. Per ulteriori informazioni, consulta Quanto spazio di archiviazione delle attività è disponibile per ogni ambiente?.

Per ridurre i requisiti di archiviazione, potresti essere in grado di utilizzare --no-cache-dir installando le librerie con uno script di avvio. Ad esempio:

#!/bin/sh if [[ "${MWAA_AIRFLOW_COMPONENT}" != "webserver" ]] then # place requirements.txt in DAGs folder, and replace existing requirements.txt with an empty text file pip3 install --no-cache-dir -r /usr/local/airflow/dags/requirements.txt fi

Per ulteriori informazioni, consulta Configurare uno script di avvio.

Puoi anche installare le tue librerie dai file wheel di Python. Per ulteriori informazioni, consulta Opzione due: Python wheels (.whl).

Plugin

L'argomento seguente descrive i problemi che possono verificarsi durante la configurazione o l'aggiornamento dei plugin Apache Airflow.

Amazon MWAA supporta l'implementazione di un'interfaccia utente personalizzata?

A partire da Apache Airflow v2.2.2, Amazon MWAA supporta l'installazione di plug-in sul server web Apache Airflow e l'implementazione di un'interfaccia utente personalizzata. Se nel tuo ambiente Amazon MWAA è in esecuzione Apache Airflow v2.0.2 o versioni precedenti, non sarai in grado di implementare un'interfaccia utente personalizzata.

Per ulteriori informazioni sulla gestione delle versioni e sull'aggiornamento degli ambienti esistenti, consulta. Versioni di Apache Airflow su Flussi di lavoro gestiti da Amazon per Apache Airflow

Creazione di un bucket

Il seguente argomento descrive gli errori che potresti ricevere durante la creazione di un bucket Amazon S3.

Non riesco a selezionare l'opzione per le impostazioni di S3 Block Public Access

Il ruolo di esecuzione per il tuo ambiente Amazon MWAA richiede l'autorizzazione all'GetBucketPublicAccessBlockazione sul bucket Amazon S3 per verificare che il bucket abbia bloccato l'accesso pubblico. È consigliabile eseguire le operazioni seguenti:

  1. Segui i passaggi per allegare una policy JSON al tuo ruolo di esecuzione.

  2. Allega la seguente politica JSON:

    { "Effect":"Allow", "Action":[ "s3:GetObject*", "s3:GetBucket*", "s3:List*" ], "Resource":[ "arn:aws:s3:::amzn-s3-demo-bucket", "arn:aws:s3:::amzn-s3-demo-bucket/*" ] }

    Sostituisci i segnaposto di esempio amzn-s3-demo-bucket con il nome del tuo bucket Amazon S3.

  3. Per eseguire uno script di risoluzione dei problemi che controlli la configurazione e la configurazione della rete Amazon VPC per il tuo ambiente Amazon MWAA, consulta lo script Verify Environment in Support Tools on. https://github.com/awslabs/aws-support-tools/tree/master/MWAA AWS GitHub

Crea ambiente

Il seguente argomento descrive gli errori che potresti ricevere durante la creazione di un ambiente.

Ho provato a creare un ambiente ed è bloccato nello stato Creazione

È consigliabile eseguire le operazioni seguenti:

  1. Controlla la rete VPC con routing pubblico. Se utilizzi un Amazon VPC con accesso a Internet, verifica quanto segue:

    1. Che Amazon VPC sia configurato per consentire il traffico di rete tra le diverse AWS risorse utilizzate dal tuo ambiente Amazon MWAA, come definito in. Informazioni sulla rete su Amazon MWAA Ad esempio, il tuo gruppo di sicurezza VPC deve consentire tutto il traffico in una regola autoreferenziale o, facoltativamente, specificare l'intervallo di porte per l'intervallo di porte HTTPS 443 e un intervallo di porte TCP 5432.

  2. Controlla la rete VPC con routing privato. Se utilizzi un Amazon VPC senza accesso a Internet, verifica quanto segue:

    1. Che Amazon VPC sia configurato per consentire il traffico di rete tra AWS le diverse risorse per il tuo ambiente Amazon MWAA, come definito in. Informazioni sulla rete su Amazon MWAA Ad esempio, le due sottoreti private non devono avere una tabella di routing verso un gateway NAT (o istanza NAT), né un gateway Internet.

  3. Per eseguire uno script di risoluzione dei problemi che controlli la configurazione e la configurazione della rete Amazon VPC per il tuo ambiente Amazon MWAA, consulta lo script Verify Environment in Support Tools on. https://github.com/awslabs/aws-support-tools/tree/master/MWAA AWS GitHub

Ho provato a creare un ambiente ma viene visualizzato lo stato Creazione non riuscita

È consigliabile eseguire le operazioni seguenti:

  1. Controlla la configurazione della rete VPC. Per saperne di più, consulta. Ho provato a creare un ambiente ed è bloccato nello stato Creazione

  2. Verifica le autorizzazioni utente. Amazon MWAA esegue una prova a secco sulle credenziali di un utente prima di creare un ambiente. Account AWS Potresti non avere l'autorizzazione in AWS Identity and Access Management (IAM) per creare alcune delle risorse per un ambiente. Ad esempio, se hai scelto la modalità di accesso Apache Airflow alla rete privata, l'amministratore Account AWS deve aver ottenuto l'accesso alla politica di controllo degli AmazonMWAAFullConsoleAccess accessi per il tuo ambiente, che consente al tuo account di creare endpoint VPC.

  3. Verifica le autorizzazioni dei ruoli di esecuzione. Un ruolo di esecuzione è un ruolo AWS Identity and Access Management (IAM) con una politica di autorizzazioni che concede ad Amazon MWAA il permesso di richiamare le risorse di altri AWS servizi (come Amazon S3, Amazon SQS CloudWatch, Amazon ECR) per tuo conto. È inoltre necessario consentire l'accesso alla tua Customer-managed chiave o alla tua chiave AWS di proprietà. Per saperne di più, fai riferimento a. Ruolo di esecuzione

  4. Controllate i log di Apache Airflow. Se hai abilitato i log di Apache Airflow, verifica che i gruppi di log siano stati creati correttamente nella pagina Logs groups della console. CloudWatch Se ricevi log vuoti, il motivo più comune è la mancanza di autorizzazioni nel tuo ruolo di esecuzione per CloudWatch Amazon S3, dove vengono scritti i log. Per saperne di più, consulta. Ruolo di esecuzione

  5. Per eseguire uno script di risoluzione dei problemi che controlli la configurazione e la configurazione della rete Amazon VPC per il tuo ambiente Amazon MWAA, consulta lo script Verify Environment in AWS Support Tools on. GitHub

  6. Se utilizzi un Amazon VPC senza accesso a Internet, assicurati di aver creato un endpoint gateway Amazon S3 e di aver concesso le autorizzazioni minime richieste ad Amazon ECR per accedere ad Amazon S3. Per ulteriori informazioni sulla creazione di un endpoint gateway Amazon S3, consulta quanto segue:

Ho provato a selezionare un VPC e ho ricevuto un errore di rete

È consigliabile eseguire le operazioni seguenti:

  • Se ricevi un Network Failure errore quando provi a selezionare un Amazon VPC durante la creazione del tuo ambiente, disattiva tutti i proxy all'interno del browser in esecuzione e riprova.

Ho provato a creare un ambiente e ho ricevuto l'errore «must be pass» relativo al servizio, alla partizione o alla risorsa

È consigliabile eseguire le operazioni seguenti:

  • Potresti ricevere questo errore perché l'URI che hai specificato per il tuo bucket Amazon S3 include una '/' alla fine dell'URI. Ti consigliamo di rimuovere la '/' nel percorso. Il valore deve essere nel seguente formato:

    s3://amzn-s3-demo-bucket

Ho provato a creare un ambiente e viene visualizzato lo stato Disponibile, ma quando provo ad accedere all'interfaccia utente di Airflow viene visualizzata una risposta vuota dal server o l'errore 502 Bad Gateway

È consigliabile eseguire le operazioni seguenti:

  1. Controlla la configurazione del gruppo di sicurezza VPC. Per saperne di più, fai riferimento a. Ho provato a creare un ambiente ed è bloccato nello stato Creazione

  2. Verifica che tutti i pacchetti Apache Airflow elencati requirements.txt corrispondano alla versione di Apache Airflow in esecuzione su Amazon MWAA. Per saperne di più, consulta. Installazione delle dipendenze Python

  3. Per eseguire uno script di risoluzione dei problemi che controlli la configurazione e la configurazione della rete Amazon VPC per il tuo ambiente Amazon MWAA, consulta lo script Verify Environment in AWS Support Tools on. GitHub

Ho provato a creare un ambiente e il mio nome utente è composto da una serie di nomi di caratteri casuali

  • Apache Airflow ha un massimo di 64 caratteri per i nomi utente. Se il tuo ruolo AWS Identity and Access Management (IAM) supera questa lunghezza, viene utilizzato un algoritmo hash per ridurlo, pur rimanendo unico.

Ambiente di aggiornamento

L'argomento seguente descrive gli errori che potresti ricevere durante l'aggiornamento di un ambiente.

Ho provato a cambiare la classe di ambiente ma l'aggiornamento non è riuscito

Se si aggiorna l'ambiente a una classe di ambiente diversa (ad esempio cambiando mw1.medium da an a anmw1.small) e la richiesta di aggiornamento dell'ambiente non è riuscita, lo UPDATE_FAILED stato dell'ambiente passa a uno stato e l'ambiente viene ripristinato e fatturato in base alla versione stabile precedente di un ambiente.

È consigliabile eseguire le operazioni seguenti:

  1. Testa i tuoi DAG, i plugin personalizzati e le dipendenze Python localmente usando aws-mwaa-docker-images on. https://github.com/aws/amazon-mwaa-docker-images GitHub

  2. Per eseguire uno script di risoluzione dei problemi che controlli la configurazione e la configurazione della rete Amazon VPC per il tuo ambiente Amazon MWAA, consulta lo script Verify Environment in AWS Strumenti di supporto su. GitHub

Ambiente di accesso

L'argomento seguente descrive gli errori che potresti ricevere quando accedi a un ambiente.

Non riesco ad accedere all'interfaccia utente di Apache Airflow

È consigliabile eseguire le operazioni seguenti:

  1. Controlla le autorizzazioni utente. È possibile che non ti sia stato concesso l'accesso a una politica di autorizzazioni che puoi utilizzare per accedere all'interfaccia utente di Apache Airflow. Per saperne di più, consulta. Accesso a un ambiente Amazon MWAA

  2. Controlla l'accesso alla rete. Ciò potrebbe essere dovuto al fatto che hai selezionato la modalità di accesso alla rete privata. Se l'URL dell'interfaccia utente di Apache Airflow è nel formato seguente387fbcn-8dh4-9hfj-0dnd-834jhdfb-vpce.c10.us-west-2.airflow.amazonaws.com, significa che stai utilizzando un routing privato per il tuo server web Apache Airflow. È possibile aggiornare la modalità di accesso di Apache Airflow alla modalità di accesso alla rete pubblica o creare un meccanismo per accedere all'endpoint VPC per il server Web Apache Airflow. Per ulteriori informazioni, fare riferimento a. Gestione dell'accesso agli endpoint Amazon VPC specifici del servizio su Amazon MWAA