Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verwenden der Apache Airflow Airflow-Konfigurationsoptionen auf Amazon MWAA
Apache Airflow Airflow-Konfigurationsoptionen können als Umgebungsvariablen an Ihre Amazon Managed Workflows for Apache Airflow Airflow-Umgebung angehängt werden. Sie können aus der vorgeschlagenen Drop-down-Liste wählen oder benutzerdefinierte Konfigurationsoptionen für Ihre Apache Airflow Airflow-Version auf der Amazon MWAA-Konsole angeben. In diesem Thema werden die verfügbaren Apache Airflow Airflow-Konfigurationsoptionen und die Verwendung dieser Optionen beschrieben, um die Apache Airflow Airflow-Konfigurationseinstellungen in Ihrer Umgebung zu überschreiben.
Inhalt
Voraussetzungen
Sie benötigen Folgendes, bevor Sie die Schritte auf dieser Seite ausführen können.
-
Berechtigungen — Ihr Administrator AWS-Konto muss Ihnen Zugriff auf die MWAAFullConsoleAccessAmazon-Zugriffskontrollrichtlinie für Ihre Umgebung gewährt haben. Darüber hinaus muss Ihrer Amazon MWAA-Umgebung von Ihrer Ausführungsrolle der Zugriff auf die von Ihrer Umgebung verwendeten AWS Ressourcen gestattet werden.
-
Zugriff — Wenn Sie Zugriff auf öffentliche Repositorys benötigen, um Abhängigkeiten direkt auf dem Webserver zu installieren, muss Ihre Umgebung für den Zugriff auf öffentliche Netzwerk-Webserver konfiguriert sein. Weitere Informationen finden Sie unter Apache-Airflow-Zugriffsmodi.
-
Amazon S3 S3-Konfiguration — Der Amazon S3 S3-Bucket DAGs, in dem Ihre benutzerdefinierten Plugins und Python-Abhängigkeiten gespeichert werden
plugins.zip
,requirements.txt
muss mit geblocktem öffentlichem Zugriff und aktivierter Versionierung konfiguriert sein.
Funktionsweise
Wenn Sie eine Umgebung erstellen, fügt Amazon MWAA die Konfigurationseinstellungen, die Sie auf der Amazon MWAA-Konsole in den Airflow-Konfigurationsoptionen angeben, als Umgebungsvariablen an den Container für Ihre Umgebung an. AWS Fargate Wenn Sie eine Einstellung mit demselben Namen in verwenden, überschreiben die Optionenairflow.cfg
, die Sie auf der Amazon MWAA-Konsole angeben, die Werte in. airflow.cfg
Wir stellen die airflow.cfg
in der Apache Airflow-Benutzeroberfläche einer Amazon MWAA-Umgebung zwar nicht standardmäßig zur Verfügung, aber Sie können die Apache Airflow Airflow-Konfigurationsoptionen direkt auf der Amazon MWAA-Konsole ändern, einschließlich der Einstellung, dass die Konfigurationen verfügbar gemacht werden. webserver.expose_config
Verwenden von Konfigurationsoptionen zum Laden von Plugins
In Apache Airflow v2 und höher sind Plugins standardmäßig so konfiguriert, dass sie mithilfe der core.lazy_load_plugins : True
Einstellung „träge“ geladen werden. Wenn Sie benutzerdefinierte Plugins verwenden, müssen Sie core.lazy_load_plugins : False
als Apache Airflow Airflow-Konfigurationsoption hinzufügen, um Plugins zu Beginn jedes Airflow-Prozesses zu laden, um die Standardeinstellung zu überschreiben.
Übersicht über die Konfigurationsoptionen
Wenn Sie eine Konfiguration auf der Amazon MWAA-Konsole hinzufügen, schreibt Amazon MWAA die Konfiguration als Umgebungsvariable.
-
Aufgelistete Optionen. In der Drop-down-Liste können Sie aus einer der für Ihre Apache Airflow Airflow-Version verfügbaren Konfigurationseinstellungen wählen. Beispiel:
dag_concurrency
:16
. Die Konfigurationseinstellung wird in den Fargate-Container Ihrer Umgebung übersetzt alsAIRFLOW__CORE__DAG_CONCURRENCY : 16
-
Benutzerdefinierte Optionen. Sie können auch Airflow-Konfigurationsoptionen angeben, die für Ihre Apache Airflow Airflow-Version nicht in der Drop-down-Liste aufgeführt sind. Beispiel:
foo.user
:YOUR_USER_NAME
. Die Konfigurationseinstellung wird in den Fargate-Container Ihrer Umgebung übersetzt alsAIRFLOW__FOO__USER : YOUR_USER_NAME
Konfigurationsoptionen für Apache Airflow
Die folgende Abbildung zeigt, wo Sie die Apache Airflow Airflow-Konfigurationsoptionen auf der Amazon MWAA-Konsole anpassen können.

Apache Airflow Airflow-Referenz
Eine Liste der von Apache Airflow unterstützten Konfigurationsoptionen finden Sie unter Configuration Reference
Verwenden der Amazon MWAA-Konsole
Das folgende Verfahren führt Sie durch die Schritte zum Hinzufügen einer Airflow-Konfigurationsoption zu Ihrer Umgebung.
-
Öffnen Sie die Seite Umgebungen
auf der Amazon MWAA-Konsole. -
Wählen Sie eine Umgebung aus.
-
Wählen Sie Bearbeiten aus.
-
Wählen Sie Weiter aus.
-
Wählen Sie im Bereich mit den Airflow-Konfigurationsoptionen die Option Benutzerdefinierte Konfiguration hinzufügen aus.
-
Wählen Sie eine Konfiguration aus der Dropdownliste aus und geben Sie einen Wert ein, oder geben Sie eine benutzerdefinierte Konfiguration ein und geben Sie einen Wert ein.
-
Wählen Sie für jede Konfiguration, die Sie hinzufügen möchten, die Option Benutzerdefinierte Konfiguration hinzufügen aus.
-
Wählen Sie Speichern.
Konfigurationsreferenz
Der folgende Abschnitt enthält die Liste der verfügbaren Apache Airflow Airflow-Konfigurationen in der Drop-down-Liste auf der Amazon MWAA-Konsole.
E-Mail-Konfigurationen
Die folgende Liste zeigt die Konfigurationsoptionen für Airflow-E-Mail-Benachrichtigungen, die auf Amazon MWAA für Apache Airflow v2 und v3 verfügbar sind.
Wir empfehlen die Verwendung von Port 587 für SMTP-Verkehr. AWS Blockiert standardmäßig ausgehenden SMTP-Verkehr auf Port 25 aller EC2 Amazon-Instances. Wenn Sie ausgehenden Verkehr auf Port 25 senden möchten, können Sie beantragen, dass diese Einschränkung aufgehoben wird
Option zur Konfiguration des Luftstroms | Beschreibung | Beispielwert |
---|---|---|
email.email_backend |
Das Apache Airflow Airflow-Hilfsprogramm, das für E-Mail-Benachrichtigungen in email_backend |
airflow.utils.email.send_email_smtp |
smtp.smtp_host |
Der Name des Ausgangsservers, der für die E-Mail-Adresse in smtp_host verwendet wird. |
localhost |
smtp.smtp_starttls |
Falsch |
|
smtp.smtp_ssl |
Wahr |
|
smtp.smtp_port |
Der TCP-Port (Transmission Control Protocol), der dem Server in smtp_port zugewiesen wurde. |
587 |
smtp.smtp_mail_von |
myemail@domain.com |
Aufgabenkonfigurationen
In der folgenden Liste werden die Konfigurationen angezeigt, die in der Dropdownliste für Airflow-Aufgaben auf Amazon MWAA für Apache Airflow v2 und v3 verfügbar sind.
Airflow-Konfigurationsoption | Beschreibung | Beispielwert |
---|---|---|
core.default_task_retries |
Gibt an, wie oft eine Apache Airflow Airflow-Aufgabe in default_task_retries wiederholt werden soll. |
3 |
core.parallelism |
Die maximale Anzahl von Task-Instanzen, die gleichzeitig in der gesamten Umgebung parallel ausgeführt werden können (Parallelität |
40 |
Scheduler-Konfigurationen
Die folgende Liste zeigt die Apache Airflow Scheduler-Konfigurationen, die in der Dropdownliste auf Amazon MWAA für Apache Airflow v2 und v3 verfügbar sind.
Airflow-Konfigurationsoption | Beschreibung | Beispielwert |
---|---|---|
scheduler.catchup_by_default |
Weist den Scheduler an, einen DAG-Lauf zu erstellen, um das in catchup_by_default |
Falsch |
scheduler.scheduler_zombie_task_threshold AnmerkungNicht verfügbar in Apache Airflow v3. |
300 |
Worker-Konfigurationen
Die folgende Liste zeigt die Airflow-Worker-Konfigurationen, die in der Drop-down-Liste auf Amazon MWAA für Apache Airflow v2 und v3 verfügbar sind.
Webserver-Konfigurationen
Die folgende Liste zeigt die Apache Airflow-Webserver-Konfigurationen, die in der Drop-down-Liste auf Amazon MWAA für Apache Airflow v2 und v3 verfügbar sind.
Airflow-Konfigurationsoption | Beschreibung | Beispielwert |
---|---|---|
webserver.default_ui_timezone AnmerkungNicht verfügbar in Apache Airflow v3. |
AnmerkungDie Einstellung dieser |
Amerika/New_York |
Konfigurationen auslösen
Die folgende Liste zeigt die Apache Airflow-Triggerkonfigurationen
Airflow-Konfigurationsoption | Beschreibung | Beispielwert |
---|---|---|
mwaa.triggerer_enabled |
Wird für die Aktivierung und Deaktivierung des Triggers auf Amazon MWAA verwendet. Standardmäßig ist dieser Wert auf |
Wahr |
triggerer.default_capacity (in Version 2) triggerer.capacity (in v3) |
Definiert die Anzahl der Trigger, die jeder Trigger parallel ausführen kann. Bei Amazon MWAA wird diese Kapazität für jeden Trigger und für jeden Scheduler festgelegt, da beide Komponenten parallel ausgeführt werden. Die Standardeinstellung pro Scheduler ist auf |
125 |
Beispiele und Beispielcode
Beispiel DAG
Sie können die folgende DAG verwenden, um Ihre email_backend
Apache Airflow Airflow-Konfigurationsoptionen zu drucken. Um ihn als Reaktion auf Amazon MWAA-Ereignisse auszuführen, kopieren Sie den Code in den DAGs Ordner Ihrer Umgebung auf Ihrem Amazon S3 S3-Speicher-Bucket.
from airflow.decorators import dag from datetime import datetime def print_var(**kwargs): email_backend = kwargs['conf'].get(section='email', key='email_backend') print("email_backend") return email_backend @dag( dag_id="print_env_variable_example", schedule_interval=None, start_date=datetime(
yyyy
,m
,d
), catchup=False, ) def print_variable_dag(): email_backend_test = PythonOperator( task_id="email_backend_test", python_callable=print_var, provide_context=True ) print_variable_test = print_variable_dag()
Beispiel für Einstellungen für E-Mail-Benachrichtigungen
Die folgenden Apache Airflow Airflow-Konfigurationsoptionen können für ein Gmail.com-E-Mail-Konto mit einem App-Passwort verwendet werden. Weitere Informationen finden Sie im Referenzhandbuch der Gmail-Hilfe unter Mit App-Passwörtern anmelden

Als nächstes
-
Erfahren Sie unter, wie Sie Ihren DAG-Ordner in Ihren Amazon S3 S3-Bucket hochladenHinzufügen oder Aktualisieren DAGs.