Uso de una clave secreta en AWS Secrets Manager para una conexión de Apache Airflow Snowflake
En el siguiente ejemplo, se llama a AWS Secrets Manager para obtener una clave secreta para una conexión de Apache Airflow Snowflake en Amazon Managed Workflows para Apache Airflow. Se asume que ha realizado los pasos que se detallan en Configuración de una conexión de Apache Airflow mediante un secreto de AWS Secrets Manager.
Versión
Puede usar el código de ejemplo que aparece en esta página con Apache Airflow v2 en Python 3.10
Requisitos previos
Para usar el código de muestra de esta página, necesitará lo siguiente:
-
El backend de Secrets Manager como opción de configuración de Apache Airflow, como se muestra en Configuración de una conexión de Apache Airflow mediante un secreto de AWS Secrets Manager.
-
Una cadena de conexión de Apache Airflow en Secrets Manager, como aparece en Configuración de una conexión de Apache Airflow mediante un secreto de AWS Secrets Manager.
Permisos
-
Permisos de Secrets Manager, como se muestra en Configuración de una conexión de Apache Airflow mediante un secreto de AWS Secrets Manager.
Requisitos
Para usar el código de ejemplo de esta página, agregue las siguientes dependencias a su requirements.txt. Consulte Instalación de dependencias de Python para obtener más información.
apache-airflow-providers-snowflake==1.3.0
Código de ejemplo
En los siguientes pasos se describe cómo crear el código DAG que llama a Secrets Manager para recibir el secreto.
-
En el símbolo del sistema, vaya hasta el directorio en el que esté almacenado el código DAG. Por ejemplo:
cd dags -
Copie el contenido del código de ejemplo siguiente y guárdelo localmente como
snowflake_connection.py.""" Copyright Amazon.com, Inc. or its affiliates. All Rights Reserved. Permission is hereby granted, free of charge, to any person obtaining a copy of this software and associated documentation files (the "Software"), to deal in the Software without restriction, including without limitation the rights to use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of the Software, and to permit persons to whom the Software is furnished to do so. THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE. """ from airflow import DAG from airflow.providers.snowflake.operators.snowflake import SnowflakeOperator from airflow.utils.dates import days_ago snowflake_query = [ """use warehouse "MY_WAREHOUSE";""", """select * from "SNOWFLAKE_SAMPLE_DATA"."WEATHER"."WEATHER_14_TOTAL" limit 100;""", ] with DAG(dag_id='snowflake_test', schedule_interval=None, catchup=False, start_date=days_ago(1)) as dag: snowflake_select = SnowflakeOperator( task_id="snowflake_select", sql=snowflake_query, snowflake_conn_id="snowflake_conn", )
Siguientes pasos
-
Aprenda a cargar el código el DAG de este ejemplo en la carpeta
dagsde su bucket de Amazon S3 en Cómo añadir o actualizar DAG.