«airflow-scheduler» 태그된 질문

1
공기 흐름 스케줄러가 kubernetes executor로 시작하지 못함
https://github.com/helm/charts/tree/master/stable/airflow helm 차트 를 사용 puckle/docker-airflow하고 kubernetes가 설치된 v1.10.8 이미지를 만들고 helm 차트에서 해당 이미지를 사용하고 있습니다. File "/usr/local/bin/airflow", line 37, in <module> args.func(args) File "/usr/local/lib/python3.7/site-packages/airflow/bin/cli.py", line 1140, in initdb db.initdb(settings.RBAC) File "/usr/local/lib/python3.7/site-packages/airflow/utils/db.py", line 332, in initdb dagbag = models.DagBag() File "/usr/local/lib/python3.7/site-packages/airflow/models/dagbag.py", line 95, in __init__ executor = get_default_executor() File …

1
파이썬에서 DAG를 사용하여 AWS athena 테이블에서 새 파티션 / 데이터를 사용할 수있는 경우에만 에어 플로우 작업을 트리거하는 방법은 무엇입니까?
나는 아래와 같은 scenerio를 가지고있다 : 트리거 Task 1및 Task 2때만 새로운 데이터 소스 테이블 (아테나)에서 그들을 위해에 avialable이다. Task1 및 Task2에 대한 트리거는 하루에 새 데이터가 분할 될 때 발생합니다. 및 Task 3완료시에만 트리거Task 1Task 2 Task 4완료 만 트리거Task 3 내 코드 from airflow import DAG from airflow.contrib.sensors.aws_glue_catalog_partition_sensor …
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.