Apache Airflow

[Airflow] DAG 테스트

비번변경 2022. 7. 29. 15:09

개요

2022.07.25 - [Airflow] DAG 생성 에서 생성한 DAG가 정상적으로 동작할지 간단히 확인해보자.

아래와 같은 방식으로 테스트를 수행하면 기본적인 에러 여부를 확인할 수 있다. 참고로 명령어는 1.10 버전 기준이다.

 

 

python 실행 테스트

python 명령으로 DAG 정의 파일을 실행해본다.

python dag_helloworld.py

발생한 예외가 없으면 정상적인 상태이다.

 

 

메타데이터 검사

DAG 정의 파일의 유효성을 추가로 검증해본다.

 

DAG 인식

Airflow에서 DAG를 정상적으로 인식하는지 확인한다.

airflow dags list

airflow dags list

 

Task 인식

Airflow에서 DAG의 Task를 정상적으로 인식하는지 확인한다.

airflow list_tasks DAG_ID

# 예시
airflow list_tasks helloworld

airflow list_tasks DAG_ID

 

--tree 옵션을 추가하면 Task 간의 의존성도 함께 확인할 수 있다.

airflow list_tasks DAG_ID --tree

# 예시 
airflow list_tasks helloworld --tree

airflow list_tasks DAG_ID --tree

 

 

실행 테스트

execution date에 대한 Task 인스턴스를 실행해본다.

 

+ execution date에 대한 개념은 추후에 다시 정리해보려고 한다.

airflow test DAG_ID TASK_ID EXECUTION_DATE

# 에시
airflow test helloworld echo_hello_world 2022-05-31

airflow test DAG_ID TASK_ID EXECUTION_DATE

정상적으로 실행된 것을 확인할 수 있다.

 

 

참고 문서

https://airflow.apache.org/docs/apache-airflow/stable/tutorial.html#backfill

 

 

728x90