[Airflow] Airflow-StatsD exporter 연동 에러 해결

 

airflow metrics를 StatsD에 받아오기 위한 statsd-exporter를 도커로 띄우고 airflow 서버와 연결해주어야 하는데,

stastd-exporter metrics UI에서 airflow 메트릭이 확인이 안되는 상황에서의 삽질일기를 공유하고자 합니다.

 

 

먼저 결론부터 말씀드리자면, 

9125/UDP 열어주기!!!!

 

1️⃣ statsd-exporter 서버의 security group에서 airflow 서버의 port를 열어주어야 합니다.

1. statsd-exporter security group에 airflow webserver ip 주소(또는 ecs의 경우 airflow target-group sg) 입력
2. 9125(statsD) tcp port로 열어주기

statsd 도커 컨테이너 로그

대답 없는 airflow metrics

 

그러나 여전히 아무 반응이 없..

 

2️⃣ statsD docker container의 run 명령어를 다시 살펴보니, statsd가 9125 udp port로 떠 있음을 확인하고😱

docker run -p 9102:9102 -p 9125:9125 -p 9125:9125/udp {statsd_image} \
--statsd.listen-udp=:9125 --web.listen-address=:9102 \
--log.level=debug \
--statsd.mapping-config=/opt/statsd.yaml

위에서 추가한 9125 port를 udp로 허용했다.

 

그 결과, 즉시 airflow metrics를 받는 로그를 확인할 수 있었다 ⬇️

airflow로 찍히는 로그 확인

statsD UI에서도 확인 가능!

 

이걸로 1주일 날림.. 😂

 

 

In Summary, 대충 이런 구조...

Airflow-ecs-lb-SG -> Airflow-LB -> ecs-target_group-SG -> Target_Group -> ec2-SG -> statsd-ingest:9125

 

 

- 이상 오늘의 삽질일기 끝!

 

---

여기저기 삽질도 해보고

날려도 먹으면서

배우는 게

결국 남는거다

- Z.Sabziller

 

 

 

'쫄보의삽질' 블로그 탄생스토리가 궁금하다면:

Git push 취소 방법 (feat. '쫄보의삽질' 블로그 탄생 배경)