| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | ||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 |
| 27 | 28 | 29 | 30 |
- redshift
- Kafka
- disk spill
- colab
- k8s
- mysql
- Salting
- Docker
- aws
- SQL
- AQE
- Kubernetes
- backfill
- Spark Caching
- topic
- Airflow
- Spark
- DataFrame Hint
- Dag
- CI/CD
- 빅데이터
- Spark 실습
- off heap memory
- etl
- spark executor memory
- 데이터 파이프라인
- Spark Partitioning
- KDT_TIL
- Speculative Execution
- Spark SQL
- Today
- Total
목록backfill (2)
JUST DO IT!
MySQL ➡️ Redshift의 Airflow ETL 구현해보기 - TIL230609
📚 KDT WEEK 10 DAY 4 TIL MySQL ➡️ Redshift Airflow ETL 구현 사전작업 ETL 코드 Backfill 구동 🟥 MySQL(OLTP)에서 Redshift(OLAP)로 Airflow ETL 구현해보기 프로덕션 데이터베이스(MySQL)에서 데이터 웨어하우스(Redshift)로 데이터를 전송하는 ETL을 Airflow로 구현해보자. 🛠️ 사전 작업 1. 권한 설정 먼저, 서로간의 권한 설정이 사전에 필요하다. Airflow DAG에서 S3 접근 권한 : AWS IAM User(S3 버킷 읽기, 쓰기 권한) 생성해서 access key, secret key 받기 https://sunhokimdev.tistory.com/34 > Snowflake 실습 > Snowflake에서 ..
📚 KDT WEEK 10 DAY 4 TIL Airflow Backfill 🟥 Backfill 과거에 읽어온 데이터들의 문제가 발생했거나 실패한 데이터 파이프라인을 재실행하는 것 Full Refresh 방식의 경우 다시 재실행하면 그만이지만, Incremental Update 방식에서 중요한 수단이다. Backfill을 알기 전에 알아야할 중요한 요소가 있다. DAG를 만들면서 지정해주던 날짜 변수인 start_date는 DAG의 처음 실행 날짜와는 다르다. 만약 Daily Incremental Update(매일 새로운 데이터 적재) 방식으로 ETL을 구성했다면, start_date가 2023-06-01 이라고 지정했을 때, 처음 DAG가 실행되는 날짜는 2023-06-02가 된다. start_date는 ..