Přečtěte si tuto sérii příspěvků od Wepay, kde podrobně popisují, jak synchronizují své databáze MySQL s BigQuery pomocí Airflow:
- https://wecode.wepay.com/posts/ wepays-data-warehouse-bigquery-airflow
- https://wecode.wepay.com/posts/airflow-wepay
- (třetí se týká BigQuery)
Jako shrnutí (citace):
- Nastavit ověřování, připojení, DAG.
- Definujte, které sloupce se mají stáhnout z MySQL a načíst do BigQuery.
- Zvolte způsob načítání dat:přírůstkově nebo úplně.
- Odstranění duplicit.