Při konfiguraci MySql s prouděním vzduchu Apache v Hadoopu došlo k problému

Při instalaci Apache Airflow s MySQL pomocí Anaconda3

postupujte podle těchto kroků

1) Předpoklady instalace

yum install gcc gcc-c++ -y
yum install libffi-devel mariadb-devel cyrus-sasl-devel -y
dnf install redhat-rpm-config

2) Nainstalujte Anaconda3 (dodává se s Pythonem 3.7.6)

yum install libXcomposite libXcursor libXi libXtst libXrandr alsa-lib mesa-libEGL libXdamage mesa-libGL libXScrnSaver
wget https://repo.anaconda.com/archive/Anaconda3-2020.02-Linux-x86_64.sh
chmod +x Anaconda3-2020.02-Linux-x86_64.sh 
./Anaconda3-2020.02-Linux-x86_64.sh

Ujistěte se, že jste provedli conda initialize po zobrazení výzvy během instalace. Tím zajistíte, že v následujících krocích bude použita správná verze pythonu a pipu.

3) Nainstalujte Apache Airflow

pip install apache-airflow[mysql,celery]

Podle potřeby můžete přidat další dílčí balíčky. Zahrnul jsem pouze ty, které potřebuje Airflow k použití databáze MySQL jako backend.

4) Inicializujte proudění vzduchu

export AIRFLOW_HOME=~/airflow
airflow initdb

Odtud jsem napodobil kroky, které jste provedli při konfiguraci serveru MySQL

5) Nainstalujte MySQL Server

rpm -Uvh https://repo.mysql.com/mysql80-community-release-el7-3.noarch.rpm 
sed -i 's/enabled=1/enabled=0/' /etc/yum.repos.d/mysql-community.repo 
yum --enablerepo=mysql80-community install mysql-server 
systemctl start mysqld.service

6) Přihlaste se do MySQL a nakonfigurujte databázi pro Airflow

mysql> CREATE DATABASE airflow CHARACTER SET utf8 COLLATE utf8_unicode_ci; 
mysql> CREATE user 'airflow'@'localhost' identified by 'Airflow123'; 
mysql> GRANT ALL privileges on *.* to 'airflow'@'localhost';

7) Aktualizujte konfigurační soubor Airflow (~/airflow/airflow.cfg)

sql_alchemy_conn = mysql://airflow:[email protected]:3306/airflow
executor = CeleryExecutor

8) Inicializujte proudění vzduchu

airflow initdb