Mysql
 sql >> Base de Dados >  >> RDS >> Mysql

Enfrentando um problema ao configurar o MySql com o apache airflow no Hadoop


Siga estas etapas para instalar o Apache Airflow com MySQL usando o Anaconda3

1) Pré-requisitos de instalação
yum install gcc gcc-c++ -y
yum install libffi-devel mariadb-devel cyrus-sasl-devel -y
dnf install redhat-rpm-config

2) Instale o Anaconda3 (vem com o Python 3.7.6)
yum install libXcomposite libXcursor libXi libXtst libXrandr alsa-lib mesa-libEGL libXdamage mesa-libGL libXScrnSaver
wget https://repo.anaconda.com/archive/Anaconda3-2020.02-Linux-x86_64.sh
chmod +x Anaconda3-2020.02-Linux-x86_64.sh 
./Anaconda3-2020.02-Linux-x86_64.sh

Certifique-se de fazer conda initialize quando solicitado durante a instalação. Isso garantirá que a versão correta de python e pip seja usada nas etapas subsequentes.

3) Instale o Apache Airflow
pip install apache-airflow[mysql,celery]

Você pode adicionar outros subpacotes conforme necessário. Incluí apenas os necessários para o Airflow usar o banco de dados MySQL como back-end.

4) Inicializar o fluxo de ar
export AIRFLOW_HOME=~/airflow
airflow initdb

A partir daqui, imitei as etapas que você seguiu para configurar o MySQL Server

5) Instalar o servidor MySQL
rpm -Uvh https://repo.mysql.com/mysql80-community-release-el7-3.noarch.rpm 
sed -i 's/enabled=1/enabled=0/' /etc/yum.repos.d/mysql-community.repo 
yum --enablerepo=mysql80-community install mysql-server 
systemctl start mysqld.service

6) Faça login no MySQL e configure o banco de dados para o Airflow
mysql> CREATE DATABASE airflow CHARACTER SET utf8 COLLATE utf8_unicode_ci; 
mysql> CREATE user 'airflow'@'localhost' identified by 'Airflow123'; 
mysql> GRANT ALL privileges on *.* to 'airflow'@'localhost'; 

7) Atualizar o arquivo de configuração do Airflow (~/airflow/airflow.cfg)
sql_alchemy_conn = mysql://airflow:[email protected]:3306/airflow
executor = CeleryExecutor

8) Inicializar o fluxo de ar
airflow initdb