码迷,mamicode.com
首页 > 数据库 > 详细

airflow使用mysql数据库,LocalExecutor并发调度(1)

时间:2019-10-31 01:15:02      阅读:115      评论:0      收藏:0      [点我收藏+]

标签:executor   分布式   osc   ash   tab   用户   mysqli   l数据库   itdb   

 

mysql-airflow

在mysql上执行

create database airflow; —— 创建数据库

GRANT all privileges on airflow.* TO ‘airflow‘@‘%‘ IDENTIFIED BY ‘123456‘; —— 将数据库airflow的所有权限授权airflow用户,密码123456且该用户可在任何IP段登录操作

FLUSH PRIVILEGES; —— 刷新权限

set explicit_defaults_for_timestamp = 1;

修改airflow配置文件airflow.cfg

sql_alchemy_conn = mysql://airflow:123456@mysqlIP/airflow

初始化数据库

airflow initdb

若之前使用sqllite初始化过可使用airflow resetdb

airflow-LocalExecutor

修改执行器,使airflow并发调度任务

修改配置文件airflow.cfg

executor = LocalExecutor

重启scheduler即可(默认并发调度16)

分布式问题

1.需要使用同步方式解决dags目录与worker的同步问题——待解决

2.需要解决scheduler的单点问题,可参考 apache-airflow 调度系统 https://blog.csdn.net/somezz/article/details/82749495

cankao :https://my.oschina.net/u/3770892/blog/3069220

 

 

airflow使用mysql数据库,LocalExecutor并发调度(1)

标签:executor   分布式   osc   ash   tab   用户   mysqli   l数据库   itdb   

原文地址:https://www.cnblogs.com/lshan/p/11768812.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!