go任务调度11（分布式crontab架构分析）

时间：2019-04-21 17:23:26 阅读：125 评论：0 收藏：0 [点我收藏+]

标签：1.5 分析扫描状态协程 cron 不同 shel 实时

crontab是单机工具
技术图片

(所有worker都在调度，如果有1000个任务，所有worker都在调用者1000个任务。对于编译型语言来说，排序一个一千万的数组只需要一秒，对于一千一万的调度，无需担心性能)
技术图片

(相当于完成一个到worker集群的通知，通知它们杀死任务)
技术图片

(
1.etcd中的任务会实时同步给worker，worker的调度协程会更新内存中维护的任务列表。etcd在内存中会镜像一份和etcd完全一样的任务清单，通过监听机制实现。
2.调度协程会周期性检查所有任务的cron任务表达式，扫描到期任务，到期任务会交给执行协程去执行。
3.同时，调度协程还会监听一个任务控制事件(想要杀死某个任务)，收到后，多个协程会强制中断执行中的子进程(shell命令)。
4.执行协程返回结果给调度协程，调度协程可以更新内存中任务状态，当任务调度给执行协程的时候，任务的状态就被更新为执行中了。任务结果返回就将状态改为执行完成。然后将执行结果投递给日志协程。
)
技术图片

(worker是个集群，每个workder任务清单都是从etcd中全量同步的，所以大家都按照每个任务的调度周期，在同时调度，对于同一个任务，比如每秒执行的任务，所有worker每隔一秒都会去执行这个任务。如果不做并发控制，所有worker会同一时刻全部执行一次这个任务。我们希望一个任务同一时刻只被执行一次，不允许任务并发调度。如何防止并发呢？去etcd中抢锁，大家都要调度，谁抢到谁调度，其他人等待下次过期，下次接着抢，抢到我就执行。这种很依赖各个时间节点的同步，校时不同会让有些机器老是先抢到锁。我们需要时间校准保障一致，还可以做些小策略，比如随机睡眠n-m毫秒)
技术图片

go任务调度11（分布式crontab架构分析）

标签：1.5 分析扫描状态协程 cron 不同 shel 实时

原文地址：https://blog.51cto.com/5660061/2382262

踩

(0)

评论一句话评论（0）

分享档案

更多>

2021年07月29日 (22)
2021年07月28日 (40)
2021年07月27日 (32)
2021年07月26日 (79)
2021年07月23日 (29)
2021年07月22日 (30)
2021年07月21日 (42)
2021年07月20日 (16)
2021年07月19日 (90)
2021年07月16日 (35)

周排行