今天突然很想聊聊分布式系统,首先这个系统是需要划分出层次的; 分布式系统包括有很多,包括分布式计算系统,比如hadoop, 还有分布式机器调度系统;k8s是一套容器编排系统 分布式存储系统; 他们干的事情有什么区别呢? 是一套容器编排系统 他们有什么区别呢? 没有什么区别,都是有一个中心节点,这些中 ...
分类:
其他好文 时间:
2019-12-24 23:25:35
阅读次数:
89
网宿NGB调度系统(类似httpdns原理)从服务端分发给客户端推流IP,实现基于APP realip精准调度模式。 参考官网介绍:https://www.wangsu.com/content/details21_548.html 全局NGB调度系统 区别于传统DNS调度,网宿特有NGB全局调度系统 ...
分类:
其他好文 时间:
2019-12-13 21:40:22
阅读次数:
158
作者|孙健波(天元)阿里巴巴技术专家本文整理自11月21日社群分享,每月2场高质量分享,点击加入社群。早在2011年,阿里巴巴内部便开始了应用容器化,当时最开始是基于LXC技术构建容器,然后逐渐切换到Docker,自研了大规模编排调度系统。到了2018年,我们团队依托K8s体系开始推进“轻量级容器化”,同时投入了工程力量跟开源社区一起解决了诸多规模与性能问题,从而逐步将过去“类虚拟机”的运维链路和
作者 | 孙健波(天元) 阿里巴巴技术专家 本文整理自 11 月 21 日社群分享,每月 2 场高质量分享, " 点击加入 " 社群。 早在 2011 年,阿里巴巴内部便开始了应用容器化,当时最开始是基于 LXC 技术构建容器,然后逐渐切换到 Docker,自研了大规模编排调度系统。到了 2018 ...
首先,DelayQueue是一个无界阻塞队列,只有在延迟期满时才能从中提取元素。可以设置该队列的存活时间、移除时间、唯一ID等元素。 DelayQueue阻塞队列在我们系统开发中也常常会用到,例如:延迟多久执行某操作;任务调度系统,能够准确的把握任务的执行时间。为了具有调用行为,存放到DelayDe ...
分类:
其他好文 时间:
2019-11-13 19:21:06
阅读次数:
107
1、集群架构 JStorm从设计的角度,就是一个典型的调度系统,简单集群的架构如下图所示,其中Nimbus可增加一个备节点,多个Supervisor节点组成任务执行集群。 1.1、Nimbus Nimbus是作为整个集群的调度器角色,负责分发topology代码、分配任务,监控集群运行状态等,其主要 ...
分类:
Web程序 时间:
2019-10-13 12:53:37
阅读次数:
148
1. Apache Oozie Oozie是一个工作流调度系统。Oozie是运行于Java Servlet容器上的一个java web应用。Oozie是按照有向无权图(DAG)调度方式,使用xml文件配置工作流。最初是由Cloudear公司开发,后来贡献给Apache a. apache Oozie ...
分类:
Web程序 时间:
2019-10-13 10:50:32
阅读次数:
111
pthread_join 等待一个特定线程的退出 进程控制块分为调度信息和现场信息 进程标识符 进程当前状态 代码段指针 进程从运行——>就绪的原因可能是:1.被调度程序抢占处理机 2.进程完成创建 3.时间片用完 非抢占式能引起新的进程调度是:1.正在执行的进程运行完毕 正在执行的进程调用阻塞原语 ...
分类:
编程语言 时间:
2019-09-04 09:33:09
阅读次数:
113
协程:所与要的线程:单线程,方式:同步,实现:异步程序级别:函数,实现机制:事件循环+协程 应用场景:io密集任务 协程 那yield from通常用在什么地方呢?在协程中,只要是和IO任务类似的、耗费时间的任务都需要使用yield from来进行中断,达到异步功能! @asyncio.corout ...
分类:
编程语言 时间:
2019-08-26 14:44:04
阅读次数:
93
Airflow1.10.4介绍与安装 ===================== 现在是9102年,8月中旬。airflow当前版本是1.10.4. 随着公司调度任务增大,原有的,基于crontab和mysql的任务调度方案已经不太合适了,需要寻找一个可以支持分布式扩容的调度系统解决方案。 最初瞄准 ...
分类:
其他好文 时间:
2019-08-26 09:53:41
阅读次数:
133