Checkpoint介绍 checkpoint机制是Flink可靠性的基石,可以保证Flink集群在某个算子因为某些原因(如 异常退出)出现故障时,能够将整个应用流图的状态恢复到故障之前的某一状态,保 证应用流图状态的一致性。Flink的checkpoint机制原理来自“Chandy-Lamport ...
分类:
其他好文 时间:
2021-01-28 12:03:40
阅读次数:
0
paxos出身 paxos出身名门,它爹是没多久前获得图灵奖的在分布式领域大名鼎鼎的Leslie Lamport。 paxos为何而生 那么Lamport他老人家为什么要搞这个东东呢,不是吃饱了撑的,而是为了解决分布式系统的大难题。分布式系统一 般要求具有高可用性,高可用性一般又是通过冗余也就是多副 ...
分类:
编程语言 时间:
2020-09-04 17:33:41
阅读次数:
59
1、背景 Paxos算法是基于消息传递且具有高度容错特性的一致性算法,是目前公认的解决分布式一致性问题最有效的算法之一,其解决的问题就是在分布式系统中如何就某个值(决议)达成一致。 在常见的分布式系统中,总会发生诸如机器宕机或网络异常(包括消息的延迟、丢失、重复、乱序,还有网络分区)(也就是会发生异 ...
分类:
编程语言 时间:
2020-07-17 16:10:33
阅读次数:
63
《Time,Clocks and the Ordering of Events in a Distributed System》 绕不开的Leslie Lamport 数学【数学是皇帝,物理是皇后】。【宗教:万佛朝宗】 归纳,类比,演绎,反证。 第一性原理。数学,物理,宗教。。。 etcd is w ...
分类:
其他好文 时间:
2020-07-10 16:58:29
阅读次数:
72
一、简介 Paxos算法是莱斯利·兰伯特(Leslie Lamport)1990年提出的一种基于消息传递的、具有高容错性的一致性算法。Google Chubby的作者Mike Burrows说过,世上只有一种一致性算法,那就是Paxos,所有其他一致性算法都是Paxos算法的不完整版。Paxos算法 ...
分类:
编程语言 时间:
2020-07-07 15:58:30
阅读次数:
58
分布式系统和一致性问题 一致性问题(consensus problem)是分布式系统需要解决的一个核心问题。分布式系统一般是由多个地位相等的节点组成,各个节点之间的交互就好比几个人聚在一起讨论问题。让我们设想一个更具体的场景,比如三个人讨论中午去哪里吃饭,第一个人说附近刚开了一个火锅店,听说味道非常 ...
分类:
其他好文 时间:
2020-06-17 10:43:24
阅读次数:
60
下面这篇文章,感觉讲的非常好: http://www.8btc.com/baizhantingjiangjun 拜占庭将军问题是一个共识问题: 首先由Leslie Lamport与另外两人在1982年提出,被称为The Byzantine Generals Problem或者Byzantine Fa ...
分类:
其他好文 时间:
2020-05-22 19:08:44
阅读次数:
81
Zookeeper搭建集群及协同 协同的实现 首先启动一个zkCli客户端(zkCLi 1),创建一个workers节点。 create /workers 使用ls监控当前节点。 ls w /workers [] 当前/workers中没有子节点。 新开一个zkCli客户端(zkCli 2),在/w ...
分类:
其他好文 时间:
2019-12-11 00:40:26
阅读次数:
115
1. specifying systems:The TLA+ Language and To ols for Hardware and Software Engineers //by Leslie Lamport http://lamport.azurewebsites.net/tla/book.h ...
分类:
其他好文 时间:
2019-11-28 19:39:58
阅读次数:
104
什么是Spark Streaming Spark Streaming类似于Apache Storm,用于流式数据的处理 Spark Streaming有高吞吐量和容错能力强等特点。Spark Streaming支持的数据输入源很多,例如:Kafka、Flume、Twitter、ZeroMQ和简单的T ...
分类:
其他好文 时间:
2019-11-21 13:56:11
阅读次数:
103