zookeeper使用和原理探究(一)zookeeper介绍zookeeper是一个为分布式应用提供一致性服务的软件,它是开源的Hadoop项目中的一个子项目,并且根据google发表的论文来实现的,接下来我们首先来安装使用下这个软件,然后再来探索下其中比较重要一致性算法。zookeeper安装和使...
分类:
其他好文 时间:
2014-08-30 17:44:59
阅读次数:
341
1.需求 安装ZooKeeper,metaQ 2.下载 http://zookeeper.apache.org/releases.html 当前stable版是zookeeper-3.4.6 3.解压 tar –xf zookeeper-3.4.6.tar.gz 解压文件到"/usr/local/z...
分类:
其他好文 时间:
2014-08-30 17:39:59
阅读次数:
149
storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中)。 backtype.storm.cluster定义了两个重要protocol:ClusterState和StormClusterState。clojure中的p...
分类:
其他好文 时间:
2014-08-30 13:48:29
阅读次数:
154
Zookeeper使用了一种称为Zab(Zookeeper Atomic Broadcast)的协议作为其一致性复制的核心,据其作者说这是一种新发算法,其特点是充分考虑了Yahoo的具体情况:高吞吐量、低延迟、健壮、简单,但不过分要求其扩展性。下面将展示一些该协议的核心内容:另,本文仅讨论Zooke...
分类:
其他好文 时间:
2014-08-29 23:58:58
阅读次数:
596
1.Tachyon简介Tachyon是一个高容错的分布式文件系统,允许文件以内存的速度在集群框架中进行可靠的共享,就像Spark和 MapReduce那样。通过利用信息继承,内存侵入,Tachyon获得了高性能。Tachyon工作集文件缓存在内存中,并且让不同的 Jobs/Queries以及框架都能...
分类:
其他好文 时间:
2014-08-27 18:32:08
阅读次数:
454
storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中)。backtype.storm.cluster定义了两个重要protocol:ClusterState和StormClusterState。clojure中的pr...
分类:
其他好文 时间:
2014-08-26 22:38:32
阅读次数:
354
zk不是使用maven管理的。将zk的src下的代码导入eclipse,lib下的jar包导入工程。QuorumPeerMain类的main方法是入口,启动了zk的server,参数是conf文件的路径,例如:org.apache.zookeeper.server.quorum.QuorumPeer...
分类:
其他好文 时间:
2014-08-26 19:21:56
阅读次数:
152
Zookeeper是Apache的一个开源项目,在集群管理中十分常用。它的集群搭建也十分简单,只需要简单的配置,集群的各个节点会完成自行通讯,自动选取Leader等。...
分类:
其他好文 时间:
2014-08-26 11:47:46
阅读次数:
262
一直对zookeeper的应用和原理比较迷糊,今天看一篇文章,讲得很通透,分享如下:场景一有这样一个场景:系统中有大约100w的用户,每个用户平均有3个邮箱账号,每隔5分钟,每个邮箱账需要收取100封邮件,最多3亿份邮件需要下载到服务器中(不含附件和正文)。用20台机器划分计算的压力,从多个不同.....
分类:
其他好文 时间:
2014-08-26 00:13:25
阅读次数:
529
很多人都苦于如何学习新知识,并害怕尝试,可能是这些人没有体验过学习新技能的乐趣。我在PtMind的实习期间,开始学习新框架Zookeeper,本文根据这段时间的项目实战经验,总结了该如何学习新技能的一些技巧...
分类:
其他好文 时间:
2014-08-25 19:18:04
阅读次数:
162