在过去，每个应用都是单个程序，跑在单一CPU的单一服务器上。现在不一样了。在大数据和云计算的世界里，应用都是由许多独立的程序运行在一组不断变化的机器上。 协调这些独立程序的行为比起单一程序来困难的多。这样很容易导致开发人员陷入协调的逻辑而没有时间来实现正确的应用逻辑，或者反过来，花很少的时...
分类：
其他好文 时间：
2014-07-16 21:20:54
阅读次数：
149
启动后，访问：http://IP:1107/mdrill.jsp 蓝鲸任务即http:/IP:1107/topology.jsp 页面出现如下错误：HTTP ERROR 500Problem accessing /topology.jsp. Reason: KeeperErrorCode = ...
分类：
其他好文 时间：
2014-07-13 21:19:51
阅读次数：
447
普通的zk用法，如下写法：zk.Exists("/aaa", true);zk.Create(...);但是由于这些API会抛Zookeeper的Exception，比如ConnectionLossException, NoNodeException等，所以必须配合一堆try/catch的机制来ca...
分类：
Web程序 时间：
2014-07-12 00:58:19
阅读次数：
330
Hive学习路线图Hadoop家族系列文章，主要介绍Hadoop家族产品，常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa，新增加的项目包括，YARN, Hcatalog, Oozie, C...
分类：
其他好文 时间：
2014-07-11 08:48:52
阅读次数：
291
通过HBase client访问HBase时，配置如下：Configuration conf = HBaseConfiguration.create();// Zookeeper地址 conf.set(HConstants.ZOOKEEPER_QUORUM, "master.hadoop");//....
分类：
其他好文 时间：
2014-07-07 00:38:13
阅读次数：
250
前言: Flume-ng是数据收集/聚合/传输的组件, Flume-ng抛弃了Flume OG原本繁重的zookeeper和Master, Collector, 其整体的架构更加的简洁和明了. 其基础组件就Agent进程, 内部又可以细分为Source, Channel, Sink三个组件, S.....
分类：
其他好文 时间：
2014-07-07 00:26:46
阅读次数：
355
本文简单介绍了ZooKeeper的基本知识。(1)概述①什么是ZooKeeper？Zookeeper是Google的Chubby一个开源的实现，是Hadoop的分布式协调服务它包含一个简单的原语集，分布式应用程序可以基于它实现同步服务，配置维护和命名服务等②Zookeeper的角色③为什么使用Zookeeper？大部分分..
分类：
其他好文 时间：
2014-07-03 14:02:30
阅读次数：
269
基于zookeeper写了个Leader选举类库demo，场景如下：上图中的Program1..4可以部署在1台server上，也可以部署在多台server上，也可以是一个进程中的多个线程。运行效果：初始化时（4个全开）把第四个（也就是此时的Leader） 关闭后把某个Follower角色的进程关闭...
分类：
其他好文 时间：
2014-07-03 12:34:31
阅读次数：
137
在Kafka中，LogManager负责管理broker上所有的Log（每一个topic-partition为一个Log）。通过阅读源代码可知其具体完成的功能如下：
1. 按照预设规则对消息队列进行清理。
2. 按照预设规则对消息队列进行持久化（flush操作）。
3. 连接ZooKeeper进行broker、topic、partition相关的ZooKeeper操作。
4. 管理brok...
分类：
其他好文 时间：
2014-06-28 08:25:21
阅读次数：
208
