最后一部分了。。。分两章吧。HBase和Hadoop紧密相关,更为具体的部署和运维内容推荐HadoopOperations和HBaseAdministration
Cookbook。本文粗粒度列出一些HBase部署运维的最佳实践和基本原则。
集群规划
一个完整的HBase集群包含HBase Master,ZooKeeper,RegionServers和Hadoop相关组件。生产集群按照规模...
分类:
其他好文 时间:
2014-09-22 20:00:13
阅读次数:
201
zookeeper中节点数量理论上仅受限于内存,但一个节点下的子节点数量受限于request/response 1M数据 (size
of data / number of znodes)
zookeeper的watch机制用于数据变更时zookeeper的主动通知。watch可以被附加到每一个节点上,那么如果一个应用有10W个节点,那zookeeper中就可能有10W个watch(甚至更多...
分类:
其他好文 时间:
2014-09-21 23:54:21
阅读次数:
275
一、前言 最近一年了吧,总是忙于特定项目的业务分析和顶层设计,很少花时间和精力放到具体的技术细节,感觉除了架构理念和分析能力的提升,在具体技术层次却并没有多大的进步。因为一些原因,总被人问及一些技术细节,很多细节都模糊了,花点时间,温习一下吧。技术部分将作为下一个阶段的工作重点。 二、操作说明查看Z...
分类:
其他好文 时间:
2014-09-21 11:33:10
阅读次数:
257
单台master的配置hbase.mastermaster:60000这是我们通常配置的,这样就定义了master是的ip和端口。但是当我们需要配置多台master进行,我们只需要提供端口,因为选择真正的master的事情会又zookeeper去处理。多台master的配置hbase.master....
分类:
其他好文 时间:
2014-09-21 01:04:49
阅读次数:
366
摘自https://major.io/2014/05/13/coreos-vs-project-atomic-a-review/。
【部署】
coreOS:
通过云上的镜像或者PXE部署。在云上可以使用cloud-config进行配置。
提供了etcd这个key-value系统,提供类似于zookeeper的能力。而且可以用于放置node信息。
提供fleet进行docker容器生命...
分类:
其他好文 时间:
2014-09-19 22:35:26
阅读次数:
321
1.Zookeeper经常被我们用来做配置管理,配置的管理在分布式应用环境中很常见,例如同一个应用系统需要多台 PC Server 运行,但是它们运行的应用系统的某些配置项是相同的,如果要修改这些相同的配置项,那么就必须同时修改每台运行这个应用系统的 PC Server,这样非常麻烦而且容易出错.....
分类:
其他好文 时间:
2014-09-19 22:27:46
阅读次数:
260
Hadoop系列之zookeeper(分布式协调服务)安装配置1.安装cd/root/softtarzxvfzookeeper-3.4.6.tar.gzmvzookeeper-3.4.6/usr/local/hadoop/zookeeper2.修改配置文件mkdir-p/data/zookeeper/data//3个节点都需要创建此目录cd/usr/local/hadoop/zookeeper/confcpzoo_sample.cfgzoo.c..
分类:
其他好文 时间:
2014-09-18 16:52:44
阅读次数:
154
Apache SolrCloud安装 SolrCloud通过ZooKeeper集群来进行协调,使一个索引进行分片,各个分片可以分布在不同的物理节点上,多个物理分片组成一个完成的索引Collection。SolrCloud自动支持Solr Replication,可以同...
分类:
其他好文 时间:
2014-09-17 17:02:32
阅读次数:
248
HBase依靠ZooKeeper来感知集群成员及其存活性。如果一个服务器暂停了很长时间,它将无法给ZooKeeper quorum发送心跳信息,其它服务器会认为这台服务器已死亡。这将导致master为其启动恢复进程。当该服务器脱离停顿时,它会发现它的所有租约都已失效(指hbase
client端每次和regionserver交互的时候,都会在服务器端生成一个租约(Lease),租约的有效期由参...
分类:
其他好文 时间:
2014-09-17 12:06:02
阅读次数:
393
报zookeeper exception not foundI fixed this by editing the file "/usr/local/hbase-0.94.1/conf/hbase-env.sh" and adding the element "export HBASE_CLASSP...
分类:
其他好文 时间:
2014-09-16 18:47:20
阅读次数:
144