我们通过学习借鉴,哪些项目或应用都使用了ZooKeeper,可以了解我们的应用使用ZooKeeper是否能真正地带来价值,当然,有些项目可能也未必非常适合使用ZooKeeper,我们要批判地学习、借鉴和吸收。 下面是一些使用了ZooKeeper实现的案例: HDFS HA(QJM) Hadoop 2 ...
分类:
其他好文 时间:
2016-04-30 23:38:57
阅读次数:
239
一、所需软件 1. JDK版本 下载地址:http://www.oracle.com/technetwork/java/javase/index.html 版本:jdk-7u79-linux-x64.gz 2. Hadoop软件 下载地址:http://hadoop.apach...
分类:
其他好文 时间:
2016-01-18 19:03:26
阅读次数:
221
Hadoop HA QJM (Quorum Journal Manager)
分类:
其他好文 时间:
2015-09-07 22:41:32
阅读次数:
349
问题导读
1.HDFS HA与QJM解决了什么问题?
2.HDFS HA与QJM区别是什么?
3.在HA(两个namenode)架构下,如何访问hdfs文件?
【使用QJM构建HDFS HA架构(2.2+)】
本文主要介绍HDFS HA特性,以及如何使用QJM(Quorum Journal Manager)特性实现HDFS HA。
一、背景
...
分类:
其他好文 时间:
2015-03-12 11:32:16
阅读次数:
213
介绍这一系列博文介绍hadoop集群的部署和安装,因为hadoop确实比较复杂,所以分为几个部分来一一介绍。大致有基础篇,HA-QJM篇,Federation篇。正文一、操作环境虚拟机4台,配置基于hadoop的集群中包括4个节点:1个Master,3个Salve,节点之间局域网连接,可以相互ping通,Ip分..
分类:
系统相关 时间:
2015-01-21 20:26:44
阅读次数:
347
环境基础篇需要4台机器(一台namenode,三台datanode);HA篇需要8台机器:两台namenode(一台作activenn,另一台作standbynn),三台datanode,三台zookeeper(也可以省去这三台,把zookeeperdaemon部署在其他机器上)。实际上还需要3台journalnode,但因为它比较轻量级,所以这里就..
分类:
系统相关 时间:
2015-01-21 20:20:32
阅读次数:
358
Hadoop2.4.1 64-Bit QJM HA and YARN HA Install + Zookeeper-3.4.6 + Hbase-0.98.8-hadoop2-bin HA(Hadoop2.4.1(QJM方式的HDFS NameNode HA,YARN ResourceManager ...
分类:
其他好文 时间:
2015-01-09 22:12:06
阅读次数:
788
本文在《Hadoop2.0的安装和基本配置》(见http://www.linuxidc.com/Linux/2014-05/101173.htm)一文的基础上继续介绍hadoop2.0 QJM(Quorum Journal Manager)方式的HA的配置(hadoop2.0架构,具体版本是hado...
分类:
其他好文 时间:
2014-12-14 15:50:08
阅读次数:
243
Hadoop2NameNodeHA配置Hadoop2官方提供了两种NameNodeHA的实现方式,分别基于QJM和NFS,这里以基于QJM的HDFSHA为例。实验环境系统版本:CentOSrelease6.4(Final)Hadoop版本:ApacheHadoop2.5.1Hive版本:Hive0.13.1IP列表IPHostnameNameNodeDataNodeRMNodeManagerJournalNode192..
分类:
其他好文 时间:
2014-11-08 02:16:48
阅读次数:
322
目的
本指南提供一个HDFS HA特性的综述,描述了如何使用QJM配置和管理一个HA HDFS集群。
本文档假设读者对于HDFS中的通用组件和节点类型有一个大体的认识。请参考HDFS架构指南获取更多信息。
注意:使用QJM或者传统的共享存储
本文档讨论了如何用QJM配置和使用HDFS HA在Active NameNode和Standby NameNode共享edit日志文件...
分类:
其他好文 时间:
2014-08-12 17:18:04
阅读次数:
327