基础配置:Hadoop 2.2.0，Hbase
0.96。四台集群机器，一台master，三台slave。三台slave上分别装gmond；namenode机器上设置datasource。客户端：安装wget：sudo
yum -y install wget安装epel库： a) 下载epel r....
分类：
其他好文 时间：
2014-07-22 23:08:34
阅读次数：
573
namenode 和 secondaryNamenode
运行在同一机器上，分离配置到新节点上。环境：OS：Centos 6.5 x64 & Soft：Hadoop
1.2.1master中的配置不是决定谁是namenode，而是决定谁是secondarynamenode。决定谁是namenode的...
分类：
其他好文 时间：
2014-05-06 01:08:13
阅读次数：
388
Lease 的机制：hdfs支持write-once-read-many，也就是说不支持并行写，那么对读写的互斥同步就是靠Lease实现的。Lease说白了就是一个有时间约束的锁。客户端写文件时需要先申请一个Lease，对应到namenode中的LeaseManager，客户端的client name就作为一个lease的holder，即租约持有者。LeaseManager起什么作用呢？
读写过程的容错是怎么做的？数据块是如何复制的？数据块的恢复机制？本文都有涉及。...
分类：
其他好文 时间：
2014-05-02 23:22:14
阅读次数：
450
模拟namenode崩溃，将name目录的内容全部删除，然后通过secondary
namenode恢复namenode。环境：OS：Centos 6.5 x64 & Soft：Hadoop
1.2.11、进入name目录下，删除name目录内容。[huser@master name]$ pwd/h...
分类：
其他好文 时间：
2014-05-02 14:44:28
阅读次数：
517
Hadoop从2.3.0版本开始支持HDFS缓存机制，HDFS允许用户将一部分目录或文件缓存在HDFS当中，NameNode会通知拥有对应块的DataNodes将其缓存在DataNode的内存当中
集中式缓存管理有着许多显著的优势：
防止那些被频繁使用的数据从内存中清除因为DataNode的缓存由NameNode来管理，applications在做任务安排时可以查询这个缓存的列表，...
分类：
其他好文 时间：
2014-05-01 17:45:58
阅读次数：
379
no datanode to stop; no namenode to stop; Bad
connection to FS. command aborted.; 网络时断时许错误;
分类：
其他好文 时间：
2014-04-29 20:35:45
阅读次数：
637
1 HDFS服务中，默认端口集合：
1. HDFS 端口
Service
Servers
Default Ports Used
Protocol
Description
Need End User Access?
Configuration Parameters
NameNode WebUI
Master Nodes (NameNo...
分类：
其他好文 时间：
2014-04-29 13:24:21
阅读次数：
492
Hadoop从2.4.0版本开始支持hdfs的ACL，在CDH5.0当中也继承了该特性，下面对其进行一些测试：
一、启用ACL：
dfs.permissions.enabled
true
dfs.namenode.acls.enabled
true
二、测试ACL：
①
[hadoop@master ~]$ groups
hadoop
创建目录并上传文件：
[...
分类：
其他好文 时间：
2014-04-27 21:18:00
阅读次数：
306
