尝试了简单的安装hadoop2后,我们再来尝试一下hdfs的一项新功能:FN。这项技术可以解决namenode容量不足的问题。它采用多个namenode来共享datanode的方式,每个namenode属于不同的namespace。下面是我们的安装信息Hadoop
版本:2.2.0OS 版本: Ce...
分类:
其他好文 时间:
2014-05-17 10:54:41
阅读次数:
518
前面介绍过hadoop的简单安装和FA安装,在这里将介绍几种hadoop2中HA(高可用性)安装,HA技术使hadoop不再存在单点namenode的故障。先来第一种:nfs+zookeeperHadoop
版本:2.2.0OS 版本: Centos6.4Jdk 版本: jdk1.6.0_32环境配...
分类:
其他好文 时间:
2014-05-17 03:07:21
阅读次数:
388
前面介绍过使用NFS+zookeeper来解决namenode单点失败问题,因为NFS可能也会存在单点问题,所以hadoop提供了一种叫做JournalNode技术,这项技术可以在JournalNode节点间共享数据我们来介绍这一种技术:JournalNode+
zookeeperHadoop 版本...
分类:
其他好文 时间:
2014-05-17 00:29:07
阅读次数:
331
目前hadoop1的稳定版本是1.2.1,我们以版本1.2.1为例详细的介绍hadoop1的安装,此过程包括OS安装与配置,JDK的安装,用户和组的配置,这些过程在hadoop2也有可能用到。Hadoop
版本:1.2.1OS 版本: Centos6.4Jdk 版本: jdk1.6.0_32环境配置...
分类:
其他好文 时间:
2014-05-16 22:21:50
阅读次数:
435
hadoop dfsadmin -safemode leave
分类:
其他好文 时间:
2014-05-16 22:18:40
阅读次数:
325
[转载]大数据人才流失: 科研为何陷入困境已有 5 次阅读2014-5-13
12:27|系统分类:观点评述推荐到群组无论无处不在的“大数据”概念引起怎样的联想,逐步增长的数据规模确是改变着我们和世界的交互方式。这在工业界、政界、媒体、学术界,几乎任何领域,都是事实。逐渐增强的对大数据进行收集、处理...
分类:
其他好文 时间:
2014-05-16 21:34:11
阅读次数:
254
Step1:关闭防火墙 service iptables stop[status] service
iptables status chkconfig --list |grep iptables chkconfig iptables offStep2:修改IP
(重启网卡:se...
分类:
其他好文 时间:
2014-05-16 21:22:50
阅读次数:
318
很多时候,我们测试时,如果进行大数据量的并发测试时,单个电脑的CPU和内存可能无法承受,这个时候,我们需要进行一个分布式的测试,比如10000个并发,使用三台电脑来进行并发
Jmeter提供了这种功能,你可以很轻松的实现Jmeter的这种分布式测试1 首先确何所有的电脑上都安装Jmeter2 在所....
分类:
其他好文 时间:
2014-05-16 18:02:34
阅读次数:
253
高并发,大数据量,你的系统考虑哪些问题?1,订票系统案例,某航班只有一张机票,假定有1w个人打开你的网站来订票,问你如何解决并发问题(可扩展到任何高并发网站要考虑的并发读写问题)问题,1w个人来访问,票没出去前要保证大家都能看到有票,不可能一个人在看到票的时候别人就不能看了。到底谁能抢到,那得看这个...
分类:
其他好文 时间:
2014-05-14 13:54:11
阅读次数:
197