参考链接:Hadoop 2.0 NameNode HA和Federation实践Posted on2012/12/10一、背景天云趋势在2012年下半年开始为某大型国有银行的历史交易数据备份及查询提供基于Hadoop的技术解决方案,由于行业的特殊性,客户对服务的可用性有着非常高的要求,而HDFS长久...
分类:
其他好文 时间:
2015-03-31 00:41:38
阅读次数:
244
1、机器准备,职责划分如下:机器名称IP地址NameNodeDataNodeJournalNodeZooKeeperZKFCHA-Cluster1HA-Cluster2Resource ManagerNode Managerhadoop01192.168.147.101Active√√nn1√had...
分类:
其他好文 时间:
2015-02-28 12:48:39
阅读次数:
292
每个Federation集群由三台节点组成,其中两个Disk,一个Ram。接下来我们评估一下,一个Federation集群能够容纳的用户数。已知数据:6W queue消耗4G内存一个设备会占用2个queue内存报警阀值定为 60%。注:因为消息,连接等也需要消耗内存性能测试中,两台(接近运维的物理机...
分类:
其他好文 时间:
2015-02-11 12:19:15
阅读次数:
622
介绍这一系列博文介绍hadoop集群的部署和安装,因为hadoop确实比较复杂,所以分为几个部分来一一介绍。大致有基础篇,HA-QJM篇,Federation篇。正文一、操作环境虚拟机4台,配置基于hadoop的集群中包括4个节点:1个Master,3个Salve,节点之间局域网连接,可以相互ping通,Ip分..
分类:
系统相关 时间:
2015-01-21 20:26:44
阅读次数:
347
题目大意: 给定n,B,然后给你一个n个节点的树,要求你将其分成几块(k),要求每一块的点数大于等于B并且小于等于3B,然后个每一块设定一个capital(capital可以不再这个块中,但是块中的点到capital的路径上不能有不属于这个块的点),要你输出k,然后每个节点属于的块的编号,接着输出每个块的capital。
解题思路:
一道不是很难构造题,DFS一遍,然后如果有一个节点的...
分类:
其他好文 时间:
2015-01-16 14:51:24
阅读次数:
182
##Effective C++ Notes### Part I. Accustoming Yourself to C++####1. View C++ as a federation of languages- C++ is a multi-paradigm programming language...
分类:
编程语言 时间:
2015-01-08 02:06:23
阅读次数:
329
前言 hadoop是分布式系统,运行在linux之上,配置起来相对复杂。对于hadoop1,很多同学就因为不能搭建正确的运行环境,导致学习兴趣锐减。不过,我有免费的学习视频下载,请点击这里。 hadoop2出来后,解决了hadoop1的几个固有缺陷,比如单点故障、资源利用率低、支持作业类型少等问题,...
分类:
其他好文 时间:
2015-01-03 13:11:26
阅读次数:
310
组网说明:hadoop1.localdomain192.168.11.81(namenode)hadoop2.localdomain192.168.11.82(namenode)hadoop3.localdomain192.168.11.83(datanode)hadoop4.localdomain192.168.11.84(datanode)hadoop5.localdomain192.168.11.85(datanode)第一步:卸载openjdkrpm-qa|grepjav..
分类:
其他好文 时间:
2014-12-14 07:15:13
阅读次数:
244
HDFSFederation是为解决HDFS单点故障而提出的NameNode水平扩展方案,该方案允许HDFS创建多个Namespace以提高集群的扩展性和隔离性。在Federation中新增了block-pool的概念,block-pool就是属于单个Namespace的一组block,每个DataNode为所有的block-pool存储block,可以理解bloc..
分类:
其他好文 时间:
2014-11-25 19:03:31
阅读次数:
253
转载地址:http://blog.csdn.net/strongerbit/article/details/7013221HDFS Federation(HDFS 联盟)介绍1. 当前HDFS架构和功能概述我们先回顾一下HDFS功能。HDFS实际上具有两个功能:命名空间管理(Namespace ma...
分类:
其他好文 时间:
2014-11-17 17:16:23
阅读次数:
271