Hadoop源起与体系概述
引[一个典型的实验环境]:
1.服务器: ESXi,可以在上面部署10多台虚拟机,能同时启动4台;
ESXi可以直接安装在裸机上面,而不用首先安装一个WinServer或Linux(StandAlone安装)。
ESXi在本质上就是一个高度定制化的Linux,其内核与周边环境都被VMWare公司修改了。
2.PC:要求Linux环境或Windows+Cygwin,Linux可以是StandAlone或者使用虚拟机
3.SSH:Windows下可以使用...
分类:
其他好文 时间:
2014-08-01 19:47:02
阅读次数:
264
分布式架构是中心化的设计,就是一个主控机连接多个处理节点,因此保证主控机高可用性十分关键.分布式锁是解决该问题的较好方案,多主控机抢一把锁.Zookeeper就是一套分布式锁管理系统,用于高可靠的维护元数据....
分类:
其他好文 时间:
2014-08-01 13:50:51
阅读次数:
230
HDFS和MapReduce是Hadoop的两大核心。整个Hadoop体系结构主要是通过HDFS来实现分布式存储的底层支持的,并且通过MapReduce来实现分布式并行任务处理的程序支持。...
分类:
其他好文 时间:
2014-07-30 20:57:44
阅读次数:
238
Hadoop学习笔记(6) ——重新认识Hadoop 之前,我们把hadoop从下载包部署到编写了helloworld,看到了结果。现是得开始稍微更深入地了解hadoop了。 Hadoop包含了两大功能DFS和MapReduce, DFS可以理解为一个分布式文件系统,存储而已,所以这里暂时就不深入....
分类:
其他好文 时间:
2014-07-30 09:44:03
阅读次数:
344
Hadoop学习笔记(5) ——编写HelloWorld(2) 前面我们写了一个Hadoop程序,并让它跑起来了。但想想不对啊,Hadoop不是有两块功能么,DFS和MapReduce。没错,上一节我们写了一个MapReduce的HelloWorld程序,那这一节,我们就也学一学DFS程序的编写。....
分类:
其他好文 时间:
2014-07-27 22:24:49
阅读次数:
280
Hadoop学习笔记(4) ——搭建开发环境及编写Hello World 整个Hadoop是基于Java开发的,所以要开发Hadoop相应的程序就得用JAVA。在linux下开发JAVA还数eclipse方便。 下载 进入官网:http://eclipse.org/downloads/。 找到相应....
分类:
其他好文 时间:
2014-07-27 10:35:02
阅读次数:
209
Hadoop学习笔记(3) ——分布式环境搭建 前面,我们已经在单机上把Hadoop运行起来了,但我们知道Hadoop支持分布式的,而它的优点就是在分布上突出的,所以我们得搭个环境模拟一下。 在这里,我们采用这样的策略来模拟环境,我们使用3台ubuntu机器,1台为作主机(master),另外2台....
分类:
其他好文 时间:
2014-07-26 01:48:06
阅读次数:
233
Hadoop学习笔记(2) ——解读Hello World 上一章中,我们把hadoop下载、安装、运行起来,最后还执行了一个Hello world程序,看到了结果。现在我们就来解读一下这个Hello Word。 OK,我们先来看一下当时在命令行里输入的内容: $mkdir input $cd i....
分类:
其他好文 时间:
2014-07-22 23:27:57
阅读次数:
401
Hadoop 运行环境准备运行环境部署结构介绍Linux
CentOS6.5安装(Hadoop环境配置)Linux
常用远程管理工具介绍SSH免密码登录配置Hadoop安装及配置Hadoop验证-WordCount执行Hadoop开发工具准备Hadoop Eclipse
Plugin配置安装及验证H...
分类:
其他好文 时间:
2014-05-23 02:41:15
阅读次数:
211
Hadoop Studio 是一个 map-reduce
结构的集成开发环境,基于NetBeans。你可以利用它来方便快速的创建基于Hadoop的 map-reduce
应用。该工具提供了一个实时的map-reduce任务的工作流视图,可以显示任务之间独立的输入输出和交互,而且该视图在代码修改时会实...
分类:
其他好文 时间:
2014-05-22 15:06:10
阅读次数:
302