Hadoop配置主要事项
1、 保证Master和Slave能够ping通;
2、 配置/etc/hosts文件;
3、 能够ssh无密码切换各台主机;
4、 安装sun公司的jdk,在/etc/profile中设置好环境变量;
5、 下载Hadoop,安装、配置、搭建Hadoop集群;
1.Hadoop简介
Hadoop是Apache软件基金会旗下的一个开源分布式计算平台。...
分类:
其他好文 时间:
2015-03-28 17:25:24
阅读次数:
173
安装环境:ubuntu kylin 14.04 haoop-1.2.1 hadoop下载地址:http://apache.mesi.com.ar/hadoop/common/hadoop-1.2.1/1.安装JDK,这里要注意的是:要想在hadoop中使用,则需要在hadoop下输入命令:sou.....
分类:
系统相关 时间:
2015-03-21 19:53:21
阅读次数:
439
1 运行模式:单机模式(standalone): 单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式...
分类:
其他好文 时间:
2015-03-18 17:55:24
阅读次数:
124
Install Hadoop 2.2.0 on Ubuntu Linux 13.04 (Single-Node Cluster)
This tutorial explains how to install Hadoop 2.2.0/2.3.0/2.4.0/2.4.1 on Ubuntu 13.04/13.10/14.04 (Single-Node Cluster). This setup doe...
分类:
系统相关 时间:
2015-03-13 22:28:29
阅读次数:
342
ubuntu安装(这里我就不一一捉图了,只引用一个网址, 相信大家能力)ubuntu安装参考教程: http://jingyan.baidu.com/article/14bd256e0ca52ebb6d26129c.html注意下面几点:1、设置虚拟机的IP, 点击虚拟机的右下角网络连接图标, 选择...
分类:
系统相关 时间:
2015-03-12 11:08:33
阅读次数:
142
几乎因为安装配置hadoop的事弄了三四天,昨天unbuntu莫名其妙的崩溃了。好在今天及其顺利都弄好了,虽然经过了很多烦恼的问题挫折,不过他们是有意义的。
第一次配置是用hadoop2.52的版本,可能是配置文件的问题,当时没有发现,但是看到做wordcount那个例子时遇到bin/hdfs dfs -put etc/hadoop input这条命令时总会出现 No such file or di...
分类:
其他好文 时间:
2015-03-11 21:47:06
阅读次数:
149
1. hadoop软件传送给虚拟机 还是利用WinSCP把hadoop软件安装包,放到linux的Downloads文件夹中。 2. 选择安装目录 把hadoop安装包copy到这个安装目录中,这里我们选择CentOS中的/usr/local目录中。 3. 解压缩安装包 看到hadoop安装包的后缀...
分类:
系统相关 时间:
2015-03-05 16:55:10
阅读次数:
247
单机模式所需要的系统资源是最少的,这种安装模式下,Hadoop的core-site.xml、mapred-site.xml、hdfs-site.xml配置文件均为空。默认情况下,官方hadoop-1.2.1.tar.gz文件默认使用的就是单机安装模式。当配置文件为空时,Hadoop完全运行在本地,不与其他节点交互,也不使用Hadoop文件系统,不加载任何守护进程,该模式主要用于开发调试MapRedu...
分类:
其他好文 时间:
2015-03-04 09:50:35
阅读次数:
196
单词计数是最简单也是最能体现MapReduce思想的程序之一,可以称为MapReduce版“Hello World”,该程序的完整代码可以在Hadoop安装包的src/example目录下找到。单词计数主要完成的功能:统计一系列文本文件中每个单词出现的次数,如下图所示。本blog将通过分析WordCount源码来帮助大家摸清MapReduce程序的基本结构和运行机制。开发环境硬件环境:Centos...
分类:
其他好文 时间:
2015-03-04 09:48:48
阅读次数:
189
该文章的前期准备
hadoop安装
zk安装
本文所用的hbase版本是0.98.9
在安装hbase前,先确保下依赖组件的各个版本,本文的hadoop版本是2.6,在官网上没有给出支持的相关说明,但是我们仍然来使用hadoop2.6尝试下,jdk是7
http://www.apache.org/dyn/closer.cgi/hbase/
点击链接下载hba...
分类:
其他好文 时间:
2015-03-03 16:39:03
阅读次数:
126