我们的目的是搭建一个可以在任何地方使用的hadoop开发环境。创建maven项目创建一个maven项目,什么类型的项目随便引入hadoop配置文件copy hadoop的配置文件到src/main/resources文件中,只考有用的就行,core-site.xml,hdfs-site.xml,mapred-site.xml,yarn-site.xml等。设置环境变量hadoop的配置文件夹中的配置...
分类:
系统相关 时间:
2015-03-19 18:23:53
阅读次数:
200
注:本文中提到的ochadoop 不要感到奇怪,是亚信公司内部自己合成的一个包,把所有的组件都放在一个包内了,免去了组件的下载过程和解决兼容问题,其实也可以自己下载的,不要受到影响。
另,转载请注明出处,谢谢
修改静态IP和hostname
在 /etc/sysconfig/network-scripts/ifcfg-eth0
配置IPADDR
地址
运行以下命...
分类:
其他好文 时间:
2015-03-15 09:27:51
阅读次数:
310
1 Hadoop配置 注意事项:关闭所有防火墙服务器IP系统Master10.0.0.9Centos 6.0 X64Slave110.0.0.11Centos 6.0 X64Slave210.0.0.12Centos 6.0 X64 Hadoop版本:hadoop-0.20.2.tar.gz1.1 ...
分类:
其他好文 时间:
2015-02-26 19:56:45
阅读次数:
137
1 Hadoop配置 注意事项:关闭所有防火墙服务器IP系统Master10.0.0.9Centos 6.0 X64Slave110.0.0.11Centos 6.0 X64Slave210.0.0.12Centos 6.0 X64 Hadoop版本:hadoop-0.20.2.tar.gz1.1 ...
分类:
其他好文 时间:
2015-02-16 22:08:40
阅读次数:
208
hadoop通过Configuration类来保存配置信息
1、通过Configuration.addResource()来加载配置文件
2、通过Configuration.get***()来获取配置属性
1、创建一个新的Configuration实例时,会加载core-default.xml与core-site.xml,若还有其它配置,则调用addResource()继续添加。
pa...
分类:
其他好文 时间:
2015-01-21 11:34:21
阅读次数:
172
必备软件这里以Hadoop1.1.2为学习的版本。jdk-6u24-linux-i586.binhadoop-1.1.2.tarhbase-0.94.7-security.tarhive-0.9.0.tarsqoop-1.4.3.bin__hadoop-1.0.0.tarzookeeper-3.4.5.tar2.安装步骤linux系统环境配置,jdk和hadoop的安装参考http://www.cnblogs.com/xia520pi/archiv..
分类:
其他好文 时间:
2015-01-20 06:38:02
阅读次数:
205
启动Windows服务,顺序如下: SSTPS(secure socket tunneling protocol service)服务Telephony服务Remote Access ConnectionManager服务Windows Event Log服务选择服务器的基准时钟,可以选择内部硬件时...
Hadoop-2.0 目录简介
一、目录结构
将下载的压缩包解压:
解压后文件夹如下:
二、各文件夹目录结构
1、bin:Hadoop2.0的最基本管理脚本和使用脚本所在目录。这些脚本是sbin目录下管理脚本的基础实现,我们可以直接用这些脚本管理和使用Hadoop。
2、etc:这个目录里的文件只要接触过Hadoop的人都很熟悉。Hadoop配置文件目录。首先是从Ha...
分类:
其他好文 时间:
2015-01-07 18:57:20
阅读次数:
126
转载自http://www.aboutyun.com/thread-9189-1-1.html问题导读1.CM的安装目录在什么位置?2.hadoop配置文件在什么位置?3.Cloudera manager运行所需要的信息存在什么位置?4.CM结构和功能是什么?1. 相关目录/var/log/clou...
分类:
其他好文 时间:
2014-12-31 19:58:17
阅读次数:
133
Hadoop1.0.0学习笔记一.安装JDK,配置环境JAVA环境变量exportJAVA_HOME=/home/ligang/jdk1.6.0_26exportJRE_HOME=/home/ligang/jdk1.6.0_26/jreexportCLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH二.安装Hadoop-1.0.01.下载hadoop文件,地址为:http://hadoop.apache..
分类:
其他好文 时间:
2014-12-31 18:39:02
阅读次数:
266