码迷,mamicode.com
首页 > 系统相关 > 详细

Ubuntu上搭建Hadoop环境

时间:2016-11-23 08:27:53      阅读:387      评论:0      收藏:0      [点我收藏+]

标签:hadoop


单机模式(standalone)
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。


伪分布模式(Pseudo-Distributed Mode)
伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。
全分布模式(Fully Distributed Mode)

Hadoop守护进程运行在一个集群上。
版本:Ubuntu 13.04,Hadoop 1.2.0

1.添加hadoop用户到系统用户
安装前要做一件事——添加一个名为hadoop到系统用户,专门用来做Hadoop测试。

~$ sudo addgroup hadoop  
~$ sudo adduser --ingroup hadoop hadoop 

现在只是添加了一个用户hadoop,它并不具备管理员权限,因此我们需要将用户hadoop添加到管理员组:

~$ sudo usermod -aG admin hadoop 


2、安装JDK

教程很多,参考http://www.linuxidc.com/Linux/2012-11/74189.htm。这里不多说。我安装的是JDK 1.7 64位版本


3.安装ssh

由于Hadoop用ssh通信,先安装ssh

sudo apt-get install openssh-server 

ssh安装完成以后,先启动服务:

sudo /etc/init.d/ssh start

启动后,可以通过如下命令查看服务是否正确启动:

ps -e | grep ssh

技术分享

建立ssh无密码登录本机.首先要转换成hadoop用户:

01.su - hadoop

作为一个安全通信协议,使用时需要密码,因此我们要设置成免密码登录,生成私钥和公钥:

hadoop@scgm-ProBook:~$ ssh-keygen -t rsa -P ""

技术分享

因为我已有私钥,所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码,按Enter直接过,这时会在~/home/{username}/.ssh下生成两个文件:id_rsa和id_rsa.pub,前者为私钥,后者为公钥,现在我们将公钥追加到authorized_keys中(authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容):

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

现在可以登入ssh确认以后登录时不用输入密码:

ssh localhost

技术分享

登出:

exit

第二次登录:

ssh localhost

技术分享

登出:

exit

这样以后登录就不用输入密码了。

 

4.安装Hadoop

官网下载hadoop源文件,这里选择hadoop 1.2.0

解压并放到你希望的目录中。我是放到/usr/local/hadoop

sudo tar xzf hadoop-1.2.0.tar.gz 

sudo mv hadoop-1.2.0 /usr/local/hadoop 

 要确保所有的操作都是在用户hadoop下完成的:

sudo chown -R hadoop:hadoop /usr/local/hadoop

5.设定hadoop-env.sh(Java 安装路径)

进入hadoop目录,打开conf目录下到hadoop-env.sh,添加以下信息:

export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64 (视你机器的java安装路径而定) 

export HADOOP_HOME=/usr/local/hadoop 

export PATH=$PATH:/usr/local/hadoop/bin 

并且,让环境变量配置生效source

source /usr/local/hadoop/conf/hadoop-env.sh

下面是伪分布模式需要的一些配置,继续。

6.设定*-site.xml

 这里需要设定3个文件:core-site.xml,hdfs-site.xml,mapred-site.xml,都在/usr/local/hadoop/conf目录下

 core-site.xml:  Hadoop Core的配置项,例如HDFS和MapReduce常用的I/O设置等。

 hdfs-site.xml:  Hadoop 守护进程的配置项,包括namenode,辅助namenode和datanode等。

 mapred-site.xml: MapReduce 守护进程的配置项,包括jobtracker和tasktracker。

首先在hadoop目录下新建几个文件夹

01. ~/hadoop$ mkdir tmp 

02. ~/hadoop$ mkdir hdfs 

03. ~/hadoop$ mkdir hdfs/name 

04. ~/hadoop$ mkdir hdfs/data

接下来编辑那三个文件:

技术分享

core-site.xml:

<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/local/hadoop/tmp</value>
</property>
</configuration>

hdfs-site.xml:

<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.name.dir</name>
<value>/usr/local/hadoop/hdfs/name</value>
</property>
<property>
<name>dfs.data.dir</name>
<value>/usr/local/hadoop/hdfs/data</value>
</property>
</configuration>

mapred-site.xml:

<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>

7.格式化HDFS

通过以上步骤,我们已经设定好Hadoop单机测试到环境,接着就是启动Hadoop到相关服务,格式化namenode,secondarynamenode,tasktracker:

source /usr/local/hadoop/conf/hadoop-env.sh

hadoop namenode -format

技术分享

技术分享


8.启动Hadoop

接着执行start-all.sh来启动所有服务,包括namenode,datanode,start-all.sh脚本用来装载守护进程。

01.hadoop@Ubuntu:/usr/local/hadoop$ cd bin 
02.hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh

技术分享

用Java的jps命令列出所有守护进程来验证安装成功

hadoop@ubuntu:/usr/local/hadoop$ jps 

出现如下列表,表明成功

技术分享

9.检查运行状态
 所有的设置已完成,Hadoop也启动了,现在可以通过下面的操作来查看服务是否正常,在Hadoop中用于监控集群健康状态的Web界面:
 http://localhost:50030/    - Hadoop 管理介面
 http://localhost:50060/    - Hadoop Task Tracker 状态
 http://localhost:50070/    - Hadoop DFS 状态
Hadoop 管理介面:

技术分享Hadoop Task Tracker 状态:

技术分享

Hadoop DFS 状态:技术分享

至此,hadoop的伪分布模式已经安装成功.

当Hadoop结束时,可以通过stop-all.sh脚本来关闭Hadoop的守护进程

hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh

10.结语

单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式,即全分布模式。


本文出自 “乡巴佬” 博客,请务必保留此出处http://bumpkin.blog.51cto.com/4086310/1875613

Ubuntu上搭建Hadoop环境

标签:hadoop

原文地址:http://bumpkin.blog.51cto.com/4086310/1875613

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!