码迷,mamicode.com
首页 > 其他好文 > 详细

Hadoop之运行环境搭建

时间:2018-11-04 19:27:58      阅读:262      评论:0      收藏:0      [点我收藏+]

标签:color   file   克隆虚拟机   本地   yarn   下载   yar   主机名   官方   

一、虚拟机环境准备

1、克隆虚拟机

2、修改克隆虚拟机静态IP

3、修改主机名

4、关闭防火墙

5、创建hadoop用户

6、配置hadoop用户具有root权限

7、在/opt 目录下创建文件夹

  1)在/opt 目录下创建module、software文件夹

1 [hadoop@hadoop101 opt]$ sudo mkdir module
2 [hadoop@hadoop101 opt]$ sudo mkdir software

  2)修改module、software文件夹的所有者

[hadoop@hadoop101 opt]$ sudo chown hadoop:hadoop module/ software/
[hadoop@hadoop101 opt]$ ll
总用量 8
drwxr-xr-x. 2 hadoop hadoop 4096 1月  17 14:37 module
drwxr-xr-x. 2 hadoop hadoop 4096 1月  17 14:38 software

 

二、安装JDK

1、卸载现有JDK

  1)查询是否安装Java软件

[hadoop@hadoop101 opt]$ rpm -qa | grep java

  2)如果安装的版本低于1.7,卸载该JDK:

[hadoop@hadoop101 opt]$ sudo rpm -e 软件包

  3)查看JDK安装路径:

[hadoop@hadoop101 ~]$ which java

2、将jdk软件包 上传至/opt/software/目录下

3、解压 JDK 到/opt/module/ 目录下

[hadoop@hadoop101 software]$ tar -zxvf jdk-8u144-linux-x64.tar.gz -C /opt/module/

4、配置JDK 环境变量

  1)先获取JDK路径

[hadoop@hadoop101 jdk1.8.0_144]$ pwd
/opt/module/jdk1.8.0_144

  2)打开 /etc/profile 文件  

[hadoop@hadoop101 software]$ sudo vi /etc/profile

  在 profile 文件末尾添加JDK路径

#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_144
export PATH=$PATH:$JAVA_HOME/bin

  3)保存后退出

     :wq

  4)让修改后的文件生效  

[hadoop@hadoop101 jdk1.8.0_144]$ source /etc/profile

5、测试 jdk 是否安装成功

[hadoop@hadoop101 jdk1.8.0_144]# java -version
java version "1.8.0_144"

  注意:重启(如果java -version 可以用就不用重启)

[hadoop@hadoop101 jdk1.8.0_144]$ sync
[hadoop@hadoop101 jdk1.8.0_144]$ sudo reboot

 

三、安装Hadoop

1、hadoop下载地址

https://archive.apache.org/dist/hadoop/common/hadoop-2.7.2/

2、将下载好的tar包上传至/opt/software/ 目录下

3、解压安装文件至/opt/module 下

[hadoop@hadoop101 software]$ tar -zxvf hadoop-2.7.2.tar.gz -C /opt/module/

4、将 hadoop 添加到环境变量

  1)获取hadoop安装路径

[hadoop@hadoop101 hadoop-2.7.2]$ pwd
/opt/module/hadoop-2.7.2

  2)编辑/etc/profile文件  

[hadoop@hadoop101 hadoop-2.7.2]$ sudo vi /etc/profile

  在profile 文件末尾添加 hadoop路径:

##HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-2.7.2
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin

  3)保存后退出

  :wq

  4)让修改后的文件生效

[hadoop@ hadoop101 hadoop-2.7.2]$ source /etc/profile

5、测试是否安装成功

[hadoop@hadoop101 hadoop-2.7.2]$ hadoop version
Hadoop 2.7.2

6、重启(如果hadoop命令不能使用)

[hadoop@ hadoop101 hadoop-2.7.2]$ sync
[hadoop@ hadoop101 hadoop-2.7.2]$ sudo reboot

 

四、hadoop目录结构

1、查看hadoop目录结构

技术分享图片

2、重要目录

  1)bin:存放hadoop相关服务(hdfs、yarn)进行操作的脚本

  2)etc:hadoop的配置文件目录,存放hadoop的配置文件

  3)lib:存放hadoop的本地库(对数据进行压缩解压缩功能)

  4)sbin:存放启动或停止hadoop相关服务的脚本

  5)share:存放hadoop的依赖jar包、文档、和官方案例。

 

Hadoop之运行环境搭建

标签:color   file   克隆虚拟机   本地   yarn   下载   yar   主机名   官方   

原文地址:https://www.cnblogs.com/jiang-chun/p/9904781.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!