码迷,mamicode.com
首页 > 其他好文 > 详细

hadoop集群配置

时间:2018-12-06 18:03:50      阅读:193      评论:0      收藏:0      [点我收藏+]

标签:webapp   efault   scp   dir   min   mapr   nbsp   style   分享图片   

一.首先我们需要一个 hadoop-2.8.5.tar.gz

这里就省略了什么解压,指定路径什么的步骤啦

1.配置hadoop环境变量

vim /etc/profile

 

export HADOOP_HOME=/usr/java/hadoop-2.8.5  (按自己的路径来)

export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

记得 source   /etc/profile

技术分享图片

2.修改hadoop的配置文件

 cd /usr/java/hadoop-2.8.5/etc/hadoop

   2.1.hadoop-env.sh

 01.vim  hadoop-env.sh  

 02.在文件中加入:export  JAVA_HOME=/usr/java/jdk1.8.0_151  (按自己的路径来)

   2.2.yarn-env.sh

 01.vim yarn-env.sh

 02.在文件中加入: export  JAVA_HOME=/usr/java/jdk1.8.0_151  (按自己的路径来)

   2.3.slaves

 01.vim slaves

 02.删除原有的localhost

 技术分享图片

  2.4.core-site.xml

01.vim  core-site.xml

02.在文件中的configuration节点里加入

 

<property>
   <name>fs.defaultFS</name>
   <value>hdfs://master:9000</value>
</property>

  <property>
     <name>hadoop.tmp.dir</name>
     <value>/usr/java/hadoop-2.8.5/tmp</value> 
</property>

 

这里没有tmp文件,需要我们手动建一个

 

  2.5.hdfs-site.xml

<property>
      <name>dfs.namenode.secondary.http-address</name>
      <value>master:50090</value>
    </property>
    <property>
      <name>dfs.replication</name>
      <value>2</value>
    </property>
    <property>
      <name>dfs.namenode.name.dir</name>
      <value>file:/usr/java/hadoop-2.8.5/hdfs/name</value>
    </property>
    <property>
      <name>dfs.datanode.data.dir</name>
      <value>file:/usr/java/hadoop-2.8.5/hdfs/data</value>
    </property>

  2.6.yarn-site.xml

<property>
          <name>yarn.nodemanager.aux-services</name>
          <value>mapreduce_shuffle</value>
  </property>
  <property>
           <name>yarn.resourcemanager.address</name>
           <value>master:8032</value>
  </property>
  <property>
          <name>yarn.resourcemanager.scheduler.address</name>
          <value>master:8030</value>
  </property>
<property>  
    <name>yarn.log-aggregation-enable</name>  
    <value>true</value>  
</property> 
<property>
         <name>yarn.resourcemanager.resource-tracker.address</name>
         <value>master:8031</value>
     </property>
     <property>
         <name>yarn.resourcemanager.admin.address</name>
         <value>master:8033</value>
     </property>
     <property>
         <name>yarn.resourcemanager.webapp.address</name>
         <value>master:8088</value>
     </property>

  2.7.mapred-site.xml

mapred-site.xml.template 是存在的

mapred-site.xml不存在

注意:先要copy一份

cp mapred-site.xml.template  mapred-site.xml

然后编辑

vim  mapred-site.xml 

 

新增以下内容

<property>

    <name>mapreduce.framework.name</name>

    <value>yarn</value>

  </property>

  <property>

    <name>mapreduce.jobhistory.address</name>

    <value>master:10020</value>

  </property>

  <property>

    <name>mapreduce.jobhistory.webapp.address</name>

    <value>master:19888</value>

  </property>

  2.8.把配置好的hadoop文件复制到其他的子机器中

scp -r /usr/java/hadoop-2.8.5  root@slave1:/usr/java/hadoop-2.8.5

scp -r /usr/java/hadoop-2.8.5  root@slave2:/usr/java/hadoop-2.8.5

  2.9.把配置好的/etc/profile复制到其他两个子机器中

scp /etc/profile  root@slave1:/etc/profile

scp /etc/profile  root@slave2:/etc/profile

之后在每个子机器中使用 source /etc/profile 使文件生效

  2.10在master 主机器中运行 

 hdfs namenode -format

   2.11.master 主机器中启动hadoop环境

 

进入/usr/java/hadoop-2.8.5/sbin
  
 ./start-all.sh   启动hadoop集群

./stop-all.sh  关闭hadoop集群

 

hadoop集群配置

标签:webapp   efault   scp   dir   min   mapr   nbsp   style   分享图片   

原文地址:https://www.cnblogs.com/wang2386033566/p/10077179.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!