码迷,mamicode.com
首页 > 其他好文 > 详细

Hadoop(一)安装

时间:2020-08-17 17:45:14      阅读:70      评论:0      收藏:0      [点我收藏+]

标签:history   replicas   prope   tool   cat   auth   cas   server   form   

####首先保证Node891或Node811等版本装成功了######
/opt/bigdata/elk/node891
 
################ 修改目录权限 ####################
[root@vwmaster hadoop]# chown -R root:root hadoop260/
 
################ JDK ####################
[root@vwmaster hadoop260]# vi etc/hadoop/hadoop-env.sh
export JAVA_HOME=/opt/bigdata/java/jdk180
 
################ hadoop fs 文件系统 ####################
[root@vwmaster hadoop260]# vi etc/hadoop/core-site.xml
<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://虚拟机的IP地址:9000</value>
  </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/bigdata/hadoop/hadoop260</value>
  </property>
  <property>
    <name>hadoop.proxyuser.root.hosts</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.root.groups</name>
    <value>*</value>
  </property>
</configuration>
 
################ hadoop replicas 备份 ####################
[root@vwmaster hadoop]# pwd
/opt/bigdata/hadoop
 
[root@vwmaster hadoop]# mkdir hdfs
[root@vwmaster hadoop]# ls
hadoop260  hdfs
 
[root@vwmaster hadoop]# cd hdfs/
[root@vwmaster hdfs]# mkdir namenode datanode
[root@vwmaster hdfs]# ls
datanode  namenode
 
[root@vwmaster hadoop260]# vi etc/hadoop/hdfs-site.xml
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.dir</name>
    <value>/opt/bigdata/hadoop/hdfs/namenode</value>
  </property>
  <property>
    <name>dfs.datanode.dir</name>
    <value>/opt/bigdata/hadoop/hdfs/datanode</value>
  </property>
</configuration>
 
################ hadoop mapreduce 计算框架 ####################
[root@vwmaster hadoop260]# cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml
[root@vwmaster hadoop260]# vi etc/hadoop/mapred-site.xml
<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>
 
################ hadoop yarn 管理调度 ####################
[root@vwmaster hadoop260]# vi etc/hadoop/yarn-site.xml
<configuration>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
  <property>
    <name>yarn.log-aggregation-enable</name>
    <value>true</value>
  </property>
</configuration>
 
################ hadoop slaves 主机名 ####################
[root@vwmaster hadoop260]# vi etc/hadoop/slaves
vwmaster
 
################ hadoop 环境变量 ####################
###### 环境变量的配置顺序不能颠倒!######
[root@vwmaster hadoop260]# vi /etc/profile
export JAVA_HOME=/opt/bigdata/java/jdk180
export TOMCAT_HOME=/opt/bigdata/java/tomcat85
export NODE_HOME=/opt/bigdata/elk/node891
 
export HADOOP_HOME=/opt/bigdata/hadoop/hadoop260
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
 
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$NODE_HOME/bin:$JAVA_HOME/bin:$TOMCAT_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
 
[root@vwmaster hadoop260]# source /etc/profile
 
################ hadoop 格式化 HDFS ####################
[root@vwmaster hadoop260]# cd bin
[root@vwmaster bin]# hdfs namenode -format
##见到以下信息说明格式化成功
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at vwmaster/自己的虚拟机IP
************************************************************/
##如果格式化失败:需要去检查之前各项配置
##且在此格式化必须:先把/opt/bigdata/hadoop/hdfs目录下的datanode和namenode和tmp删除了再去格式化。
 
################ hadoop-native库 ####################
[root@vwmaster bin]# cd /opt/install/hadoop
[root@vwmaster hadoop]# tar -xf hadoop-native-64-2.6.0.tar -C /opt/bigdata/hadoop/hadoop260/lib/native/
 
################ 启动 hadoop ####################
[root@vwmaster hadoop]# cd /opt/bigdata/hadoop/hadoop260/sbin
[root@vwmaster sbin]# start-all.sh  (如果需要密码先进入下一步,成功再启动)
[root@vwmaster sbin]# stop-all.sh  (表示关闭)
 
################ 启动或关闭 hadoop 需要输入密码的解决方法  ####################
[root@vwmaster bin]# cd ~
[root@vwmaster ~]# cd .ssh/
[root@vwmaster .ssh]# ls
authorized_keys  id_rsa  id_rsa.pub  known_hosts
[root@vwmaster .ssh]# cat id_rsa.pub >> authorized_keys
[root@vwmaster .ssh]# ssh localhost
 
################ 启动 jobhistory ####################
[root@vwmaster sbin]# jps
[root@vwmaster sbin]# ./mr-jobhistory-daemon.sh start historyserver
 
################ 查看 hadoop 服务状态 ####################
[root@vwmaster sbin]# jps
6800 NodeManager
7329 Jps
6387 DataNode
6548 SecondaryNameNode
6264 NameNode ### 如果没有namenode,可能是曾经启动失败后没有删除hdfs的两个文件夹。需要删掉后重启。
6697 ResourceManager
7259 JobHistoryServer
 
http://20.0.0.100: 50070 8088 19888
 
 
 
 

Hadoop(一)安装

标签:history   replicas   prope   tool   cat   auth   cas   server   form   

原文地址:https://www.cnblogs.com/sabertobih/p/13508080.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!