码迷,mamicode.com
首页 > 其他好文 > 详细

spark学习笔记-spark集群搭建(7)

时间:2017-04-17 10:05:24      阅读:221      评论:0      收藏:0      [点我收藏+]

标签:成功   安装   sla   节点   port   hadoop2   conf   80端口   start   

安装spark包

1 1、将spark-1.3.0-bin-hadoop2.4.tgz使用WinSCP上传到/usr/local目录下。
2 2、解压缩spark包:tar zxvf spark-1.3.0-bin-hadoop2.4.tgz。
3 3、更改spark目录名:mv spark-1.3.0-bin-hadoop2.4 spark
4 4、设置spark环境变量
5 vi .bashrc
6 export SPARK_HOME=/usr/local/spark
7 export PATH=$SPARK_HOME/bin
8 export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
9 source .bashrc

修改spark-env.sh文件

1、cd /usr/local/spark/conf
2、cp spark-env.sh.template spark-env.sh
3、vi spark-env.sh
export JAVA_HOME=/usr/java/latest
export SCALA_HOME=/usr/local/scala
export SPARK_MASTER_IP=192.168.1.107
export SPARK_WORKER_MEMORY=1g
export HADOOP_CONF_DIR=/usr/local/hadoop/etc/hadoop

修改slaves文件

spark1

spark2

spark3

安装spark集群

在另外两个节点进行一模一样的配置,使用scp将spark和.bashrc拷贝到spark2和spark3即可。

启动spark集群

1、在spark目录下的sbin目录
2、执行./start-all.sh
3、使用jsp和8080端口可以检查集群是否启动成功
4、进入spark-shell查看是否正常

 

spark学习笔记-spark集群搭建(7)

标签:成功   安装   sla   节点   port   hadoop2   conf   80端口   start   

原文地址:http://www.cnblogs.com/HeQiangJava/p/6721031.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!