spark安装配置

标签：spark 安装 配置

在装spark之前先装Scala  Scala 的安装在hadoop安装配置中已经介绍了

1、下载spark安装包 下载地址如下

http://spark.apache.org/downloads.html

我选择的是

 spark-1.4.1-bin-hadoop2.6.tgz  放在/root/software

解压 

tar zxvf  spark-1.4.1-bin-hadoop2.6.tgz

2、配置系统环境变量

vim /etc/profile

export SPARK_HOME=/root/sherry/spark-1.4.1

export PATH=$SPARK_HOME/bin:$PATH

source /etc/profile

3、配置spark文件

1）[root@HBMS-DKXD-DEV sherry]# cd spark-1.4.1-bin-hadoop2.6/

   [root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# cd conf 

   [root@HBMS-DKXD-DEV conf]# vim spark-env.sh

   添加如下内容

export SCALA_HOME=/root/sherry/scala-2.10.4

export JAVA_HOME=/usr/java/jdk1.7.0_45

export SPARK_WORKER_MEMORY=1g

export SPARK_MASTER_IP=10.118.46.22

2）配置slave 

我自己没有配置

4、启动集群

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/start-all.sh

关闭

[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/stop-all.sh

检查是否安装成功

jps

spark安装配置

标签：spark 安装 配置

原文地址：http://10226243.blog.51cto.com/10216243/1684546