码迷,mamicode.com
首页 > 其他好文 > 详细

IDEA搭建scala开发环境开发spark应用程序

时间:2018-08-24 18:07:53      阅读:214      评论:0      收藏:0      [点我收藏+]

标签:href   cal   project   tle   sort   disk   完成   选择   bubuko   

 

一、idea社区版安装scala插件

因为idea默认不支持scala开发环境,所以当需要使用idea搭建scala开发环境时,首先需要安装scala插件,具体安装办法如下。

1、打开idea,点击configure下拉菜单中的plugins选项:

技术分享图片

2、在弹出对话框中点击红框按钮:

技术分享图片

3、在弹出最新对话框的搜索栏输入scala,在筛选出的内容中选择红框部分,点击右侧install按钮开始下载插件:

技术分享图片

本人在测试过程中通过install自动下载插件失败,最后选择手动下载scala插件,然后通过步骤2中install plugin from disk选项,选择手动下载zip包的方式安装插件成功。

二、创建scala工程

1、下载scala安装文件,并解压到d:\目录下:

https://downloads.lightbend.com/scala/2.10.6/scala-2.10.6.zip

2、打开idea开发工具,选择“create new project”,创建一个新的工程:

技术分享图片

3、下图中选择jdk版本、选择scala、以及scala依赖包位置(scala安装软件位置),next:

技术分享图片

4、输入工程名称并且选择工程位置,点击finash:

技术分享图片

5、完成工程创建后如下:

技术分享图片

三、配置scala工程

1、file->preject structure:

技术分享图片

2、modulesàsrcànew folder方式创建文件夹:

技术分享图片

3、完成文件创建后,点击ok完成配置。

技术分享图片

工程结构如下:

技术分享图片

四、为工程导入spark jar包

1、首先解压缩spark安装包到d:\目录下:

D:\spark-1.3.0-bin-2.5.0-cdh5.3.6

2、fileàproject structure:

技术分享图片

3、在对话框选择librariesà+àjava:

技术分享图片

4、在弹出对话框内选择spark解压目录,选中spark lib目录下所有jar包,点击ok导入所有jar包:

技术分享图片

5、点击ok,完成spark jar包导入scala工程:

技术分享图片

技术分享图片

五、编写wordcount程序进行基准测试

1、在scala工程中创建packet,并且创建测试spark类,并且编写wordcount程序代码,如下:

package Chavin.King.SparkApp
import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.apache.spark.SparkConf
object SparkDemo {
def main(args: Array[String]) {
val logFile = "hdfs://chavin.king:9000/user/hadoop/mapreduce/wordcount/input/wc.input"
val conf = new SparkConf().setAppName("Simple Application") //.setMaster("local")
val sc = new SparkContext(conf)
val rdd = sc.textFile(logFile)
val wordcount = rdd.flatMap(_.split(" ")).map((_,1)).reduceByKey(_ + _).map(x => (x._2,x._1)).sortByKey(false).map(x => (x._2,x._1))
wordcount.saveAsTextFile("hdfs://chavin.king:9000/user/hadoop/mapreduce/wordcount/output00000")
sc.stop()
}
}

截图如下:

技术分享图片

2、代码完成之后,右键à选择run “SparkApp”,运行程序进行功能测试。

3、打包SparkApp程序:

File—>preject structureàartifactsà+àJARàfrom modules with dependencies:

技术分享图片

下图中选择要编译的主类,点击ok:

技术分享图片

删除output layout下的所有依赖jar包,并且指定output directory,点击ok:

技术分享图片

回到idea主页面,点击buildàbuild artifacts:

技术分享图片

SaprkApp.jar—>build,进行jar包编译:

技术分享图片

编译完成后到d:\下可以看到我们编译的jar包。

4、测试编译的jar包(SparkApp.jar):

4.1)删除hdfs输出目录:

bin/hdfs dfs -rm -r hdfs://chavin.king:9000/user/hadoop/mapreduce/wordcount/output00000

4.2)spark-submit方式测试jar包:

bin/spark-submit \
--master yarn \
--deploy-mode client \
/opt/datas/SparkApp.jar

IDEA搭建scala开发环境开发spark应用程序

标签:href   cal   project   tle   sort   disk   完成   选择   bubuko   

原文地址:https://www.cnblogs.com/zhaojinyan/p/9531179.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!