码迷,mamicode.com
首页 > 编程语言 > 详细

idea中使用scala运行spark出现Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class

时间:2018-01-20 12:40:32      阅读:3068      评论:0      收藏:0      [点我收藏+]

标签:dep   error:   jar   cal   修改   apach   build   版本号   toolbar   

idea中使用scala运行spark出现:

  

Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class

 

查看build.sbt:

  

技术分享图片
name := "ScalaSBT"

version := "1.0"

scalaVersion := "2.11.8"

libraryDependencies += "org.apache.spark" % "spark-core_2.11" % "1.6.1"
技术分享图片

 

你需要确保 spark所使用的scala版本与你系统scala的版本一致

 

你也可以这样:

libraryDependencies += "org.apache.spark" %% "spark-core" % "1.6.1"  

那怎样确认你的版本是否一致呢:

1 .首先查看你代码使用的版本,这个就是从pom.xml中或者sbt配置文件中查看

确定你的使用版本

2.查看你的spark的集群,spark使用的scala的版本

  a. 运行spark-shell ,在启动结束会显示版本

技术分享图片

    b.进入spark的安装目录查看jars目录下,scala中的类库版本号

  

ls /usr/local/spark/jars | grep scala

  显示如下:

技术分享图片

然后你就可以修改你使用的scala版本号了

问题解决

 

 

idea中使用scala运行spark出现Exception in thread "main" java.lang.NoClassDefFoundError: scala/collection/GenTraversableOnce$class

标签:dep   error:   jar   cal   修改   apach   build   版本号   toolbar   

原文地址:https://www.cnblogs.com/smiler/p/8319995.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!