码迷,mamicode.com
首页 > 其他好文 > 详细

IDEA开发scala版本的spark程序

时间:2020-02-18 18:56:10      阅读:75      评论:0      收藏:0      [点我收藏+]

标签:inf   技术   路径   pre   idea   app   img   mys   textfile   

技术图片

 

 

技术图片

 

 

package com.gong

import org.apache.spark.{SparkConf, SparkContext}

object MyScalaWorldCount {
  def main(args: Array[String]): Unit = {
        //参数检测
        if(args.length<2){
          System.err.println("Usage: MyScalaWorldCount <input> <output>")
          System.exit(1)
        }

       //创建SparkContext
       val conf = new SparkConf().setAppName("MyScalaWorldCount")
       conf.setMaster("local[2]")
       val sc = new SparkContext(conf)

     //读取数据
    val lines=sc.textFile(args(0))

    //进行相关计算
    val resultRDD = lines.flatMap(_.split("\\s+")).map((_,1)).reduceByKey(_+_)

    //保存结果
    resultRDD.saveAsTextFile(args(1))

    sc.stop()
  }
}

 

 

 

运行程序可以看到报错,因为没有传入输入输出路径

技术图片

 

 

 

 

传入参数

技术图片

 

 

 

技术图片

 

 

 

运行程序

技术图片

 

 

 

技术图片

 

IDEA开发scala版本的spark程序

标签:inf   技术   路径   pre   idea   app   img   mys   textfile   

原文地址:https://www.cnblogs.com/braveym/p/12327163.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!