码迷,mamicode.com
首页 > 其他好文 > 详细

Spark--wordcount(词频降序)

时间:2019-12-03 15:30:38      阅读:89      评论:0      收藏:0      [点我收藏+]

标签:for   flat   pre   oca   val   span   The   pac   put   

 

import org.apache.spark.{SparkConf, SparkContext}

object wc2 {
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setMaster("local").setAppName("wc2")
    val sc = new SparkContext(conf)

    val inputRdd = sc.textFile("/root/The_Man_of_Property.txt")
    val wc = inputRdd.flatMap(_.split(" "))
      .map((_,1))
      .reduceByKey(_+_)
    val sortWords = wc.map(x=>(x._2,x._1))
      .sortByKey(false)
      .map(x=>(x._2,x._1))
      .foreach(println(_))
  }
}

 

Spark--wordcount(词频降序)

标签:for   flat   pre   oca   val   span   The   pac   put   

原文地址:https://www.cnblogs.com/NPC-assange/p/11976964.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!