码迷,mamicode.com
首页 > 编程语言 > 详细

Spark API编程动手实战-03-以在Spark 1.2版本实现对Job输出结果进行排序

时间:2015-01-23 18:30:06      阅读:267      评论:0      收藏:0      [点我收藏+]

标签:sortbykey   reducebykey   位置置换   part-00000   part-00001   

从前一篇文章中的wordcount的输出结果可以看出来结果是未经排序的,如何对spark的输出结果进行排序呢?

技术分享

先对reduceByKey的结果进行key,value位置置换(数字,字符),然后再进行数字排序,再将key,value位置置换后就是排序后的结果了,最终将结果存储到HDFS中

技术分享

技术分享


技术分享


技术分享


可以发现我们成功对输出结果进行排序!

Spark API编程动手实战-03-以在Spark 1.2版本实现对Job输出结果进行排序

标签:sortbykey   reducebykey   位置置换   part-00000   part-00001   

原文地址:http://blog.csdn.net/stark_summer/article/details/43019033

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!