码迷,mamicode.com
首页 > 其他好文 > 详细

Spark RDD在saveAsTextFile时直接保存成一个txt文件

时间:2015-07-09 11:10:20      阅读:306      评论:0      收藏:0      [点我收藏+]

标签:

在该语句之前加上repartition(1),即写作以下形式:
rdd.repartition(1).saveAsTextFile("out.txt")
即,之前每个partition保存成一个txt文件,现repartition成一个分区,然后再保存。
 
注意(未验证):这个操作对于大文件来说,repartition(1)可能会导致某一个节点内存不足,超出的部分会临时存放在硬盘中,影响saveAsTextFile存储速度。

Spark RDD在saveAsTextFile时直接保存成一个txt文件

标签:

原文地址:http://www.cnblogs.com/kevingu/p/4632351.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!