码迷,mamicode.com
首页 > 其他好文 > 详细

spark 中如何查看单个RDD分区的内容(创建分区,查看分区数)

时间:2018-09-29 13:02:21      阅读:1741      评论:0      收藏:0      [点我收藏+]

标签:内容   分区   cores   size   col   nbsp   core   创建   spark   

spark 创建分区

val scores = Array(("Fred", 88), ("Fred", 95), ("Fred", 91), ("Wilma", 93), ("Wilma", 95), ("Wilma", 98))

val input = sc.parallelize(scores,3)   #这里创建了3个分区

查看分区数:

input.partitions.size

 

查看分区的内容和情况

input.glom().collect()

spark 中如何查看单个RDD分区的内容(创建分区,查看分区数)

标签:内容   分区   cores   size   col   nbsp   core   创建   spark   

原文地址:https://www.cnblogs.com/spicy/p/9722977.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!