码迷,mamicode.com
首页 > 其他好文 > 详细

hive中,动态添加map和reduce的大小,以增加并行度

时间:2017-07-03 19:56:04      阅读:263      评论:0      收藏:0      [点我收藏+]

标签:动态   默认   配置   cer   mapr   mapred   字段   byte   reduce   

map是配置mapred.max.split.size,来定义map处理文件的大小,默认是256000000字段,换算就是256M。  如果想增加map的并行度,那么就是减少map处理文件的大小即可。 即set mapred.max.split.size=xxx(更小的字节)

 

reduce和map是一致的,修改hive.exec.reducers.bytes.per.reducer这个参数

hive中,动态添加map和reduce的大小,以增加并行度

标签:动态   默认   配置   cer   mapr   mapred   字段   byte   reduce   

原文地址:http://www.cnblogs.com/hark0623/p/7112701.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!