码迷,mamicode.com
首页 > 其他好文 > 详细

hive 优化

时间:2015-03-13 20:54:49      阅读:166      评论:0      收藏:0      [点我收藏+]

标签:

set hive.exec.reducers.bytes.per.reducer=2000000000; ##每个reduce任务处理的数据量,默认为1000^3=1G
set hive.groupby.skewindata = true ##对于join和Group操作都可能会出现数据倾斜
set hive.optimize.skewjoin=true;--如果是join 过程出现倾斜 应该设置为true

set mapreduce.map.memory.mb=1025;

set mapreduce.reduce.memory.mb=1025; 


hive 优化

标签:

原文地址:http://my.oschina.net/u/1388024/blog/386824

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!