摘要 史上最全的开源大数据工具,非常实用,请务必收藏! 史上最全的开源大数据工具,非常实用,请务必收藏! 查询引擎 Phoenix Salesforce公司出品,Apache HBase之上的一个SQL中间层,完全使用Java编写 Stinger 原叫Tez,下一代Hive, Hortonworks ...
分类:
其他好文 时间:
2016-04-09 22:00:41
阅读次数:
224
前置条件说明 Hive on Spark是Hive跑在Spark上,用的是Spark执行引擎,而不是MapReduce,和Hive on Tez的道理一样。 从Hive 1.1版本开始,Hive on Spark已经成为Hive代码的一部分了,并且在spark分支上面,可以看...
分类:
其他好文 时间:
2015-09-25 14:47:26
阅读次数:
354
Table of Contents
Hive-On-Tez测试
MRR计算模型测试MPJ计算模型测试
Hive-On-Tez测试
在MRR和MPJ计算模型的处理上,TEZ能够提升的性能较为明显,具体测试如下:
MRR计算模型测试
测试表格
1.users(id,name,password): 数据总量1千万条...
分类:
其他好文 时间:
2015-07-21 06:49:46
阅读次数:
393
下载地址:http://apache.dataguru.cn/tez/0.7.0/ 第一次使用maven编译 tez的时候到tez ui部分报错,google后发现有人遇到类似问题是因为maven版本的问题, 当时我使用的是最新的maven3.3,我尝试换到maven3.2.5,再编译后成功。 其他...
分类:
其他好文 时间:
2015-07-19 11:27:25
阅读次数:
146
IT-培训基于Greenplum Hadoop分布式平台的大数据解决方案及商业应用案例剖析Hadoop2.0_YARN_Spark_Storm_Tez技术培训视频教程基于IBM Cognos Report studio技术的商业智能解决方案(广播分发报表、EVENT STUDIO)基于IBM Cog...
分类:
其他好文 时间:
2015-06-24 08:10:41
阅读次数:
172
1、jdk 1.7问题hadoop 2.7.0必须要求jdk 1.7.0,而oracle官网已经声明,jdk 1.7 以后不准备再提供更新了,所以趁现在还能下载,赶紧去down一个mac版吧http://www.oracle.com/technetwork/java/javase/downloads...
分类:
系统相关 时间:
2015-06-07 09:26:54
阅读次数:
344
hortonworks:http://zh.hortonworks.com/hdp/downloads/http://zh.hortonworks.com/hadoop-tutorial/supercharging-interactive-queries-hive-tez/其他博客http://bl...
分类:
其他好文 时间:
2015-05-27 11:51:37
阅读次数:
146
https://issues.apache.org/jira/browse/HIVE-2340selectuserid,count(*)fromu_datagroupbyuseridorderbyuseridwillproductMRR.Ithinkwhentheresultofuserid,count(*)issmall(onereducecanprocesstheresult).ThisqueryplancanoptimizetoMR?Topreventbadreducermerging,thereduc..
分类:
其他好文 时间:
2015-05-25 14:46:24
阅读次数:
124
此脚本运行速度慢,主要是reduce端数据倾斜导致的,了解到dw.fct_traffic_navpage_path_detl表是用来收集用户点击数据的,那么最终购物车和下单的点击肯定极少,所以此表ordr_code字段为空和cart_prod_id字段为NULL的数据量极大,如下所示:selectordr_code,count(*)asafromdw...
分类:
数据库 时间:
2015-05-13 17:09:42
阅读次数:
205
selectt.idend_usr_id,t.end_user_nameend_usr_name,t.end_user_real_nameend_usr_nknm,t.end_user_passwordend_usr_pswd,t.end_user_birthdayend_usr_bthd,t.mobilemobl_num,t.phonephone_num,t.valid_mobile_phone_numbindg_mobl_num,t.end_user_emailend_usr_email,substr(t..
分类:
数据库 时间:
2015-05-06 18:22:57
阅读次数:
458