码迷,mamicode.com
首页 > 数据库 > 详细

sparkSQL flinkSQL hiveSQL性能对比

时间:2018-10-30 19:28:12      阅读:429      评论:0      收藏:0      [点我收藏+]

标签:对比   速度对比   img   http   sql   数据   官方   分享图片   sparksql   

 

最近在研究flink,发现较新版的flink支持sql,这下好了,我用spark两年了,对用法和性能算是踩过一些坑了。

听说flink挺快的,那么flinkSQL和sparkSQL到底哪个快呢?

想必很多人也想知道吧,那就拿数据说话(虽然不是自己做的基线测试,但好歹也找了好久)

下图是hive, spark, flink的sql执行速度对比: 

技术分享图片

 

 下图是平均的

技术分享图片

技术分享图片

技术分享图片

技术分享图片

 

 技术分享图片

技术分享图片

 

综上所述,flinkSQL和sparkSQL的性能只差一点点,flink是spark的最强大的竞争者。

个人认为flink潜力很大。

第一,flink主要是java写的代码,相比scala写的spark而言,flink的内存溢出问题更容易定位和优化。

第二,flink是在idea环境开发的,而我主要就是用这个开发环境,非常方便。

本人用sparkSQL两年来,数据倾斜,内存溢出问题见过太多,相当坑爹,而官方源码几乎很难打包编译调试。

第三、flink更专业,spark就是综合rdd,sql,图计算,流式计算的等几个模块综合体,长远来看不利于开源社区演进

 

sparkSQL flinkSQL hiveSQL性能对比

标签:对比   速度对比   img   http   sql   数据   官方   分享图片   sparksql   

原文地址:https://www.cnblogs.com/geektcp/p/9878732.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!