码迷,mamicode.com
首页 > 其他好文 > 详细

StructuredStreaming总结

时间:2019-09-11 09:48:46      阅读:90      评论:0      收藏:0      [点我收藏+]

标签:where   场景   class   streaming   bottom   complete   ram   more   使用   

1----StructuredStreaming的应用场景

  1. 统一了流式计算和批处理的AP都是使用 Data frame/ Data Set
  2. 适用于结构化的数据
  3. 官方的想法是以后逐渐成为 Spark开发的首选技术
  4. 注意:目前还是微批次处理,2.3之后支持实时处理类似于Fink,但是还是有很多限制
 
 
技术图片

5.输出模式

  1. append:默认的只支持简单的 select/where不支持聚合
  2. complete:仅支持包含聚合
  3. update:不支持排序

 



StructuredStreaming总结

标签:where   场景   class   streaming   bottom   complete   ram   more   使用   

原文地址:https://www.cnblogs.com/TiePiHeTao/p/9fa7843454a27889629be6bf03ff185d.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!