大数据的处理方式有两种：基于内存的流式处理和基于硬盘的存储处理。...
分类：
其他好文 时间：
2015-04-25 09:25:32
阅读次数：
127
http://www.aboutyun.com/thread-11944-1-1.htmlhttp://www.aboutyun.com/thread-11945-1-1.html
分类：
其他好文 时间：
2015-03-14 09:33:50
阅读次数：
141
先来看一下一张技术的全景图，其中涉及内存计算的技术标成红色。 1）事务处理：主要分为Cache(Memcached, Redis, GemFire)、RDBMS、NewSQL(以VoltDB为首的)三部分，缓存和NewSQL数据库是关注的重点。2）流式处理：Storm本身只是计算的框架，而Spark-Streaming才实现了内存计算式的流处理。3）分析阶段的对比：Ø 通用处理：MapReduc...
分类：
其他好文 时间：
2014-12-13 15:11:40
阅读次数：
484
前言：作为一个程序员，总是能不时地听到各种新技术名词，大数据、云计算、实时处理、流式处理、内存计算… 但当我们听到这些时髦的名词时他们到底是在说什么？偶然搜到一个不错的帖子，就总结一下实时处理和流式处理的区别吧。正文：要说实时处理就得先提一下实时系统(Real-timeSystem)。所谓实时系统就是能在严格的时间限制内响应请求的系统。例如如果某系统能严格保证在10毫秒内处理来自网络的NASDAQ...
分类：
其他好文 时间：
2014-11-15 10:07:15
阅读次数：
243
Hadoop分布式文件系统是设计初衷是可靠的存储大数据集，并且使应用程序高带宽的流式处理存储的大数据集。在一个成千个server的大集群中，每个server不仅要管理存储的这些数据，而且可以执行应用程序任务。通过分布式存储和在各个server间交叉运算，集群和存储可以按需动态经济增长。以下的设计原则...
分类：
其他好文 时间：
2014-10-17 06:42:33
阅读次数：
235
SparkStreaming是一个对实时数据流进行高通量、容错处理的流式处理系统，可以对多种数据源（如Kdfka、Flume、Twitter、Zero和TCP 套接字）进行类似map、reduce、join、window等复杂操作，并将结果保存到外部文件系统、数据库或应用到实时仪表盘。Spark S...
分类：
Web程序 时间：
2014-10-13 22:30:37
阅读次数：
500
快，指时延storm:网络直传，基于内存，流式处理，省去了批量处理收集数据的时间和作业调度时延，用于实时hadoop:hdfs传输，磁盘作为中间交换的介质，基于任务调度吞吐：单位时间内处理的数据量当数据量很大时，比的是吞吐，那hadoop会比storm快
分类：
其他好文 时间：
2014-07-08 09:11:30
阅读次数：
195
DataTorrent是一个实时的流式处理和分析平台，它每秒可以处理超过10亿个实时事件。与Twitter平均每秒大约6000条微博相比，最近发布的DataTorrent 1.0似乎已经超出了需求，它每秒可以处理超过10亿个实时事件。他们在一个包含37个节点的集群上进行了测试，每个节点256GB内存...
分类：
其他好文 时间：
2014-06-17 15:06:28
阅读次数：
193
