一个更复杂的例子上面的DRPC例子只是为了介绍DRPC概念的一个简单的例子。下面让我们看一个复杂的、确实需要storm的并行计算能力的例子, 这个例子计算twitter上面一个url的reach值。首先介绍一下什么是reach值,要计算一个URL的reach值,我们需要:获取所有微薄里面包含这个UR...
分类:
其他好文 时间:
2014-11-03 22:22:27
阅读次数:
219
Storm-源码分析汇总Storm FeaturesStorm 简介Storm Topology的并发度Storm - Guaranteeing message processingStorm - Transactional-topologiesTwitter Storm – DRPCStorm 多...
分类:
其他好文 时间:
2014-11-01 14:37:40
阅读次数:
532
后面为了引入Dubbo RPC框架(用spring配置),先把spring 引入jstorm中,请先了解一下jsorm多线程方面的文档:http://storm.apache.org/documentation/Understanding-the-parallelism-of-a-Storm-topology.html .
A worker process exe...
分类:
编程语言 时间:
2014-10-30 22:43:42
阅读次数:
517
1.一台机器断点挂了,重启后再次启动supervisor报错:storm EOFException: null ERROR [Thread-2] storm.event (NO_SOURCE_FILE:invoke(0)) - Error when processing eventjava.lang...
分类:
其他好文 时间:
2014-10-28 13:38:21
阅读次数:
155
最近本人对各种分布式计算平台研究的比较火热,上周的时间简单了了解了Storm的用法,今天马不停蹄的开始了新的学习。同样是非常流行的分布式平台,Spark,跟Hadoop属于同类型的。Spark和Storm一样,作为最近才刚刚开源出来的一个项目,学习的资料相当少,大家都还在学习阶段,所以,我目前的学习的情况也只是限于比较粗糙的学习。
Spark是一个开源的通用并行分布式计...
分类:
其他好文 时间:
2014-10-27 23:10:00
阅读次数:
345
流程:1.X端发送数据到kafka(如web端发送的订单数据)。2.storm从kafka获取数据进行分析。 a.storm与kafka整合,获得数据——Sport b.storm对数据进行分析——Bolt 3.结果保存和显示(或者传给别人)。 a.将结果保存到DB(Hbase,redi...
分类:
其他好文 时间:
2014-10-25 17:13:49
阅读次数:
220
之前写了2篇文章讲述了Storm的基本知识。最近也学习了Storm的高级属性了,单纯粹还是属于了解的状态。我就简单介绍几个比较简单的属性。
1.DRPC。简称分布式RPC,模型图:
用户直接面对的是DRPC Server,避开了所有的拓扑逻辑,Storm提供了一个名为LinearDRPCTopologyBuilder的线性拓扑构建器,他把DRPC所做的几乎所有步骤都自动...
分类:
其他好文 时间:
2014-10-25 09:21:51
阅读次数:
200
最近研究Storm的Stream Grouping的时候,对Field Grouping和Shuffle Grouping理解不是很透彻。去看WordCountTopology也不怎么理解,后来脑洞一开,加了一行代码再次运行,彻底顿悟。只能说自己对Storm的基本概念还是没吃透啊。...
分类:
其他好文 时间:
2014-10-25 00:52:08
阅读次数:
224
在storm中的Bolt中可以处理完成逻辑后,向后面的Blot继续发送消息。可以发送多个不同的消息,如:collector.emit("update-delivered-status",new Values(emailDeliverStatus)); collector.emit("save-...
分类:
其他好文 时间:
2014-10-24 12:44:07
阅读次数:
313
上篇文章本人简单的介绍了Storm的起源,今天本人又继续学习了Storm的基本的一些知识,基本了解了他的基本用法,还好,不算太难,如果大家了解了Hadoop的MapReduce模型的话,看这个也是非常类似的。在了解Storm的原型时,首先了解一些概念。
1.Tuple(元组),作为消息传递的基本单元,元组中的字段可以是任何类型的对象。元组会用于后面提到的Bolt方法的execute方法。
2....
分类:
其他好文 时间:
2014-10-22 11:10:34
阅读次数:
212