Storm里面引入DRPC主要是利用storm的实时计算能力来并行化CPU密集型(CPU intensive)的计算任务。DRPC的stormtopology以函数的参数流作为输入,而把这些函数调用的返回值作为topology的输出流。DRPC其实不能算是storm本身的一个特性, 它是通过组合st...
分类:
其他好文 时间:
2015-05-27 19:02:12
阅读次数:
114
流分组在设计一个topology的时候,你需要做的最重要的事情是定义数据在组件之间怎样交换(流怎样被bolts消费)。流分组指定了每个bolt消费哪些流和这些流被怎样消费。一个结点可以发射不止一条数据流。流分组允许我们选择接收哪些流。正如我们在第二章看到的,当topology被定义的..
分类:
其他好文 时间:
2015-05-25 20:36:05
阅读次数:
135
流分组
在设计一个topology的时候,你需要做的最重要的事情是定义数据在组件之间怎样交换(流怎样被bolts消费)。流分组指定了每个bolt消费哪些流和这些流被怎样消费。
一个结点可以发射不止一条数据流。流分组允许我们选择接收哪些流。
正如我们在第二章看到的,当topology被定义的时候流分组就被设置好了:
...
builder.setBolt("word-normal...
分类:
其他好文 时间:
2015-05-25 18:46:40
阅读次数:
151
流分组在设计一个topology的时候,你需要做的最重要的事情是定义数据在组件之间怎样交换(流怎样被bolts消费)。流分组指定了每个bolt消费哪些流和这些流被怎样消费。一个结点可以发射不止一条数据流。流分组允许我们选择接收哪些流。正如我们在第二章看到的,当topology被定义的时候流分组就被设...
分类:
其他好文 时间:
2015-05-25 18:35:17
阅读次数:
121
SimpleTopology.javapackagecom.zgl.helloword;
importbacktype.storm.Config;
importbacktype.storm.LocalCluster;
importbacktype.storm.StormSubmitter;
importbacktype.storm.topology.TopologyBuilder;
/**
*定义了一个简单的topology,包括一个数据喷发节点spout和一个..
分类:
其他好文 时间:
2015-05-22 19:40:14
阅读次数:
130
Storm的并行度是非常重要的,通过提高并行度可以提高storm程序的计算能力。那strom是如何提高并行度的呢?Strom程序的执行是由多个supervisor共同执行的。supervisor运行的是topology中的spout/bolttasktask是storm中进行计算的最小的运行单位,表示是spout或者bolt的运行实例..
分类:
其他好文 时间:
2015-05-22 19:35:56
阅读次数:
121
Storm的并行度是非常重要的,通过提高并行度可以提高storm程序的计算能力。那strom是如何提高并行度的呢?Strom程序的执行是由多个supervisor共同执行的。supervisor运行的是topology中的spout/bolt tasktask是storm中进行计算的最小的运行单位,...
分类:
其他好文 时间:
2015-05-22 16:42:33
阅读次数:
175
Storm的并行度详解
Storm的并行度是非常重要的,通过提高并行度可以提高storm程序的计算能力。
那strom是如何提高并行度的呢?
Strom程序的执行是由多个supervisor共同执行的。supervisor运行的是topology中的spout/bolt
task
task 是storm中进行计算的最小的运行单位,表示是spout或者b...
分类:
其他好文 时间:
2015-05-22 15:15:47
阅读次数:
116
普通Topology
如果建立自己的Topology(非Transactional的),用户通常需要利用如下接口和对象:
IRichBolt
IRichSpout
TopologyBuilder
public interface ISpout extends Serializable {
void open(Map conf, TopologyContext c...
概念: Workers (JVMs): 在一个节点上可以运行一个或多个独立的JVM 进程。一个Topology可以包含一个或多个worker(并行的跑在不同的machine上), 所以worker process就是执行一个topology的子集, 并且worker只能对应...
分类:
其他好文 时间:
2015-05-03 14:45:11
阅读次数:
114