阅读前提: ????????1 : 您可能需要对 ?logback 日志系统有所了解 ???? ? ?2 :您可能需要对于?kafka 有初步的了解 ???? ? ?3:请代码查看之前,请您仔细参考系统的业务图解 ? ? ? ? ...
分类:
其他好文 时间:
2014-09-10 16:01:21
阅读次数:
258
一、环境3台虚拟机,系统为centos,zookeeper版本为3.4.3ip与hostname分别为192.168.41.100/master,192.168.41.101/slave1,192.168.41.102/slave2二、安装1、解压下载到的apache-storm-0.9.2-incubating.zip#tarzvxfapache-storm-0.9.2-incubating.tar.gz-C/home/hadoop/2、..
分类:
其他好文 时间:
2014-09-10 02:45:10
阅读次数:
266
我们想通过Storm提供的thrift接口来获取Toplogy的性能数据,比如emiited了多少,延迟是多少之类。但在使用Python开发过程中,发现getClusterInfo这个方法,会报错,thrift版本0.7,Storm版本为0.9.0.1,错误如下:Traceback (most re...
分类:
其他好文 时间:
2014-09-09 11:22:18
阅读次数:
167
官方链接:http://storm.incubator.apache.org/documentation/Guaranteeing-message-processing.htmlWhat does it mean for a message to be “fully processed”?A tup...
分类:
其他好文 时间:
2014-09-08 00:59:26
阅读次数:
482
Strom 安装&部署本地执行:Storm Topology是可进行本地运行的, 必须在发布前进行本地测试, 以确保代码本身业务逻辑没有问题( Windows也可执行, 但是由于权限等原因, 执行时可能会报错, 但不影响执行结果).本地集群执行: Storm的本地集群搭建只能在UNIX架构的系统上执...
分类:
其他好文 时间:
2014-09-04 23:37:50
阅读次数:
217
最近在研究Zookeeper Storm Kafka, 顺便在本地搭了一套集群, 遇到了Zookeeper日志问题输出路径的问题, 发现zookeeper设置log4j.properties不能解决日志路径问题, 发现解决方案如下:1. 修改log4j.properties, 这个大家都应该会改, ...
分类:
其他好文 时间:
2014-09-04 23:31:00
阅读次数:
607
阅读背景: ? ?1 : 您需要对滑动窗口要初步了解 ? ?2 ?: ? 您需要了解滑动窗口在滑动的过程之中,滑动chunk的计算过程,尤其是每发射一次,就需要清空一次。 package?com.cc.storm.bolt;
import?java....
分类:
其他好文 时间:
2014-09-03 19:58:17
阅读次数:
289
配置项 配置说明 storm.zookeeper.servers ZooKeeper服务器列表 storm.zookeeper.port ZooKeeper连接端口 storm.local.dir storm使用的本地文件系统目录(必须存在并且storm进程可读写) storm.cluster.mode Storm集...
分类:
其他好文 时间:
2014-09-03 17:00:37
阅读次数:
193
storm定时器与java.util.Timer定时器比较相似。java.util.Timer定时器实际上是个线程,定时调度所拥有的TimerTasks;storm定时器也有一个线程负责调度所拥有的"定时任务"。storm定时器的"定时任务"是一个vector类型的数据[time, callback...
分类:
其他好文 时间:
2014-09-01 09:18:12
阅读次数:
257
storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中)。 backtype.storm.cluster定义了两个重要protocol:ClusterState和StormClusterState。clojure中的p...
分类:
其他好文 时间:
2014-09-01 09:12:42
阅读次数:
188