出自：http://my.oschina.net/jinp/blog/350293一些常用命令：storm相关：storm nimbus >/dev/null 2>&1 &storm supervisor >/dev/null 2>&1 &storm ui >/dev/null 2>&1 &关闭st...
分类：
Web程序 时间：
2014-12-08 00:45:15
阅读次数：
346
主要的核心类如下：KafkaServer:根据相关的上下文，创建KafkaServer对象，负责启动broker对象启动过程zkClient初始化=>logManagerstart()=>socketServer
start()=>requestHandlerPool初始化=>replicaManagerstart()=>
kafkaControllerstart()=>topicConfigMa..
分类：
其他好文 时间：
2014-12-03 14:27:44
阅读次数：
208
主要的核心类如下：controller:根据相关的上下文，创建KafkaController对象，引入多个监听器监听broker，topic，partition以及副本的状态变化。ZookeeperLeaderElector：主要负责选举当前broker为lead的过程，同时，如果出现异常情况转移lead选举权。ReplicaStateMachine：主要..
分类：
其他好文 时间：
2014-12-02 12:02:38
阅读次数：
225
akka 并发编程框架
kafka 高吞吐量分布式消息系统
akka 是一个用 Scala 编写的库，用于简化编写容错的、高可伸缩性的 Java 和 Scala 的 Actor 模型应用。
Actor模型并非什么新鲜事物，它由Carl Hewitt于上世纪70年代早期提出，目的是为了解决分布式编程中一系列的编程问题。其特点如下：
...
分类：
其他好文 时间：
2014-12-01 17:37:20
阅读次数：
343
storm transactionstorm的事务主要用于对数据准确性要求非常高的环境中，尤其是在计算交易金额或笔数，数据库同步的场景中。storm 事务逻辑是挺复杂的，而且坦白讲，代码写的挺烂的。 JStorm下一步将重新设计基于Meta 1 和Meta3 的事务模型，让使用者更简便，代码更清晰。...
分类：
其他好文 时间：
2014-11-26 01:19:39
阅读次数：
323
broker.id整数，建议根据ip区分 log.dirskafka存放消息文件的路径，默认/tmp/kafka-logsportbroker用于接收producer消息的端口 zookeeper.connnectzookeeper连接格式为 ip1:port,ip2:port,ip3:portme...
分类：
其他好文 时间：
2014-11-23 14:25:35
阅读次数：
210
紧接上篇流式计算-Jstorm提交Topology过程(上)，
5、上篇任务已经ServiceHandler.submitTopologyWithOpts()方法，在该方法中，会实例化一个TopologyAssignEvent，相当于创建了一个topology级别的作业，然后将其保存到TopologyAssign的任务队列中，具体代码如下：
TopologyAssignEven...
分类：
Web程序 时间：
2014-11-20 22:00:30
阅读次数：
303
http://blog.csdn.net/weijonathan/article/details/18301321一直以来都想接触Storm实时计算这块的东西，最近在群里看到上海一哥们罗宝写的Flume+Kafka+Storm的实时日志流系统的搭建文档，自己也跟着整了一遍，之前罗宝的文章中有一些要注...
分类：
Web程序 时间：
2014-11-19 10:32:28
阅读次数：
345
Topology是Jstorm对有向无环图的抽象，内部封装了数据来源spout和数据处理单元bolt，以及spout和bolt、bolt和bolt之间的关系，它可以被提交到Jstorm集群。
本文以Jstorm自带的SequenceTopology简单介绍一下Jstorm提交topology的过程，本文主要介绍提交过程，不涉及具体业务，
1、 SequenceTopology核心方法c...
分类：
Web程序 时间：
2014-11-19 01:46:37
阅读次数：
273
Kafka是一个消息系统，原本开发自LinkedIn，用作LinkedIn的活动流（activity stream）和运营数据处理管道（pipeline）的基础。现在它已为多家不同类型的公司 作为多种类型的数据管道（data pipeline）和消息系统使用。...
分类：
其他好文 时间：
2014-11-19 01:40:39
阅读次数：
364
