package com.doctor.logbackextend;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Properties;
import kafka.consumer.Consumer;
import kafka.consumer.ConsumerCo...
分类:
Web程序 时间:
2014-10-26 09:07:44
阅读次数:
383
流程:1.X端发送数据到kafka(如web端发送的订单数据)。2.storm从kafka获取数据进行分析。 a.storm与kafka整合,获得数据——Sport b.storm对数据进行分析——Bolt 3.结果保存和显示(或者传给别人)。 a.将结果保存到DB(Hbase,redi...
分类:
其他好文 时间:
2014-10-25 17:13:49
阅读次数:
220
kafka自己居然没有还一个Web管理界面。。
这里有个第三方的:
https://github.com/claudemamo/kafka-web-console
坑爹的是居然没有详细的安装步骤,只有一些简单的说明,对于不熟悉scala play开发的人来说,很蛋疼。下面记录详细的安装过程。
先下载安装scala的构建工具sbt,最新版本可以到官网查看:
http://ww...
分类:
Web程序 时间:
2014-10-24 20:53:54
阅读次数:
253
Kafka 分布式消息队列 类似产品有JBoss、MQ一、由Linkedln 开源,使用scala开发,有如下几个特点:(1)高吞吐(2)分布式(3)支持多语言客户端 (C++、Java)二、组成: 客户端是 producer 和 consumer,提供一些API,服务器端是Broker,客户端提供...
分类:
其他好文 时间:
2014-10-23 16:13:44
阅读次数:
199
多线程是一个很重要的应用,本节讲述多线程中同步问题public class ThreadDemo { public static void main(String[] args) { Resource r = new Resource(); Producer p1 ...
分类:
编程语言 时间:
2014-10-23 14:04:36
阅读次数:
142
今天重启了下Hadoop集群,使用Eclipse调试hdfs api的时候报错:[WARNING] java.lang.NullPointerException at org.conan.kafka.HdfsUtil.batchWrite(HdfsUtil.java:50) at org...
分类:
其他好文 时间:
2014-10-23 12:20:22
阅读次数:
254
flume是一个实时消息收集系统,它定义了多种的source、channel、sink,可以根据实际情况选择。Flume下载及文档:http://flume.apache.org/Kafkakafka是一种高吞吐量的分布式发布订阅消息系统,她有如下特性:通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的..
分类:
Web程序 时间:
2014-10-22 18:36:34
阅读次数:
338
虽说消息队列的用法很简单:PUB/SUB, PRODUCER/CONSUMER,不过真做起来还真麻烦。先说下原始需求:Web前端发送命令消息,后端Consumer处理,然后前端得到结果需要支持Windows服务很快,下图就出来了:先来分析分析:前端怎么知道后端已经处理完成?前端如何在处理完后的第一时...
分类:
其他好文 时间:
2014-10-21 23:09:23
阅读次数:
198
kafka是一种高吞吐量的分布式发布订阅消息系统,她有如下特性:
通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。
高吞吐量:即使是非常普通的硬件kafka也可以支持每秒数十万的消息。
支持通过kafka服务器和消费机集群来分区消息。
支持H...
分类:
其他好文 时间:
2014-10-13 18:48:06
阅读次数:
165
转:http://blog.chinaunix.net/uid-25135004-id-4172954.html测试kafka producer发送消息 和consumer 接受消息报错 ,kafka版本kafka_2.9.2-0.8.1[root@master ~]# /export/kafka/...
分类:
其他好文 时间:
2014-10-11 18:40:56
阅读次数:
403