Kafka版本是:kafka_2.10-0.8.2.11、maven工程方式在pom.xml中配置kafka依赖12345org.apache.kafkakafka_2.100.8.2.12、普通java工程方式依赖的jar包如下:
分类:
其他好文 时间:
2015-06-08 13:23:12
阅读次数:
126
使用java实现Kafka的生产者123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869pack...
分类:
编程语言 时间:
2015-06-08 13:16:42
阅读次数:
224
使用java实现Kafka的消费者1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071...
分类:
编程语言 时间:
2015-06-08 13:00:25
阅读次数:
257
三台机器:vm1、vm2、vm31、部署zookeeper集群假设已经有一个部署好了的zookeeper集群:zk1、zk2、zk32、下载、解压kafka1tar -xzvf kafka_2.10-0.8.2.1.tgz3、修改vm1上面的config/server.properties1234b...
分类:
其他好文 时间:
2015-06-08 12:58:45
阅读次数:
102
介绍Kafka是一个分布式的、分区的、冗余的日志提交服务。它使用了独特的设计,提供了所有消息传递系统所具有的功能。我们先来看下几个消息传递系统的术语:Kafka维护消息类别的东西是主题(topic).我们称发布消息到Kafka主题的进程叫生产者(producer).我们称订阅主题、获取消息的进程叫消...
分类:
其他好文 时间:
2015-06-08 12:58:20
阅读次数:
4461
1.Kafka基本术语 Producer :消息生产者,就是向kafka broker发消息的客户端 Consumer :消息消费者,向kafka broker取消息的客户端 Topic :话题,可以理解为一个队列 Consumer Group (CG):这是kafka用来实现...
分类:
其他好文 时间:
2015-06-07 01:08:37
阅读次数:
125
一个Topic的多个分区,被分布在kafka集群中的多个server上。每个分区都有一个server为"leader";leader负责所有的读写操作,如果leader失效,那么将会有其他follower来接管(成为新的leader);follower只是单调的和leader
跟进,同步消息即可。由此可见作为leader的server承载了全部的请求压力,因此从集群的整体考虑,有多少个part...
分类:
其他好文 时间:
2015-06-05 17:37:01
阅读次数:
100
在互联网和大并发的企业级应用中,kafka会越来越重要,会被更多的人重视,就算是不用kafka,也会有跟kafka类似的架构模式、原理差不多的MQ,类似于rocketMQ。现在差的,就是被更多的企业使用,更复杂的场景证明。...
分类:
其他好文 时间:
2015-06-04 08:38:01
阅读次数:
310
搭建要求:
1.CDH环境已经搭建成功,在CDH上搭建kafka,要求用CDH上zookeeper管理kafka而不用kafka自带的zookeeper
2.kafka_2.11-0.8.2.1.tgz已经上传到kafka集群环境中
搭建步骤
1. 主机操作
修改hosts
10.10.0.11 s1-1
10.10.0.12 s1-2
10.10.0.13 s1-3
10.1...
分类:
其他好文 时间:
2015-06-03 23:30:26
阅读次数:
877
数据分区存储
在topic内设置了多个分区,使kafka的消费者进程池能得到有序性保证和负载均衡,使得topic对应的消费组里的消费者们各自可以独享一个分区。如此的话,每个消费者是其消费的分区的唯一reader,在单个reader下当然保证了有序这件事。而且多个分区也使得负载可以比较平衡。
具体流程:
1. Producer根据指定的partition方法,将消息发布到指定topic的par...
分类:
其他好文 时间:
2015-06-02 23:27:07
阅读次数:
147