码迷,mamicode.com
首页 > Web开发 > 详细

.net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结(二)

时间:2017-05-12 10:44:54      阅读:231      评论:0      收藏:0      [点我收藏+]

标签:otto   本地   分配   thread   images   static   png   add   解决   

依据Partition和Consumer的Rebalance策略,找到Kafka.Client Rebalance代码块,还原本地环境,跟踪调试,发现自定义Consumer Group 的Consumer并没有分配到PartionID,如下图、

技术分享

技术分享

据此,基本就可以定位到不同组Consumer无法覆盖Partition的问题根源了。

仔细阅读Rebalance代码,发现Kafka.Client 在获取consumer时,并没有根据Group做筛选,获取到的是所有组的Consumer,如下图

(此处只有两个不同组的Consumer类型,每个Consumer会生成五个ConsumerThreadID,用于覆盖partition)

技术分享

技术分享

定位curConsumer变量,从consumerPerTopicMap中获取,找到consumerPerTopicMap的实现

技术分享

此处确实没有过滤

技术分享

技术分享

增加group过滤代码。问题解决。

技术分享

技术分享

.net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结(二)

标签:otto   本地   分配   thread   images   static   png   add   解决   

原文地址:http://www.cnblogs.com/vveiliang/p/6844375.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!