Kafka 跨集群同步方案——Kafka内置的MirrorMaker工具该方案解决Kafka跨集群同步、创建Kafka集群镜像等相关问题,主要使用Kafka内置的MirrorMaker工具实现。Kafka镜像即已有Kafka集群的副本。下图展示如何使用MirrorMaker工具创建从源Kafka集群...
分类:
其他好文 时间:
2014-08-14 20:00:59
阅读次数:
283
简介kafka网站上提供了C语言的客户端librdkafka,地址在这。librdkafka是使用C语言根据apache kafka 协议实现的客户端。另外这个客户端还有简单的c++接口。客户端作者对这个客户端比较上心,经常会修改bug并提交新功能。librdkafka的基本原理和我之前博客说的ja...
分类:
其他好文 时间:
2014-08-12 00:25:33
阅读次数:
766
Apache Kafka是一个分布式消息发布订阅系统。它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log),,之后成为Apache项目的一部分。Kafka系统快速、可扩展并且可持久化。它的分区特性,可复制和可容错都是其不错的特性。
Apache Kafka与传统消息系统相比,有以下不同:
它被设计为一个分布式系统,易于向外扩展;
它同时为发布和订阅提供高吞吐量;
它支持多订阅者,当失败时能自动平衡消费者;
...
分类:
其他好文 时间:
2014-08-11 15:08:32
阅读次数:
389
目录: 一、什么是kafka? 二、kafka的官方网站在哪里? 三、在哪里下载?需要哪些组件的支持? 四、如何安装? 五、FAQ 六、扩展阅读 一、什么是kafka? kafka是LinkedIn开发并开源的一个分布式MQ系统,现在是Apache的一个孵化项目。在它的主页描述kaf...
分类:
编程语言 时间:
2014-08-11 14:24:32
阅读次数:
496
原文地址:http://blog.csdn.net/honglei915/article/details/37760631消息格式消息由一个固定长度的头部和可变长度的字节数组组成。头部包括了一个版本和CRC32校验码。 /** * 具有N个字节的消息的格式例如以下 * * 假设版本是0 ...
分类:
其他好文 时间:
2014-08-09 15:45:28
阅读次数:
339
Kafka提供了Producer类作为java producer的api,该类有sync和async两种发送方式。...
分类:
其他好文 时间:
2014-08-08 18:22:46
阅读次数:
276
本文将从以下两个方面去尝试讲解Kafka的设计理念,主要参考文献在这里: Kafka设计背景及原因 Kafka的设计特色 Kafka设计背景及原因 Kafka最初被LinkedIn设计来处理活动流数据(activity stream data)和系统处理数...
分类:
其他好文 时间:
2014-08-08 16:36:56
阅读次数:
237
Apache kafka性能优化架构分析,分析了那些因素会影响kafka性能。kafka内部实现做了哪些优化和处理。...
分类:
其他好文 时间:
2014-08-08 16:06:46
阅读次数:
298
什么时间使用高级应用? 针对一个消息读取多次 在一个process中,仅仅处理一个topic中的一组partitions 使用事务,确保每个消息只被处理一次 使用高级应用(调用较底层函数)的缺点? ????SimpleConsumer需要...
分类:
编程语言 时间:
2014-08-08 13:01:46
阅读次数:
340