温馨提示：本文基于Kafka2.2.1版本。本文主要是以源码的手段一步一步探究消息发送流程，如果对源码不感兴趣，可以直接跳到文末查看消息发送流程图与消息发送本地缓存存储结构图。从上文初识KafkaProducer生产者，可以通过KafkaProducer的send方法发送消息，send方法的声明如下：Future<RecordMetadata>send(ProducerRecord&l
分类：
其他好文 时间：
2020-12-08 11:59:45
阅读次数：
3
温馨提示：整个KafkaClient专栏基于kafka-2.3.0版本。1、KafkaProducer概述根据KafkaProducer类上的注释上来看KafkaProducer具有如下特征：KafkaProducer是线程安全的，可以被多个线程交叉使用。KafkaProducer内部包含一个缓存池，存放待发送消息，即ProducerRecord队列，与此同时会开启一个IO线程将ProducerR
分类：
其他好文 时间：
2020-12-07 12:49:28
阅读次数：
11
Apache Kafka由Scala和Java编写，基于生产者和消费者模型作为开源的分布式发布订阅消息系统。它提供了类似于JMS的特性，但设计上又有很大区别，它不是JMS规范的实现，如Kafka允许多个消费者主动拉取数据，而在JMS中只有点对点模式消费者才会主动拉取数据 ...
分类：
其他好文 时间：
2020-12-04 11:04:22
阅读次数：
7
Kafka 最初考虑的问题是，customer 应该从 brokes 拉取消息还是 brokers 将消 息推送到 consumer，也就是 pull 还 push。在这方面，Kafka 遵循了一种大部分 消息系统共同的传统的设计：producer 将消息推送到 broker，consumer 从 ...
分类：
其他好文 时间：
2020-12-03 11:32:29
阅读次数：
3
前段时间跟一个朋友聊起kafka,flint,spark这些是不是某种分布式运算框架。我自认为的分布式运算框架最基础条件是能够把多个集群节点当作一个完整的系统，然后程序好像是在同一台机器的内存里运行一样。当然，这种集成实现方式有赖于底层的一套消息系统。这套消息系统可以把消息随意在集群各节点之间自由传 ...
分类：
其他好文 时间：
2020-11-30 16:09:25
阅读次数：
9
1）配置flume(flume-kafka.conf) # define a1.sources = r1 a1.sinks = k1 a1.channels = c1 # source a1.sources.r1.type = exec a1.sources.r1.command = tail -F ...
分类：
Web程序 时间：
2020-11-30 15:35:17
阅读次数：
9
一，引言 今天开始学习新的内容 Azure Service Bus（服务总线），其实也叫 ”云消息服务“，和 RabbitMQ，KafKa的一样都是作为消息通信服务，但是它们直接还有有很多区别的，我这里就不过多解释了，大家可以自行了解。以下是我对Azure Service Bus的理解 Azure ...
分类：
其他好文 时间：
2020-11-26 14:22:11
阅读次数：
5
参考： https://www.cnblogs.com/sujing/p/10960832.html https://blog.csdn.net/suifeng3051/article/details/48053965 https://blog.csdn.net/u013573133/article ...
分类：
其他好文 时间：
2020-11-25 13:00:37
阅读次数：
16
基于kerberos 加密的kafka消息我们在用spring binder链接的时候配置应当如下： #input spring.cloud.stream.bindings.process-in-0.destination=input-topic spring.cloud.stream.bindin ...
分类：
编程语言 时间：
2020-11-25 12:45:59
阅读次数：
10
单机版Kafka搭建参考：【Kafka】 Kafka安装 Kafka集群搭建 环境系统：CentOS 7.4 kafka版本：2.6.0 由于资源有限，只有一台服务器，本例搭建的是一个伪集群Kafka环境 1、搭建一个zookeeper集群，参考：【ZooKeeper】ZooKeeper安装及简单操 ...
分类：
其他好文 时间：
2020-11-23 12:20:32
阅读次数：
6
