操作系统 Kafka 由 Scala 语言和 Java 语言编写而成,编译之后的源代码就是普通的“.class”文件 应该说部署在 Linux 上的生产环境是最多的 主要是在下面这三个方面上,Linux 的表现更胜一筹。 I/O 模型的使用 数据网络传输效率 社区支持度 主流的 I/O 模型通常有 ...
分类:
其他好文 时间:
2020-05-02 23:13:44
阅读次数:
68
很多参数对系统的影响要比从文档上看更加明显 严格来说这些配置并不单单指 Kafka 服务器端的配置,其中既有 Broker 端参数, 也有主题(后面我用我们更熟悉的 Topic 表示)级别的参数、 JVM 端参数 和操作系统级别的参数 Broker 端参数 目前 Kafka Broker 提供了近 ...
分类:
其他好文 时间:
2020-05-02 23:06:08
阅读次数:
76
主要基于从kafka0.11.0版本开始之后的版本进行描述 1、批处理 传统消息中间件,一次只发送单挑消息;kafka,一次发送多条消息,微批处理。 2、客户端优化 新版客户端摒弃单线程,采用双线程模式——主线程+Sender线程。 主线程负责将消息置入客户端缓存(缓存会将多个消息聚合为1个批次); ...
分类:
其他好文 时间:
2020-05-02 16:43:55
阅读次数:
56
1.kafka如何扩展分区 https://www.cnblogs.com/wgy1/p/11611345.html 2.kafka如何完整删除topic https://blog.csdn.net/belalds/article/details/80575751 ...
分类:
其他好文 时间:
2020-05-02 09:48:20
阅读次数:
55
喜欢关注个人公众号:java乐园消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题。实现高性能,高可用,可伸缩和最终一致性架构;是大型分布式系统不可缺少的中间件。目前使用较多的消息队列有ActiveMQ、RabbitMQ、Kafka、RocketMQ、MetaMQ等。springboot提供了对JMS系统的支持;springboot很方便就可以集成这些消息中间件。对
分类:
编程语言 时间:
2020-05-02 09:27:36
阅读次数:
55
batch 发送,batch 存储(可压缩, FileChannel 顺序写盘),batch 拉取(sendFile) 查看 log: kafka-run-class.bat kafka.tools.DumpLogSegments --files D:/tmp/kafka-11-logs/zhang ...
分类:
其他好文 时间:
2020-05-02 00:16:20
阅读次数:
81
1.zookeeper的安装 2.kafka的安装 2.1 从http://kafka.apache.org/ 获得Kafka的安装包,拷贝安装包并解压安装包 tar –zxvf kafka_2.10-0.8.1.1.tgz 2.2 编辑修改配置文件 vi config/server.propert ...
分类:
其他好文 时间:
2020-05-02 00:08:03
阅读次数:
50
一、Kafka架构 Producer :消息生产者,就是向 kafka broker 发消息的客户端; Consumer :消息消费者,向 kafka broker 取消息的客户端; Consumer Group (CG):消费者组,由多个 consumer 组成。消费者组内每个消费者负责消费不同分 ...
分类:
其他好文 时间:
2020-05-01 18:58:23
阅读次数:
71
一、Kafka 0.11 参考文档 (1)https://kafka.apache.org/0110/documentation.html 二、kafka 0.8 1、命令行操作 (1)新建topic (2)发送消息 2、API使用 (1)pom依赖 (2)生产者api使用 参考文档 (1)http ...
1、现象: 今天下午公司客户群里突然报警,说订单没有推送服务商,经排查发现是rabbitmq堵住了,查询elk和监控没有发现业务异常或超时日志。 通过rabbitmq后面发现一个队列有异常,队列不ack,未消费数量一直增长,怀疑服务假死,只能保留现场,重启服务,下面是服务重启前后队列截图 2、分析 ...
分类:
其他好文 时间:
2020-04-30 22:58:35
阅读次数:
185