ack应答机制 有三个值: 0:producer不需要确认消息,直接发送消息给leader,有没有收到消息,producer不管; 上图中去掉5、6步;速度块,安全性最低(当broker故障,会 丢失数据 )。 1:producer发送消息,确保leader写入成功,followers不管;上图中, ...
分类:
其他好文 时间:
2020-01-13 12:54:21
阅读次数:
496
本文记录一下kafka多机多Broker(集群)的基本配置,在上篇的基础上进行,上篇配置在192.168.7.151上,本篇在152上。 一、在服务器192.168.7.152上配置两个Broker 1、将151上的kafka远程拷贝到152上 [root@localhost local]# scp ...
分类:
其他好文 时间:
2020-01-12 16:42:11
阅读次数:
102
1.消息发送机制 Kafka的ack机制。 当producer向leader发送数据时,可以通过request.required.acks参数来设置数据可靠性的级别: 1(默认):这意味着producer在ISR中的leader已成功收到的数据并得到确认后发送下一条message。如果leader宕 ...
分类:
其他好文 时间:
2020-01-11 20:15:43
阅读次数:
92
Celery架构 Celery的架构由三部分组成,消息中间件(message broker)、任务执行单元(worker)和 任务执行结果存储(task result store)组成。 消息中间件 Celery本身不提供消息服务,但是可以方便的和第三方提供的消息中间件集成。包括,RabbitMQ, ...
分类:
其他好文 时间:
2020-01-11 20:06:41
阅读次数:
97
IntroductionRabbitMQ is a message broker: it accepts and forwards messages. You can think about it as a post office: when you put the mail that you wa... ...
分类:
其他好文 时间:
2020-01-11 18:48:55
阅读次数:
94
RabbitMQ介绍以下内容搬运自RabbitMQ官网RabbitMQ is the most widely deployed open source message broker.RabbitMQ是使用最广泛的开源的消息中转器With tens of thousands of users, Rab... ...
分类:
其他好文 时间:
2020-01-11 11:35:30
阅读次数:
98
一、概念 相当于一个ActiveMQ服务实例 Broker其实就是实现了用代码的形式启动了ActiveMQ将MQ嵌入到java代码中,以便随时用随时启动,在用的时候再去启动这样能节约资源,也保证了可靠性。 二、按照不同配置文件启动ActiveMQ 1、 先将ActiveMQ根目录下conf文件夹中的 ...
分类:
其他好文 时间:
2020-01-10 22:19:39
阅读次数:
123
今天是继续对之前 kafka 集群遗留问题的查漏补缺。 扩容后对副本进行再平衡: 今天检查 kafka manager 发现了一个 __consumer_offsets 主题(消费者分区位移保存主题)的 leader 副本只被部署在了已有三节点中的两个节点上。并没有将三个 broker 上都平均分布 ...
分类:
其他好文 时间:
2020-01-09 18:39:38
阅读次数:
83
Data Guard 的三种保护模式 官方文档链接 http://docs.oracle.com/cd/E11882_01/server.112/e41134/protection.htm#SBYDB02000 最大可用模式(Maximum Availability) 这种保护模式在不影响主库可用性 ...
分类:
其他好文 时间:
2020-01-09 01:15:10
阅读次数:
77
温馨提示:本文基于 Kafka 2.2.1 版本。 上文 "《源码分析 Kafka 消息发送流程》" 已经详细介绍了 KafkaProducer send 方法的流程,该方法只是将消息追加到 KafKaProducer 的缓存中,并未真正的向 broker 发送消息,本文将来探讨 Kafka 的 S ...
分类:
编程语言 时间:
2020-01-08 21:24:40
阅读次数:
215