实时数据订阅与分发系统可以将业务数据源变更实时分发分发到消息总线上,并维护消息的统一格式,提供通用的客户端框架供消息生产者与下游业务接入。 一般能用于以下场景: 索引构建:MySQL到ES 缓存管理:MySQL到Redis或本地cache 数据库镜像 实时备份 价格变化等重要业务信息订阅 实时数据订 ...
分类:
其他好文 时间:
2020-05-28 00:42:10
阅读次数:
182
一、Kafka架构 Producer :消息生产者,就是向 kafka broker 发消息的客户端; Consumer :消息消费者,向 kafka broker 取消息的客户端; Consumer Group (CG):消费者组,由多个 consumer 组成。消费者组内每个消费者负责消费不同分 ...
分类:
其他好文 时间:
2020-05-01 18:58:23
阅读次数:
71
本篇文章为系列文章,未读第一集的同学请猛戳这里:Spring Cloud 系列之 Stream 消息驱动(一) 本篇文章讲解 Stream 如何实现消息分组和消息分区。 消息分组 点击链接观看:Stream 消息分组视频(获取更多请关注公众号「哈喽沃德先生」) 如果有多个消息消费者,那么消息生产者发 ...
分类:
编程语言 时间:
2020-05-01 18:35:28
阅读次数:
71
做消息持久化 借助 jdbc, kahadb或 leveldb+zookeeper首先将将消息发送设置为持久化发送(mq自带的属性),然后再借助jdbc kahadb leveldb+zookeeper等做消息的存储来持久化。思想都是发送者(消息生产者)将消息发送出去后,消息中心首先将消息存储到本地 ...
分类:
其他好文 时间:
2020-04-10 22:48:34
阅读次数:
232
1、了解消息中间件 消息中间件,Message Queue Middleware,简称MQ,又称消息对列或消息对列中间件,利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。 一般有两种传递方式:点对点模式,基于队列的一对一,消息生产者发送消息到对列,消费者从队 ...
分类:
其他好文 时间:
2020-04-05 13:59:54
阅读次数:
63
Kafka-常用术语(消息、生产者、消费者、集群、broker解释) 消息和批次 kafka的数据单元被称为消息。类似于数据库表中的一行数据。 消息由字节数组组成,所以对于kafka来说,消息里的数据没有特别的格式或含义。 消息可以有一个可选的元数据,也就是键,键也是一个字节数组,当消息以一种可控的 ...
分类:
其他好文 时间:
2020-03-24 21:43:11
阅读次数:
88
生产者:生产者是负责发送消息的 队列:队列是RabbitMQ用来存储消息的,受主机内存和磁盘大小的限制,本质上是一个消息的缓冲区。生产者可以将消息发送至队列中,消费者可以从队列中接收到消息 消费者:消费者是用来等待接收消息 生产者,消费者,代理可以驻留在不同主机或同一主机,一个应用可以是生产者也可以 ...
分类:
其他好文 时间:
2020-02-12 11:15:35
阅读次数:
77
生产者端消费者端运行效果补充RocketMQ提供了3种模式的Producer:NormalProducer(普通)、OrderProducer(顺序)、TransactionProducer(事务),对应的分别是普通消息、顺序消息和事务消息。在前面的博客当中,涉及的都是NormalProducer, ...
分类:
其他好文 时间:
2020-01-16 12:44:51
阅读次数:
97
点击查看折叠代码块 / 普通消息生产者 / public class Producer { public static void main(String[] args) throws Exception { // 创建一个消息发送入口对象,主要用于消息发送,指定生产者组 DefaultMQProdu ...
分类:
其他好文 时间:
2020-01-06 14:55:32
阅读次数:
67
1. 消息生产者、消息者、队列 消息生产者Producer:发送消息到消息队列。 消息消费者Consumer:从消息队列接收消息。 Broker:概念来自与Apache ActiveMQ,指MQ的服务端,帮你把消息从发送端传送到接收端。 消息队列Queue:一个先进先出的消息存储区域。消息按照顺序发 ...
分类:
其他好文 时间:
2019-12-17 22:01:53
阅读次数:
62