作为一款消息中间件,RocketMQ需要解决的技术问题其实在分布式系统领域中都有所体现。首先如果将分布式系统的领域按照分布式通信、分布式存储、分布式计算以及分布式管理这四大部分进行划分,其实就会发现在这四大技术栈下有很多的子技术。这里列举几个简单的例子,比如在分布式通信领域下对于网络协议的选择上面, ...
分类:
其他好文 时间:
2019-12-13 13:57:18
阅读次数:
78
消息组接到某项目组反馈,topic 在扩容后出现部分队列无法被消费者,导致消息积压,影响线上业务? 考虑到该问题是发送在真实的线上环境,为了避免泄密,本文先在笔者的虚拟机中来重现问题。 @ "TOC" 1、案情回顾 1.1 集群现状 集群信息如下: 例如业务主体名 topic_dw_test_by_ ...
分类:
其他好文 时间:
2019-12-12 22:22:23
阅读次数:
94
1.概述本篇文章会尽力全面的介绍RocketMQ和Kafka各个关键点的比较,希望大家读完能有所收获。RocketMQ前身叫做MetaQ,在MeataQ发布3.0版本的时候改名为RocketMQ,其本质上的设计思路和Kafka类似,但是和Kafka不同的是其使用Java进行开发,由于在国内的Java受众群体远远多于Scala,所以RocketMQ是很多以Java语言为主的公司的首选。同样的Rock
分类:
其他好文 时间:
2019-12-12 16:37:11
阅读次数:
148
1、配置文件 1、yml配置文件 2、对应的java类 package com.gofun.customer.mq; import org.springframework.boot.context.properties.ConfigurationProperties; @ConfigurationP ...
分类:
编程语言 时间:
2019-12-11 14:43:23
阅读次数:
111
本文将深入剖析rocketmq为什么选择自己开发NameServer,而不是选择类似于ZK这样的开源组件。同时对rocketmq的路由注册、路由发现、路由剔除进行剖析。并通过结合核心源码,对笔者的观点进行验证。同时对不同类型消息的重试机制,以及客户端选择nameserver的策略进行深入讲解。文章第一部分是nameserver在rocketmq整体架构中的作用,熟悉的同学可以直接跳过。1NameS
分类:
其他好文 时间:
2019-12-11 00:02:33
阅读次数:
165
RabbitMQ 简介 RabbitMQ 是什么 RabbitMQ 是一个用 Erlang 编写的开源的消息队列中间件,它实现了 AMQP 协议(其实还实现了 MTQQ 等消息协议)。和其他两个主流的消息队列中间件 Kafka 和 RocketMQ 相比,拥有更低的延迟、更高的稳定性、更完备的功能、 ...
分类:
编程语言 时间:
2019-12-10 22:39:42
阅读次数:
119
其实Rocketmq的给第三方的插件已经全了,如果大家有兴趣的话请移步https://github.com/apache/rocketmq-externals。本文主要是结合笔者已有的rmq在spark中的应用经验对rocketmq做简单介绍以及经验总结,当然免不了会将rocketmq和如今特别火爆 ...
分类:
其他好文 时间:
2019-12-10 22:13:08
阅读次数:
157
高性能 存储原理 零拷贝 数据结构与存储逻辑 刷盘策略 长轮询PULL RocketMQ的Consumer都是从Broker拉消息来消费,但是为了能做到实时收消息,RocketMQ使用长轮询方式,可以保证消息实时性同Push方式一致。 这里需要注意的是,长轮询与长连接是两个不同的概念。长轮询表示,当 ...
分类:
其他好文 时间:
2019-12-10 20:59:22
阅读次数:
104
RocketMQ是我们常用的消息中间件,在运行单元测试时,我们可能不需要真正发送消息(除非是为了测试发送消息),也不想因为连结不上RocketMQ的Broker,NameServer而影响单元测试运行。 那我们该如何Mock RocketMQ消息生产者呢? 请看例子: 1 2 3 4 5 6 7 8 ...
分类:
其他好文 时间:
2019-12-09 19:42:10
阅读次数:
100
首先解释下consumeQueue,由于commit-log是根据消息先后存储的,而我们消费的时候是根据topic来筛选的,所以需要一个队列根据topic来划分,所以consumeQueue就是干这个事情的。而indexfile顾名思义就是索引文件,用来做单纯查询的。 private final C ...
分类:
其他好文 时间:
2019-12-08 22:51:24
阅读次数:
69