环境准备 zookeeper集群环境kafka是依赖于zookeeper注册中心的一款分布式消息对列,所以需要有zookeeper单机或者集群环境。 三台服务器: http://kafka.apache.org/downloads 中下载,目前最新版本的kafka已经到2.2.0,我这里之前下载的是 ...
分类:
系统相关 时间:
2019-08-03 15:09:43
阅读次数:
164
12.1 Go nsq 1.nsq是Go语言编写的,开源的内存分布式消息队列中间件 2.可以大规模的处理每天数以十亿级别的消息 3.分布式和去中心化拓扑结构,无单点故障 4.地址https://github.com/nsqio/nsq 1.1. nsq应用场景 1.异步处理,把非关键流程异步化,提高 ...
分类:
其他好文 时间:
2019-07-27 22:18:26
阅读次数:
127
谈谈分布式消息队列的一些特性,比较两种比较常用的消息队列——NSQ和Kafka 1 消息队列的作用 解耦,将一个流程加入一层数据接口拆分成两个部分,上游专注通知,下游专注处理 缓冲,应对流量的突然上涨变更,消息队列有很好的缓冲削峰作用 异步,上游发送消息以后可以马上返回,处理工作交给下游进行 广播, ...
分类:
其他好文 时间:
2019-07-07 17:46:07
阅读次数:
213
RocketMQ 是一款分布式消息中间件,最初是由阿里巴巴消息中间件团队研发并大规模应用于生产系统,满足线上海量消息堆积的需求, 在 2016 年底捐赠给 Apache 开源基金会成为孵化项目,经过不到一年时间正式成为了 Apache 顶级项目。早期阿里曾经基于 ActiveMQ 研发消息系统, 随 ...
分类:
其他好文 时间:
2019-07-03 20:03:06
阅读次数:
142
1. Kafka 总体架构 基于 Kafka-ZooKeeper 的分布式消息队列系统总体架构如下: 如上图所示,一个典型的 Kafka 体系架构包括若干 Producer(消息生产者),若干 broker(作为 Kafka 节点的服务器),若干 Consumer(Group),以及一个 ZooKe ...
分类:
其他好文 时间:
2019-06-28 14:49:18
阅读次数:
106
RocketMQ(1) 架构原理 RocketMQ是阿里开源的分布式消息中间件,跟其它中间件相比,RocketMQ的特点是 纯JAVA实现 ; 集群和HA实现相对简单 ; 在发生宕机和其它故障时消息丢失率更低 。 一、RocketMQ专业术语 先讲专业术语的含义,后面会画流程图来更好的去理解它们。 ...
分类:
其他好文 时间:
2019-06-27 00:44:29
阅读次数:
92
介绍 ApacheKafka®是一个分布式流媒体平台。这到底是什么意思呢?我们认为流媒体平台具有三个关键功能:它可以让你发布和订阅记录流。在这方面,它类似于消??息队列或企业消息传递系统。它允许您以容错方式存储记录流。它可以让您在发生记录时处理记录流。什么是卡夫卡好?它被用于两大类的应用程序:构建可 ...
分类:
其他好文 时间:
2019-06-18 09:15:42
阅读次数:
114
大数据正在爆炸式增长,每天都有来自世界各地的公司涌现出新的项目。好消息是,所有技术都是开源的,可供您今天开始采用。Hadoop稳固,企业实力和其他一切的基础。您需要YARN和HDFS以及Hadoop的基础架构作为主要数据存储并运行关键的大数据服务器和应用程序Spark易于使用,支持所有重要的大数据语言(Scala,Python,Java,R),一个庞大的生态系统,快速增长,易于微缩/批处理/SQL
分类:
其他好文 时间:
2019-06-14 19:55:58
阅读次数:
109
Kafka Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/ ...
分类:
其他好文 时间:
2019-06-10 11:55:48
阅读次数:
84
[TOC] 官网 "RabbitMQ" "RabbitMQ Tutorials" & "1 Hello World!" | "2 Work queues" | "3 Publish/Subscribe" | "4 Routing" | "5 Topics" | "6 RP ...
分类:
其他好文 时间:
2019-05-27 20:50:00
阅读次数:
183