1.背景 起源于Linkedin,在apache开源,基于发布订阅的分布式消息系统。 1.背景 起源于Linkedin,在apache开源,基于发布订阅的分布式消息系统。 2.特点 高吞吐量:单机每秒几百MB的读写 消息持久化 高扩展性 高可靠性 支持多消费者(这个是比较重要的特点) 3.拓扑结构 ...
分类:
其他好文 时间:
2016-07-06 00:28:01
阅读次数:
196
引言 C10K problem提到一种zero-copy的技术,可以提高网络的吞吐量,分布式消息队列kafka中在消费者消费消息的时候根据offset进行zero-copy。linux下的zero-copy通过sendfile API实现。 什么是zero-copy zero-copy在概念上是值操 ...
分类:
其他好文 时间:
2016-07-03 01:45:15
阅读次数:
174
备注:
1.如果您此前未接触过RocketMQ,请先阅读附录部分,以便了解RocketMQ的整体架构和相关术语
2.文中的MQServer与Broker表示同一概念
分布式消息系统作为实现分布式系统可扩展、可伸缩性的关键组件,需要具有高吞吐量、高可用等特点。而谈到消息系统的设计,就回避不了两个问题:
消息的顺序问题
消息的重复问题
RocketMQ作为阿里开源的一款...
分类:
其他好文 时间:
2016-06-29 11:33:12
阅读次数:
375
本文是大型网站架构系列:消息队列(二),主要分享JMS消息服务,常用消息中间件(Active MQ,Rabbit MQ,Zero MQ,Kafka)。【第二篇的内容大部分为网络资源的整理和汇总,供大家学习总结使用,最后有文章来源】 本次分享大纲 消息队列概述(见第一篇:大型网站架构系列:分布式消息队 ...
分类:
Web程序 时间:
2016-06-16 20:09:37
阅读次数:
259
以下是消息队列以下的大纲,本文主要介绍消息队列概述,消息队列应用场景和消息中间件示例(电商,日志系统)。 本次分享大纲 消息队列概述 消息队列应用场景 消息中间件示例 JMS消息服务(见第二篇:大型网站架构系列:分布式消息队列(二)) 常用消息队列(见第二篇:大型网站架构系列:分布式消息队列(二)) ...
分类:
Web程序 时间:
2016-06-16 20:02:37
阅读次数:
257
Jafka 是一个开源的/性能良好的分布式消息系统。在上一篇文章中有所简单介绍。下面是一篇简单的入门文档。更多详细的文档参考wiki。 Step 1: 下载最新的安装包 完整的安装指南在这里。最新的发行版地址在:https://github.com/adyliu/jafka/downloads 可选 ...
分类:
其他好文 时间:
2016-06-08 08:03:58
阅读次数:
918
着系统的复杂性不断增加,我们所面对的分布式系统渐渐增加。分布式文件系统、分布式消息队列系统等等层出不穷,在一些行业特别是互联网行业应用广泛。分布式数据库也是目前使用比较常用的分布式系统之一。 简单来说,分布式数据库就是通过多个相互连接的数据库节点(注意不是Instance),来支持前端系统数据访问需 ...
分类:
数据库 时间:
2016-05-24 19:08:23
阅读次数:
203
国内知名互联网公司的开源项目 这里列出的开源内容由网络整理而来。 阿里 阿里的开源项目很多,这也跟@淘宝正明的开源态度密不可分。有很多重量级的项目,例如LVS、Tengine,或者很有实践价值的中间件,例如 MetaQ(分布式消息系统)、dubbo(RPC框架)、cobar(数据库中间件),或者是J ...
分类:
其他好文 时间:
2016-05-13 14:24:28
阅读次数:
236
1.构建可扩展的网站架构 网站可扩展架构的核心思想是模块化,并在此基础上,降低模块间的耦合性,提高模块的复用性. 2利用分布式消息队列降低系统耦合性 2.1事件驱动架构 事件驱动架构(Event Driven Architecture):通过在低耦合的模块之间传输事件消息,以保持,模块的松散耦合,并 ...
分类:
Web程序 时间:
2016-05-13 07:48:14
阅读次数:
215
kafka是一个分布式的,高吞吐量的、信息分片存储,消息同步复制的开源消息服务,它提供了消息系统的功能,但是采用了独特的设计。...
分类:
其他好文 时间:
2016-05-12 22:37:03
阅读次数:
133