##一、消费者消费原理 在实际生产过程中，每个topic都会对对应多个partitions，好处如下： 能够对 broker 上的数据进行分片有效减少了消息的容量从而提升 io 性能 为了提高消费端的消费能力，一般会通过多个consumer 去消费同一个 topic #####Q1. 在开启多个co ...
分类：
其他好文 时间：
2020-06-26 18:44:03
阅读次数：
62
##一、引入kafka pom三方配置 <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>2.4.0</version> </dependency> ##二 ...
分类：
其他好文 时间：
2020-06-26 13:04:18
阅读次数：
54
kafka是什么Kafka最初由Linkedin公司开发，是一个分布式、分区的、多副本的、多订阅者，基于zookeeper协调的，发布/订阅模式的消息队列（Message Queue），Linkedin于2010年贡献给了Apache基金会并成为顶级开源项目。经过多年发展，Kafka已经由最初的日志 ...
分类：
其他好文 时间：
2020-06-25 10:16:04
阅读次数：
74
消息队列 为什么用? 解耦，削峰，异步 基本模型 生产者 -> MQ -> 消费者 Kafka 十万级/s 适用于大数据领域实时计算，日志采集, ActiveMQ 万/s , RabbitMQ 万/s , RocketMQ 十万/s 造成问题及解决 1.系统可用性降低 (MQ发生故障，全崩了) 2. ...
分类：
其他好文 时间：
2020-06-24 19:24:18
阅读次数：
68
今天下载了个window版本的apache-activemq-5.14.5-bin.zip解压运行bin\win64的bat文件是报了个版本的错误，因为自己机器的java_home是指向1.6的 所有只能在配置文件里面另外指定java_home,但是找了好久也试了好久，和平常的set java_ho ...
分类：
编程语言 时间：
2020-06-24 11:47:00
阅读次数：
92
一、消息队列概述 消息队列（MessageQueue，简称为MQ）其本质是就是个队列，FIFO先进先出，只不过是队列中储放的主要内容是message，因而叫消息队列主要用于：不同的服务server、进程process、线程thread相互间通信二、选用消息队列的场景①异步处理②流量控制③服务解耦④发 ...
分类：
系统相关 时间：
2020-06-24 00:34:13
阅读次数：
122
RabbitMQ 是一款优秀的消息中间件。相比于 kafka 更好上手，相比于 ActiveMQ 拥有更好的性能。 RabbitMQ 支持单机部署，集群部署。 集群部署有包括 ： 普通模式（多节点集群）、镜像集群。 节点分为 ： 磁盘节点（disc） 和 内存节点 (RAM)。 镜像集群其实也是 镜 ...
分类：
其他好文 时间：
2020-06-24 00:25:28
阅读次数：
55
前言 此处的代码只是简化理解，实际项目会结合Spring使用。 一、队列模式特点 客户端包括生产者和消费者 队列中的消息只能被一个消费者消费 消费者可以随时消费队列中的消息 二、创建过程 1.创建连接Connection2.创建会话Session3.通过Session来创建其它的（MessagePr ...
分类：
其他好文 时间：
2020-06-23 18:57:12
阅读次数：
45
Reids 在内存存储引擎领域的一大优点是提供 list 和 set 操作，这使得 Redis 能作为一个很好的消息队列平台来使用。Redis 作为队列使用的操作，就类似于本 地程序语言（如 Python）对 list 的 push/pop 操作。 如果你快速的在 Google 中搜索“Redis ...
分类：
其他好文 时间：
2020-06-23 18:42:38
阅读次数：
45
数据来源层 数据库 日志 视频，ppt 数据传输层 Sqoop数据传递 Flume日志收集 kafka消息队列 数据存储层 HDFS文件存储 HBase非关系型数据库 kafka（存储少量数据） 资源管理层 YARN资源管理 数据计算层 MapReduce离线计算 Hive数据查询 Mahout数据 ...
分类：
其他好文 时间：
2020-06-22 00:56:04
阅读次数：
83
