在上篇文章《消息系统概述》中对消息系统进行了介绍,本次将学习Kafka中的基本概念。首先我们回顾下在消息系统的使用场景中有三种角色分别是生产者、消息系统和消费者,其中生产者负责产生消息和发送消息到消息系统,而消息系统将为消费者提供消息用于处理,如下图。Kafka是基于发布/订阅模式的消息系统,如下图。生产者会将消息推送到Kafka中的某个Topic上。引入Topic的目的则是为了对消息进行分类,这
分类:
其他好文 时间:
2020-10-27 11:52:37
阅读次数:
24
草捏子最近开始学习Kafka。在学习前,给自己确定了下学习的范围,大致如下:理解Kafka的相关概念;掌握Kafka的基本API使用;了解Kafka的背后原理。后续将在这学习范围内输出一些相关文章。那么本文作为Kafka系列的第一篇文章,将从“理解Kafka的相关概念”说起。首先Kafka是什么。Kafka起初是由LinkedIn公司采用Scala语言开发的一个多分区、多副本且基于ZooKeepe
分类:
其他好文 时间:
2020-10-27 11:52:25
阅读次数:
31
KafkaProducerBlockingPoint:max.block.ms:maxtimetowaitforthewholekafka.sendmethod,althoughkafka.sendisasynchronous,thereareseveralsynchronous/blockingoperationswithinthemethod:max.block.msincludes:Meta
分类:
其他好文 时间:
2020-10-22 22:28:07
阅读次数:
21
RPC和消息队列 1 消息队列 1 两个服务调用:restful(http协议),rpc(远程过程调用) 2 rpc:远程过程调用 -gRPC:谷歌出的,跨语言 3 不管用rpc或者restful来通信,涉及到同步,异步 4 消息队列解决的问题 -应用解耦 -流量消峰 -消息分发(发布订阅:观察者模 ...
分类:
其他好文 时间:
2020-10-22 22:15:29
阅读次数:
23
今天来安装kafka 安装kafka前台必须安装zookeeper 不会安装请移步:点我快速进入安装zookeeper文章 一、安装kafka 下载kafka两种方式 1、手动下载 下载地址:http://kafka.apache.org/downloads 下载好了然后上传服务器(不在这里赘述。前 ...
分类:
其他好文 时间:
2020-10-21 20:38:04
阅读次数:
22
1.rabbitmq使用 - 目的: 可以下载镜像,使用rabbitmq- 操作流程: RabbitMQ介绍和使用 1,RabbitMQ介绍 消息队列是消息在传输的过程中保存消息的容器。 现在主流消息队列有:RabbitMQ、ActiveMQ、Kafka等等。 RabbitMQ和ActiveMQ比较 ...
分类:
其他好文 时间:
2020-10-19 22:42:02
阅读次数:
21
在一次项目中,因甲方需要使用kafka消息队列推送数据,所以需要接入kafka,并且kafka的版本是2.11。但是我们项目使用的是Springboot 1.5.7的版本,对应的springboot.kafka.starter有冲突,所以就接入了kafka-client。springboot接入ka ...
分类:
编程语言 时间:
2020-10-18 10:00:08
阅读次数:
18
基本上每个成熟的框架或者工具都有一套内存管理机制 BufferPool 是Kafka 用来管理内存的工具类 BufferPool内存管理包含2个部分,已用空间+可用空间(未申请空间+已申请未使用空间) 的总和代表BufferPool的总量,用totalMemory表示(由buffer.memory配 ...
分类:
其他好文 时间:
2020-10-16 10:35:02
阅读次数:
22
kafka简介及Spring Boot整合kafka
分类:
编程语言 时间:
2020-10-14 19:58:50
阅读次数:
91
在上一章中SpringBoot整合RabbitMQ,已经详细介绍了消息队列的作用,这一种我们直接来学习SpringBoot如何整合kafka发送消息。 kafka简介 kafka是用Scala和Java语言开发的,高吞吐量的分布式消息中间件。高吞吐量使它在大数据领域具有天然的优势,被广泛用来记录日志 ...
分类:
编程语言 时间:
2020-10-13 17:35:42
阅读次数:
33