一、Kafka 简介 1.基本概念 Kafka 是一个分布式的基于发布/订阅消息系统,主要应用于大数据实时处理领域,其官网是:http://kafka.apache.org/。Kafka 是一个分布式、支持分区的(Partition)、多副本的(Replica),基于 ZooKeeper 协调的发布 ...
分类:
编程语言 时间:
2020-07-22 15:56:17
阅读次数:
64
为了测试Avro Schema的兼容性,新建2个Java project,其中v1代表的是第一个版本, v2代表的是第二个版本。 测试步骤: Run producer-v1,去schema registry UI看schema版本 Run producer-v2,去schema registry U ...
分类:
编程语言 时间:
2020-07-21 21:58:41
阅读次数:
60
package com.sun4cloud.sunx.question.config; import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.producer.Producer ...
分类:
其他好文 时间:
2020-07-21 21:29:44
阅读次数:
71
转自: https://blog.csdn.net/ID__9527/article/details/84255680 RocketMQ是阿里巴巴公司的一个消息队列框架(很多思想借鉴Kafka),对于RocketMQ本身不做过多说明,下面主要说明RocketMQ的两种消费模型。 消费模型有两种:广播 ...
分类:
其他好文 时间:
2020-07-21 21:27:30
阅读次数:
82
前言 与生产者对应的是消费者,应用程序可以通过KafkaConsumer来订阅主题,并从订阅的主题中拉取消息。不过在使用KafkaConsumer消费消息之前需要先了解消费者和消费组的概念,否则无法理解如何使用KafkaConsumer。 <!--more--> Consumer 消费者(Consu ...
分类:
其他好文 时间:
2020-07-21 11:34:08
阅读次数:
71
依赖 <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> </dependency> 代码 package com.perfect.kafka; import org.apac ...
分类:
其他好文 时间:
2020-07-21 01:25:24
阅读次数:
91
依赖 <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> </dependency> 代码 package com.perfect.kafka; import org.apac ...
分类:
其他好文 时间:
2020-07-21 01:09:32
阅读次数:
114
思考: 1,消息丢失是什么造成的,从生产端和消费端两个角度来考虑? 2,消息重复是什么造成的,从生产端和消费端两个角度来考虑? 3,如何保证消息有序? 4,如果保证消息不重不漏,损失的是什么? 1.为什么会发生消息丢失和消息重复?消息发送Kafka消息发送有两种方式:同步(sync)和异步(asyn ...
分类:
其他好文 时间:
2020-07-21 00:57:57
阅读次数:
177
<div id="cnblogs_post_body" class="blogpost-body "> <p><strong>Broker Configs</strong></p><p> </p><p> </p><table style="width: 800px; ...
分类:
其他好文 时间:
2020-07-20 17:18:44
阅读次数:
72
1.创建一个topic (它有一个分区和副本) bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test 2.查看已有的top ...