Kafka 0.10.1版本源码 Idea编译 1.环境准备 Jdk 1.8 Scala 2.11.12：下载scala-2.11.12.msi并配置环境变量 Gradle 5.6.4： 下载Gradle-5.6.4并配置环境变量 2.配置文件修改 -gradle.properties文件中 sca ...
分类：
其他好文 时间：
2020-07-26 00:28:42
阅读次数：
75
月初的时候，Flink 终于发布 1.11.0 版本， CDC 的功能还是比较期待的（虽然比预期差很多） 当然是升级一波了 最新的代码已经上传到 GitHub ： https://github.com/springMoon/sqlSubmit 跑 sqlSubmit 的代码，随便来个 kafka t ...
分类：
数据库 时间：
2020-07-26 00:01:52
阅读次数：
179
kafka配置双监听 由于公司需要在其他城市开通业务所以另外开了一个数据库但是kafka消费想直接使用旧的项目，以免多部署一个项目占用服务器内存空间。 首先先在配置文件中配置2个kafka的ip端口等信息 spring.kafka.xx.bootstrap-servers=xxx.xxx.x.x:x ...
分类：
其他好文 时间：
2020-07-24 10:03:45
阅读次数：
71
#source的名字 agent.sources = kafkaSource # channels的名字，建议按照type来命名 agent.channels = memoryChannel # sink的名字，建议按照目标来命名 agent.sinks = hdfsSink # 指定source使 ...
分类：
Web程序 时间：
2020-07-23 22:28:11
阅读次数：
105
一、Kafka 简介 1.基本概念 Kafka 是一个分布式的基于发布/订阅消息系统，主要应用于大数据实时处理领域，其官网是：http://kafka.apache.org/。Kafka 是一个分布式、支持分区的（Partition）、多副本的（Replica），基于 ZooKeeper 协调的发布 ...
分类：
编程语言 时间：
2020-07-22 15:56:17
阅读次数：
64
为了测试Avro Schema的兼容性，新建2个Java project，其中v1代表的是第一个版本， v2代表的是第二个版本。 测试步骤： Run producer-v1，去schema registry UI看schema版本 Run producer-v2，去schema registry U ...
分类：
编程语言 时间：
2020-07-21 21:58:41
阅读次数：
60
package com.sun4cloud.sunx.question.config; import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.producer.Producer ...
分类：
其他好文 时间：
2020-07-21 21:29:44
阅读次数：
71
转自： https://blog.csdn.net/ID__9527/article/details/84255680 RocketMQ是阿里巴巴公司的一个消息队列框架（很多思想借鉴Kafka），对于RocketMQ本身不做过多说明，下面主要说明RocketMQ的两种消费模型。 消费模型有两种：广播 ...
分类：
其他好文 时间：
2020-07-21 21:27:30
阅读次数：
82
前言 与生产者对应的是消费者，应用程序可以通过KafkaConsumer来订阅主题，并从订阅的主题中拉取消息。不过在使用KafkaConsumer消费消息之前需要先了解消费者和消费组的概念，否则无法理解如何使用KafkaConsumer。 <!--more--> Consumer 消费者（Consu ...
分类：
其他好文 时间：
2020-07-21 11:34:08
阅读次数：
71
依赖 <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> </dependency> 代码 package com.perfect.kafka; import org.apac ...
分类：
其他好文 时间：
2020-07-21 01:25:24
阅读次数：
91
