说起ELK相信大家都不陌生，他可不是一个软件，是三个软件 logstash，elasticsearch，Kibana 组成的可以打造大规模日志实时处理的系统。 Elasticsearch 是一个基于 Lucene 的、支持全文索引的分布式存储和索引引擎，主要负责将日志索引并存储起来，方便业务方检索查 ...
分类：
其他好文 时间：
2020-07-26 15:54:23
阅读次数：
71
下载地址：https://www.elastic.co/cn/downloads/past-releases#elasticsearch ELK的主版本号需要统一：ElasticSearch-5.5 + Logstash-5.5 + Kibana-5.5 安装ElasticSearch 在安装 El ...
分类：
其他好文 时间：
2020-07-26 15:38:49
阅读次数：
69
Kafka 0.10.1版本源码 Idea编译 1.环境准备 Jdk 1.8 Scala 2.11.12：下载scala-2.11.12.msi并配置环境变量 Gradle 5.6.4： 下载Gradle-5.6.4并配置环境变量 2.配置文件修改 -gradle.properties文件中 sca ...
分类：
其他好文 时间：
2020-07-26 00:28:42
阅读次数：
75
月初的时候，Flink 终于发布 1.11.0 版本， CDC 的功能还是比较期待的（虽然比预期差很多） 当然是升级一波了 最新的代码已经上传到 GitHub ： https://github.com/springMoon/sqlSubmit 跑 sqlSubmit 的代码，随便来个 kafka t ...
分类：
数据库 时间：
2020-07-26 00:01:52
阅读次数：
179
kafka配置双监听 由于公司需要在其他城市开通业务所以另外开了一个数据库但是kafka消费想直接使用旧的项目，以免多部署一个项目占用服务器内存空间。 首先先在配置文件中配置2个kafka的ip端口等信息 spring.kafka.xx.bootstrap-servers=xxx.xxx.x.x:x ...
分类：
其他好文 时间：
2020-07-24 10:03:45
阅读次数：
71
#source的名字 agent.sources = kafkaSource # channels的名字，建议按照type来命名 agent.channels = memoryChannel # sink的名字，建议按照目标来命名 agent.sinks = hdfsSink # 指定source使 ...
分类：
Web程序 时间：
2020-07-23 22:28:11
阅读次数：
105
一、Kafka 简介 1.基本概念 Kafka 是一个分布式的基于发布/订阅消息系统，主要应用于大数据实时处理领域，其官网是：http://kafka.apache.org/。Kafka 是一个分布式、支持分区的（Partition）、多副本的（Replica），基于 ZooKeeper 协调的发布 ...
分类：
编程语言 时间：
2020-07-22 15:56:17
阅读次数：
64
192.168.174.20 ： elasticsearch kibana 192.168.174.21： logstash nginx 先把相关包发送到相应服务器上 174.20 服务器上 rpm -ivh jdk-8u131-linux-x64_.rpm 安装jdk yum -y install ...
分类：
其他好文 时间：
2020-07-21 22:54:05
阅读次数：
76
为了测试Avro Schema的兼容性，新建2个Java project，其中v1代表的是第一个版本， v2代表的是第二个版本。 测试步骤： Run producer-v1，去schema registry UI看schema版本 Run producer-v2，去schema registry U ...
分类：
编程语言 时间：
2020-07-21 21:58:41
阅读次数：
60
package com.sun4cloud.sunx.question.config; import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.producer.Producer ...
分类：
其他好文 时间：
2020-07-21 21:29:44
阅读次数：
71
