系统版本 centos 7.0 elk:6.7.2 jdk:1.8.0 1.elk结构 filebeat==>redis==>logstash==>es(群集)==>kibana 2.安装es群集 vim /etc/hosts 172.16.206.110 node-1 172.16.206.114 ...
分类：
其他好文 时间：
2020-09-18 00:56:30
阅读次数：
33
ELK是一种日志收集，分析的组合软件。ELK/EFK的组成部分，分别是：elasticsearch,logstash,kibanaelasticsearch(简称es数据库)：负责数据的存储，数据的分析，数据的搜索，是基于luncene做的二次开发。（es数据库是非关系型数据库）logstash：负责客户端日志收集工具，替代工具。（filebeat）kibana：负责数据的展示，查询。
分类：
其他好文 时间：
2020-09-17 22:03:38
阅读次数：
37
input { stdin{ } elasticsearch { hosts => ["http://127.0.0.1:9200"] user => "admin" index => "*" password => "admin" #设置为true，将会提取ES文档的元数据信息，例如index、t ...
分类：
其他好文 时间：
2020-09-17 21:46:29
阅读次数：
33
Sqoop 在hadoop和关系型数据库之间转换数据 Flume Flume是一个分布式的高可用的数据收集、聚集和移动的工具。通常用于从其他系统搜集数据，如web服务器产生的日志，通过Flume将日志写入到Hadoop的HDFS中 Canal 数据抽取是 ETL 流程的第一步。我们会将数据从 RDB ...
分类：
其他好文 时间：
2020-09-17 18:33:30
阅读次数：
37
什么是ELK？ 通俗来讲，ELK是由Elasticsearch、Logstash、Kibana 三个开源软件的组成的一个组合体，ELK是elastic公司研发的一套完整的日志收集、分析和展示的企业级解决方案，在这三个软件当中，每个软件用于完成不同的功能，ELK 又称为ELK stack，官方域名为e ...
分类：
其他好文 时间：
2020-09-17 15:51:53
阅读次数：
26
本篇文章主要是手把手教你搭建ELK实时日志分析平台，那么，ELK到底是什么呢？ELK是三个开源项目的首字母缩写，这三个项目分别是：Elasticsearch、Logstash和Kibana。Elasticsearch是一个搜索和分析引擎。Logstash是服务器端数据处理管道，能够同时从多个来源采集数据，转换数据，然后将数据发送到诸如Elasticsearch等存储库中。Kibana则可以让用户在
分类：
其他好文 时间：
2020-08-28 11:57:17
阅读次数：
289
##【最佳实践示例】LogstashJDBC实现ElasticSearch与关系型数据库PostgreSQL近实时同步在数据全文检索需求越来越大的今天，很多公司都在关系数据库数据的基础上，加上了ElasticSearch，来进行数据快速全文检索，所以ElasticSearch与关系型数据库数据进行数据同步就变的尤为重要。本文主要介绍PostgreSQL数据库通过Logstash-JDBC插件与El
分类：
数据库 时间：
2020-08-08 00:39:39
阅读次数：
103
环境： 原elasticsearch版本:6.5.0 目的elasticsearch 版本:7.4.0 1.下载logstash 我这里下载的是6.8.5版本 https://artifacts.elastic.co/downloads/logstash/logstash-6.8.5.tar.gz ...
分类：
其他好文 时间：
2020-08-06 20:41:31
阅读次数：
69
0、题记实际业务场景中，会遇到基础数据存在Mysql中，实时写入数据量比较大的情景。迁移至kafka是一种比较好的业务选型方案。而mysql写入kafka的选型方案有：方案一：logstash_output_kafka插件。方案二：kafka_connector。方案三：debezium插件。方案四：flume。方案五：其他类似方案。其中：debezium和flume是基于mysqlbinlog实
分类：
数据库 时间：
2020-08-01 12:38:39
阅读次数：
93
