什么是ELK？ 通俗来讲，ELK是由Elasticsearch、Logstash、Kibana 三个开源软件的组成的一个组合体，ELK是elastic公司研发的一套完整的日志收集、分析和展示的企业级解决方案，在这三个软件当中，每个软件用于完成不同的功能，ELK 又称为ELK stack，官方域名为e ...
分类：
其他好文 时间：
2020-09-17 15:51:53
阅读次数：
26
/etc/rsyslog.conf $ModLoad imfile 加在imfile模块 $InputFileName filePath 监测日志路径 $InputFilePollInterval 10 轮询时间 $InputFileTag 标签 监测日志的标签 $InputFileStateFil ...
分类：
其他好文 时间：
2020-09-02 16:46:12
阅读次数：
64
本篇文章主要是手把手教你搭建ELK实时日志分析平台，那么，ELK到底是什么呢？ELK是三个开源项目的首字母缩写，这三个项目分别是：Elasticsearch、Logstash和Kibana。Elasticsearch是一个搜索和分析引擎。Logstash是服务器端数据处理管道，能够同时从多个来源采集数据，转换数据，然后将数据发送到诸如Elasticsearch等存储库中。Kibana则可以让用户在
分类：
其他好文 时间：
2020-08-28 11:57:17
阅读次数：
289
Nginx不像Apache那样自带rotatelogs进行日志的回滚，默认配置的日志文件会越来越大造成无法阅读，必须手动为Nginx配置日志回滚的方式。可以使用自定义脚本或是借助Linux自带的logrotate命令实现日志回滚。 脚本分割 脚本分割日志的方法比较容易理解，获取昨天的日期并将日志文件 ...
分类：
其他好文 时间：
2020-08-27 13:13:21
阅读次数：
59
##【最佳实践示例】LogstashJDBC实现ElasticSearch与关系型数据库PostgreSQL近实时同步在数据全文检索需求越来越大的今天，很多公司都在关系数据库数据的基础上，加上了ElasticSearch，来进行数据快速全文检索，所以ElasticSearch与关系型数据库数据进行数据同步就变的尤为重要。本文主要介绍PostgreSQL数据库通过Logstash-JDBC插件与El
分类：
数据库 时间：
2020-08-08 00:39:39
阅读次数：
103
环境： 原elasticsearch版本:6.5.0 目的elasticsearch 版本:7.4.0 1.下载logstash 我这里下载的是6.8.5版本 https://artifacts.elastic.co/downloads/logstash/logstash-6.8.5.tar.gz ...
分类：
其他好文 时间：
2020-08-06 20:41:31
阅读次数：
69
0、题记实际业务场景中，会遇到基础数据存在Mysql中，实时写入数据量比较大的情景。迁移至kafka是一种比较好的业务选型方案。而mysql写入kafka的选型方案有：方案一：logstash_output_kafka插件。方案二：kafka_connector。方案三：debezium插件。方案四：flume。方案五：其他类似方案。其中：debezium和flume是基于mysqlbinlog实
分类：
数据库 时间：
2020-08-01 12:38:39
阅读次数：
93
0、题记本文建立在干货|LogstashGrok数据结构化ETL实战上，并专注于在Grok中使用自定义正则表达式。有时Logstash没有我们需要的模式。幸运的是，我们有正则表达式库：Oniguruma。Oniguruma是一个灵活的正则表达式库。它包含多种语言的不同正则表达式实现的特性。Github地址：https://github.com/kkos/oniguruma1、基础再认知Logsta
分类：
其他好文 时间：
2020-07-31 01:08:58
阅读次数：
76
0、题记日志分析是ELK最常用、最核心业务场景之一。如果你正在使用ElasticStack并且正尝试将自定义Logstash日志映射到Elasticsearch，那么这篇文章适合你。Logstash写入ES之前的中间数据处理过程一般叫做：数据ETL或者数据清洗。本文重点介绍数据清洗环节的非结构数据转化为结构化数据的——Grok实现。1、认知前提老生常谈，夯实基础认知。ELKStack是三个开源项目
分类：
其他好文 时间：
2020-07-31 01:06:57
阅读次数：
77
