一、说说前因后果elasticsearch,kafka,zookeeper,kibana,elasticsearch-head,logstash，logstash是需要经常重启的，你上了点过滤规则或者修改点啥的，每次都尼玛杀进程，再nohup，还看不到日志，这太不符合人性了，人性的优点之一就是懒惰。打开web界面，点一下鼠标解决问题岂不是棒棒哒，还能通过web界面看看后台日志，故而用supervi
分类：
其他好文 时间：
2020-04-01 11:08:17
阅读次数：
74
本文目的是根据前文的博文，打造一个Hadoop、Sprak的服务器闭环。也是经验归纳。 版本信息 CentOS: Linux localhost.localdomain 3.10.0-862.el7.x86_64 #1 SMP Fri Apr 20 16:44:24 UTC 2018 x86_64 ...
分类：
Web程序 时间：
2020-03-31 19:24:58
阅读次数：
204
通过上文 Window7 开发 Spark 应用 ,展示了如何开发一个Spark应用，但文中使用的测试数据都是自己手动录入的。 所以本文讲解一下如何搭建一个开发闭环，本里使用了Nginx日志采集分析为例，分析页面访问最多的10个,404页面的10。 如果把这些开发成果最终展示到一个web网页中，在这 ...
一、日志收集端 1、nginx:nginx-1.16.1.tar.gz 为了kibana收集nginx日志获取字段，先将日志转化为json格式。格式样式如下： log_format access_json '{"@timestamp":"$time_iso8601",' '"host":"$serv ...
分类：
其他好文 时间：
2020-03-31 12:16:39
阅读次数：
95
对于更难发现的问题，rsyslog具有集成的调试支持。通常，这不是发现配置问题所必需的，而是用来寻找程序或插件错误的。但是，在许多情况下，事实证明调试日志对于发现配置问题很有帮助。 一个快速指南可以在这里找到。 支持的信号 SIGUSR1-打开和关闭调试消息。请注意，要使此信号起作用，rsyslog ...
分类：
其他好文 时间：
2020-03-30 11:06:43
阅读次数：
120
mysql到es的全量更新方案可以通过 logstash来实现 logstash可以做基于全量的定时更新，也可以做基于时间的定时更新。 logstash的使用方式如下（本人用的是logstash-7.6.1,不同版本在使用上应该有细微区别,区别百度可解决） 1.https://artifacts.e ...
分类：
数据库 时间：
2020-03-29 16:39:49
阅读次数：
262
日志系统架构图 软件版本： filebeat 7.5.1 elasticsearch 7.5.1 logstash 7.5.1 kibana 7.5.1 redis 5.0.8 主机： system：Centos 7.7 host IP: 192.168.1.105 安装 elasticsearch ...
分类：
其他好文 时间：
2020-03-27 20:02:51
阅读次数：
93
原理 使用filebeat来上传日志数据，logstash进行日志收集与处理，elasticsearch作为日志存储与搜索引擎，最后使用kibana展现日志的可视化输出。所以不难发现，日志解析主要还是logstash做的事情。 从上图中可以看到，logstash主要包含三大模块： INPUTS: 收 ...
分类：
其他好文 时间：
2020-03-27 11:07:58
阅读次数：
212
logstash 是什么。 个人理解。就3个东西 输入input，输出output，过滤转换filter。 其中input可有有多种类型来源：beat网络传入，jdbc数据库查询来源，file来源文件。 什么时候用什么场景用。 因为logstash内存、cpu消耗非常大。所以每个机器上安装它去采集信 ...
分类：
其他好文 时间：
2020-03-26 12:26:47
阅读次数：
88
一、logstash结合kafka收集系统日志和nginx日志 架构图： 环境准备： A主机：kibana、elasticsearch，有条件可以将两个服务器分开：192.168.7.100 B主机：logstash主机:192.168.7.101/nginx服务器也在此主机上 C主机：logsta ...
分类：
其他好文 时间：
2020-03-23 09:48:02
阅读次数：
54
