一、说说前因后果elasticsearch,kafka,zookeeper,kibana,elasticsearch-head,logstash，logstash是需要经常重启的，你上了点过滤规则或者修改点啥的，每次都尼玛杀进程，再nohup，还看不到日志，这太不符合人性了，人性的优点之一就是懒惰。打开web界面，点一下鼠标解决问题岂不是棒棒哒，还能通过web界面看看后台日志，故而用supervi
分类：
其他好文 时间：
2020-04-01 11:08:17
阅读次数：
74
1.三个节点 2.安装包 3.安装JDK-12版本 在/etc/profile添加环境变量 [root@node3 ~]# source /etc/profile cat >>/etc/profile <EOF export JAVA_HOME=/usr/java/jdk-12.0.1export ...
分类：
其他好文 时间：
2020-04-01 10:41:45
阅读次数：
54
一、日志收集端 1、nginx:nginx-1.16.1.tar.gz 为了kibana收集nginx日志获取字段，先将日志转化为json格式。格式样式如下： log_format access_json '{"@timestamp":"$time_iso8601",' '"host":"$serv ...
分类：
其他好文 时间：
2020-03-31 12:16:39
阅读次数：
95
日志系统架构图 软件版本： filebeat 7.5.1 elasticsearch 7.5.1 logstash 7.5.1 kibana 7.5.1 redis 5.0.8 主机： system：Centos 7.7 host IP: 192.168.1.105 安装 elasticsearch ...
分类：
其他好文 时间：
2020-03-27 20:02:51
阅读次数：
93
原理 使用filebeat来上传日志数据，logstash进行日志收集与处理，elasticsearch作为日志存储与搜索引擎，最后使用kibana展现日志的可视化输出。所以不难发现，日志解析主要还是logstash做的事情。 从上图中可以看到，logstash主要包含三大模块： INPUTS: 收 ...
分类：
其他好文 时间：
2020-03-27 11:07:58
阅读次数：
212
logstash 是什么。 个人理解。就3个东西 输入input，输出output，过滤转换filter。 其中input可有有多种类型来源：beat网络传入，jdbc数据库查询来源，file来源文件。 什么时候用什么场景用。 因为logstash内存、cpu消耗非常大。所以每个机器上安装它去采集信 ...
分类：
其他好文 时间：
2020-03-26 12:26:47
阅读次数：
88
1、代码管理-->主要开源方案有gitlab、gerrit+repo、gogs 2、任务执行-->jenkins 3、自动化测试-->python 4、构件存储-->hdfs、nexus 5、日志管理-->ELK 6、部署工具-->ansible 7、系统集群高可用-->k8s 8、监控-->zab ...
分类：
其他好文 时间：
2020-03-26 01:39:44
阅读次数：
193
有时候我们需要监控一些网络上的变化，但是每次去刷新网页却又很麻烦，而且大部分刷新的时候网页并没有更新。那么有没有一个工具，可以监控网页变化，并将变化的结果推送到手机微信上呢？ 这里有很多应用场景，比如前一段时间很火的工具来监控JD、TB等口罩是否有货的状态、还有就是刷票、抢课、监听网页便也变化、爬虫 ...
分类：
微信 时间：
2020-03-24 14:34:19
阅读次数：
120
某天发现项目的kibana网页莫名其妙访问不了了 进入linux系统发现kibana进程没了，于是开始重启，发现重启的极其慢 进入控制台，发现索引报了一个错 Index lifecycle error cluster_block_exception: index [java-error-log-pe ...
分类：
其他好文 时间：
2020-03-23 18:33:57
阅读次数：
151
