日志系统架构图 软件版本: filebeat 7.5.1 elasticsearch 7.5.1 logstash 7.5.1 kibana 7.5.1 redis 5.0.8 主机: system:Centos 7.7 host IP: 192.168.1.105 安装 elasticsearch ...
分类:
其他好文 时间:
2020-03-27 20:02:51
阅读次数:
93
原理 使用filebeat来上传日志数据,logstash进行日志收集与处理,elasticsearch作为日志存储与搜索引擎,最后使用kibana展现日志的可视化输出。所以不难发现,日志解析主要还是logstash做的事情。 从上图中可以看到,logstash主要包含三大模块: INPUTS: 收 ...
分类:
其他好文 时间:
2020-03-27 11:07:58
阅读次数:
212
logstash 是什么。 个人理解。就3个东西 输入input,输出output,过滤转换filter。 其中input可有有多种类型来源:beat网络传入,jdbc数据库查询来源,file来源文件。 什么时候用什么场景用。 因为logstash内存、cpu消耗非常大。所以每个机器上安装它去采集信 ...
分类:
其他好文 时间:
2020-03-26 12:26:47
阅读次数:
88
1、代码管理-->主要开源方案有gitlab、gerrit+repo、gogs 2、任务执行-->jenkins 3、自动化测试-->python 4、构件存储-->hdfs、nexus 5、日志管理-->ELK 6、部署工具-->ansible 7、系统集群高可用-->k8s 8、监控-->zab ...
分类:
其他好文 时间:
2020-03-26 01:39:44
阅读次数:
193
有时候我们需要监控一些网络上的变化,但是每次去刷新网页却又很麻烦,而且大部分刷新的时候网页并没有更新。那么有没有一个工具,可以监控网页变化,并将变化的结果推送到手机微信上呢? 这里有很多应用场景,比如前一段时间很火的工具来监控JD、TB等口罩是否有货的状态、还有就是刷票、抢课、监听网页便也变化、爬虫 ...
分类:
微信 时间:
2020-03-24 14:34:19
阅读次数:
120
某天发现项目的kibana网页莫名其妙访问不了了 进入linux系统发现kibana进程没了,于是开始重启,发现重启的极其慢 进入控制台,发现索引报了一个错 Index lifecycle error cluster_block_exception: index [java-error-log-pe ...
分类:
其他好文 时间:
2020-03-23 18:33:57
阅读次数:
151
一、logstash结合kafka收集系统日志和nginx日志 架构图: 环境准备: A主机:kibana、elasticsearch,有条件可以将两个服务器分开:192.168.7.100 B主机:logstash主机:192.168.7.101/nginx服务器也在此主机上 C主机:logsta ...
分类:
其他好文 时间:
2020-03-23 09:48:02
阅读次数:
54
一、zookeeper介绍: ZooKeeper是一个分布式且开源的分布式应用程序协调服务。 zookeeper集群特性:整个集群种只要有超过集群数量一半的zookeeper工作只正常的,那么整个集群对外就是可用的,假如有2台服务器做了一个zookeeper集群,只要有任何一台故障或宕机,那么这个z ...
分类:
其他好文 时间:
2020-03-23 09:36:42
阅读次数:
73