搭建ELK日志分析平台的详细过程 日志分析系统-ELK平台 由于日志文件都离散的存储在各个服务实例的文件系统之上，仅仅通过查看日志文件来分析我们的请求链路依然是一件相当麻烦的差事。 ELK平台，它可以轻松的帮助我们来收集和存储这些跟踪日志，同时在需要的时候我们也可以根据Trace ID来轻松地搜索出 ...
分类：
其他好文 时间：
2020-05-08 22:46:01
阅读次数：
109
ELK架构日志处理逻辑：1、业务层Filebeat安装时会自动获取主机运行站点域名及环境信息新增channel及env标签，并将channel的值作为kafka的topic信息2、Kafka收到Filebeat的新增字段及Topic信息，自动创建Topic信息，以等待logstash消费3、Logstash根据脚本自动生成input及output配置这里的topic一定和filebeat的chan
分类：
其他好文 时间：
2020-05-05 21:56:19
阅读次数：
81
ELK是由 Elasticsearch、Logstash和Kibana 三部分组件组成。 Elasticsearch 是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。 Logstash 是一个完全开源的工具， ...
分类：
其他好文 时间：
2020-05-04 21:07:14
阅读次数：
72
一、日志按照指定格式解析拆分message https://blog.csdn.net/weixin_33883178/article/details/90588556?utm_medium=distribute.pc_relevant.none-task-blog-OPENSEARCH-1&dep ...
分类：
其他好文 时间：
2020-05-03 16:44:03
阅读次数：
50
1、现象： 今天下午公司客户群里突然报警，说订单没有推送服务商，经排查发现是rabbitmq堵住了，查询elk和监控没有发现业务异常或超时日志。 通过rabbitmq后面发现一个队列有异常，队列不ack，未消费数量一直增长，怀疑服务假死，只能保留现场，重启服务，下面是服务重启前后队列截图 2、分析 ...
分类：
其他好文 时间：
2020-04-30 22:58:35
阅读次数：
185
ELK 官网： https://www.elastic.co/cn/what-is/elk-stack ElasticSearch ElasticSearch 是一个高可用开源全文检索和分析组件。提供存储服务，搜索服务，大数据准实时分析等。一般用于提供一些提供复杂搜索的应用 基本概念： Index ...
分类：
其他好文 时间：
2020-04-29 23:46:04
阅读次数：
71
原文:将日志输出到Docker容器外1.1 使用 Docker 容器日志 我们可以利用 docker logs 命令查看 Docker 容器内部应用程序运行时所产生的日志，可以免除首先进入 Docker 容器，再打开应用程序的日志文件的过程。docker logs 会监控容器中操作系统的标准输出设备... ...
分类：
其他好文 时间：
2020-04-29 21:38:30
阅读次数：
124
背景 作为中国最大的在线教育站点，目前沪江日志服务的用户包含网校，交易，金融，CCTalk 等多个部门的多个产品的日志搜索分析业务，每日产生的各类日志有好十几种，每天处理约10亿条（1TB）日志，热数据保留最近7天数据，冷数据永久保存。 为什么做日志系统 首先，什么是日志？ 日志就是程序产生的，遵循 ...
分类：
其他好文 时间：
2020-04-29 10:30:59
阅读次数：
96
1、logstash简介? logstash是一个数据分析软件，主要目的是分析log日志。整一套软件可以当作一个MVC模型，logstash是controller层，Elasticsearch是一个model层，kibana是view层。首先将数据传给logstash，它将数据进行过滤和格式化（转成... ...
分类：
其他好文 时间：
2020-04-24 01:35:41
阅读次数：
57
1、_cluster接口命令heakth: 集群健康状况：state: 查看集群节点：stats: 统计数据； 部分截图查看单个节点状况：[root@node1 ~]# curl -X GET 'http://node1:9200/_nodes/stats?pretty'2、Plugins(插件)插... ...
分类：
其他好文 时间：
2020-04-21 23:43:07
阅读次数：
91
