公司ELK系统目前的设置是每月自动将日志信息记录至新的索引中,将日志数据按月分索引保存,在扩展的ELK架构中,利Logstash对接rabbitmq,获取日志消息,自动持久化至Elasticsearch。而Elasticsearch存在一个关键问题就是索引的设置及字段的属性指定,最常见的问题就是,某 ...
分类:
其他好文 时间:
2016-12-05 16:56:59
阅读次数:
233
上面的两张图是elk的一个架构 下面是对logstash分析:如下图 可以看出 logstash的一个角色shipper,(是通过配置文件来决定logstash是shipper还是indexer)注意:logstash共有两个角色一个是shipper,另一个是indexer shipper:是日志收 ...
分类:
其他好文 时间:
2016-12-04 19:35:02
阅读次数:
183
Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)kibana也是一个开..
分类:
其他好文 时间:
2016-12-03 02:39:30
阅读次数:
337
******************理论部分*****************前言:在数据为王的时代,日志管理是一个绕不开的话题,相应的开源软件有不少,比如热门的三件套:Logstash、ElasticSearch、Kibana,虽然功能强大,但是配置复杂。相比较而言,rsyslog更容易快速上手。Rsyslog:rsyslog是一款自由..
分类:
数据库 时间:
2016-12-02 03:48:38
阅读次数:
334
一、概述Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个开源的用于收集,分析和存储日志的工具。Kibana也是一个开源和免费的工具,Kibana可以为Logstash..
分类:
其他好文 时间:
2016-12-01 22:51:11
阅读次数:
450
查看配置文件是否有问题: 在output->elasticsearch下增加一个index配置: 再次简测配置文件: 启动并在后台执行: ...
分类:
其他好文 时间:
2016-12-01 14:13:20
阅读次数:
503
从geoip字段取location的longitude字段 [geoip][location][0] 支持变量内插 "the longitude is %{[geoip][location][0]}" grok表达式: 普通正则:\s+ (?<request_time>\d+(?\.\d+)?)\s ...
分类:
其他好文 时间:
2016-12-01 13:46:21
阅读次数:
130
ElasticSearch存储和搜索LogStash对日志收集Kibana展示
分类:
其他好文 时间:
2016-11-30 23:20:34
阅读次数:
195
LogStash 本身并不维护队列。这里,需要熟练使用本节说的测试方法,针对自己的每一段配置,都确定其性能。LogStash 给自己的线程都设置了单独的线程名称,你可以在 top -H 结果中查看具体线程的负载情况。 摘至:http://udn.yyuap.com/doc/logstash-best ...
分类:
其他好文 时间:
2016-11-30 17:25:02
阅读次数:
138
本文介绍了如何使用成熟的经典架构ELK(即Elastic search,Logstash和Kibana)构建分布式日志监控系统,很多公司采用该架构构建分布式日志系统,包括新浪微博,freewheel,畅捷通等。 背景日志,对每个系统来说,都是很重要,又很容易被忽视的部分。日志里记录了程序执行的关键信 ...
分类:
其他好文 时间:
2016-11-30 14:35:05
阅读次数:
247