前言：通常情况下，我们将Kafka的日志数据通过logstash订阅输出到ES，然后用Kibana来做可视化分析，这就是我们通常用的ELK日志分析模式。但是基于ELK的日志分析，通常比较常用的是实时分析，日志存个十天半个月都会删掉。那么在一些情况下，我需要将日志数据也存一份到我HDFS，..
分类：
其他好文 时间：
2016-07-06 18:47:15
阅读次数：
850
https://github.com/elastic/beats-dashboards一、介绍filebeat貌似功能笔logstash更好，是下一代的日志收集器。topbeat定期收集系统信息如每个进程信息、负载、内存、磁盘等等，然后将数据发送到elasticsearch进行索引。packetbeat可以分析某个时间段mysql或者mongodb的慢查询..
分类：
其他好文 时间：
2016-07-06 18:37:49
阅读次数：
288
今天给大家带来的是开源实时日志分析ELK,ELK由ElasticSearch、Logstash和Kiabana三个开源工具组成。官方网站：https://www.elastic.co其中的3个软件是：Elasticsearch是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格..
分类：
其他好文 时间：
2016-07-03 23:38:44
阅读次数：
364
Logstash是一个应用程序日志、事件的传输、处理、管理和搜索的平台。你可以用它来统一对应用程序日志进行收集管理，提供Web接口用于查询和统计。Logstash配置要求Logstash支持Java1.7版本以上。启动Logstash[root@Server01bin]#./logstash-e‘input{stdin{}}output{stdout{}}‘
S..
分类：
其他好文 时间：
2016-07-01 16:35:45
阅读次数：
131
装完elk跑起来之后，我的内心几乎是崩溃的，16G内存16核cpu还经常报错。一、logstash和elasticsearch同时报错logstash出现大量报错，可能是es占用heap太多，没有优化es导致的retryingfailedactionwithresponsecode:503{:level=>:warn}toomanyattemptsatsendingevent.droppin..
分类：
其他好文 时间：
2016-06-30 14:40:01
阅读次数：
540
前段时间用ossec收集了一些系统的日志(syslog、secure、maillog等)，看了下elk这个架构，发现很适合ossec，也很好玩。介绍：elk官网https://www.elastic.co/downloadselk由elasticSearch、logstash和kiabana三个开源工具组成。ossec+redis+elk架构图：ossec：事件源、alert源re..
分类：
其他好文 时间：
2016-06-29 15:58:22
阅读次数：
516
ELKstack简介：ELKstack是Elasticsearch、Logstash、Kibana三个开源软件的组合而成，形成一款强大的实时日志收集展示系统。各组件作用如下：Logstash：日志收集工具，可以从本地磁盘，网络服务（自己监听端口，接受用户日志），消息队列中收集各种各样的日志，然后进行过滤分析..
分类：
其他好文 时间：
2016-06-28 18:49:57
阅读次数：
457
一应用场景描述现在我需要向50+数量的服务器分发Logstash新版本的rpm包，大概220MB左右，直接使用Ansible的copy命令进行传输，命令如下：ansibleall-mcopy-a"src=/opt/software/logstash/logstash-agent-2.3.3-fb.centos6.x86_64.rpmdest=/opt/software/logstash"在执行的过程..
分类：
其他好文 时间：
2016-06-27 00:08:28
阅读次数：
358
一、nginx访问日志，格式调整为json#cat/opt/config/tengine/nginx.conf|grepjsonlog_formatjson‘{"@timestamp":"$time_iso8601",‘‘"host":"$server_addr",‘‘"method":"$request_method",‘‘"url":"$request",‘‘"clientip":"$http_x_forwarded_for",‘‘"protocol":"$server_proto..
分类：
其他好文 时间：
2016-06-24 20:49:08
阅读次数：
250
如题，先来张最终效果运营日报下面介绍下实现过程【前期准备】kibana配置视图，并做好条件过滤视图，这里就是做介绍，可以参考博文，视图做好后生成一个短链接，这里我们生成的是http://10.0.0.110:5601/goto/4d641c075d7cbf2c7d70a82b164367691、安装配置PhantomJS#yum-yinsta..
分类：
Web程序 时间：
2016-06-23 19:11:39
阅读次数：
535
