问题如下:1.FileBeat日志报 "dial tcp 127.0.0.1:5544: connectex: No connection could be made because the target machine actively refused it"解决过程:A:修改FileBeat文件 ...
分类:
Windows程序 时间:
2017-12-12 21:34:26
阅读次数:
1131
安装流程: 稍后补充 参考内容:http://udn.yyuap.com/thread-54591-1-1.html ; https://www.cnblogs.com/yanbinliu/p/6208626.html 在搭建测试过程中遇到以下问题:1.FileBeat日志报 "dial tcp 1 ...
1:项目技术架构图: 2:流程图解析,整体流程如下: ETL即hive查询的sql; 但是,由于本案例的前提是处理海量数据,因而,流程中各环节所使用的技术则跟传统BI完全不同: 1) 数据采集:定制开发采集程序,或使用开源框架FLUME 2) 数据预处理:定制开发mapreduce程序运行于hado ...
分类:
Web程序 时间:
2017-12-09 23:50:23
阅读次数:
262
AWStats是使用Perl语言开发的一款开源日志分析系统,不仅可以用来分析Apache网站日志,也可以用来分析Samba、Vsftpd、IIS等服务的日志信息。结合crond等任务计划服务,可以对不断增长的日志内容定期进行分析
分类:
Web程序 时间:
2017-12-09 11:05:00
阅读次数:
314
1.确认apache已经安装:netstat-utpln|grep802.下载与解压:lftpftp.linuxyy.cn-->cdtools-->getawstats-7.3.tar.gztarzxvfawstats-7.3.tar.gzmvawstats-7.3/usr/local/awstats3.配置awstats:cd/usr/local/awstats/toolschmod+x./*./awstats_configure.pl#####开始配置#..
分类:
其他好文 时间:
2017-11-14 15:32:13
阅读次数:
168
Elasticsearch日志分析系统 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任。 一.什么是Elasticsearch 一个采用Restful API标准的高扩展性的和高可用性的实时数据分析的全文搜索工具。高扩展性体现在Elasticsearch添加节点非常简单,基本新的节点 ...
分类:
其他好文 时间:
2017-10-28 01:07:15
阅读次数:
492
随着项目越来越庞大,日志的数量也随之增多,游戏上线后的日志量肯定更多了,所以对日志的收集、分析、展示分析结果就非常重要了,开源界第一日志分析系统ELK必不可少。 ELK = Elasticsearch + Logstash(从ElasticSearch读取数据进行展示) + Kibana (从Ela ...
分类:
其他好文 时间:
2017-10-18 20:54:37
阅读次数:
428
架构如下,logstash-agent---->redis---->logstash-server----->elasticsearch---->kibana需求:想收集多个log文件,例如/var/log/messages,/var/log/logstash/logstash.err两个日志文件;logstashinput和output如何写,input{file{path=>"/var/log/messages"ty..
分类:
其他好文 时间:
2017-09-20 16:37:08
阅读次数:
186
一、简介Logstash是开源的服务器端数据处理管道,能够同时从多个来源采集数据、转换数据,然后将数据发送到您最喜欢的“存储库”中。(我们的存储库当然是Elasticsearch。)可以用三个词来概括Logstash:集中、转换和存储数据输入采集各种样式、大小和来源的数据数据往往以各种..
分类:
其他好文 时间:
2017-09-16 18:51:12
阅读次数:
177
转自:http://467754239.blog.51cto.com/4878013/1700828/一、简介1、核心组成ELK由Elasticsearch、Logstash和Kibana三部分组件组成;Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自..
分类:
其他好文 时间:
2017-09-06 00:43:38
阅读次数:
252