本文是参考logstash官方文档实践的笔记，搭建环境和所需组件如下：Redhat 5.7 64bit / CentOS 5.xJDK 1.6.0_45logstash 1.3.2 (内带kibana)elasticsearch 0.90.10redis 2.8.4搭建的集中式日志分析平台流程如下：...
分类：
其他好文 时间：
2014-07-29 21:48:12
阅读次数：
527
网上关于拨号流程的文章有很多，大多讲逻辑，本文从logcat输出的日志入手。分析通话流程，还原系统应用真实的调试场景。adb logcat -b main -b radio -v time >> call.log用如上adb命令将拨号至接通电话的日志输出。1-01 08:02:07.458 V/Ou...
分类：
移动开发 时间：
2014-07-25 19:14:12
阅读次数：
424
1.背景刚到一家公司需要写一个实时分析tshark捕捉到的数据，tshark一直往文本里面写数据，写一个程序要实时获取到添加的数据并进行分析处理最后入库。此时思绪狂飞，想了一些比较挫的方法。本人想到的方法:1.每隔一定时间去查看下文件的mtime，如果有改动则读取数据，并记录读..
分类：
编程语言 时间：
2014-07-23 21:20:06
阅读次数：
361
基本介绍程序开发者常常要分析程序日志，包括自己打印的日志及使用的其他软件打印的日志，如php,nginx日志等，linux环境下分析日志有一些内置命令能够使用，如grep,sort,uniq,awk等，当中最强大的是awk，是作为一门小巧的文本处理语言存在的，但由于它是一门语言，功能强大，但在命令行...
分类：
数据库 时间：
2014-07-22 22:39:55
阅读次数：
374
Apache日志不记录图片文件设置方法SetEnvIMAG 1CustomLog logs/access_log combined env=!IMAGApache日志，如果记录所有访问请求，文件会很大；如果使用日志分析软件，分析结果不一定准确。而且如果不安装cronolog工具来截断日志，会在一个整...
分类：
其他好文 时间：
2014-07-22 00:20:35
阅读次数：
397
1.下载spark和运行 wget?http://apache.fayea.com/apache-mirror/spark/spark-1.0.0/spark-1.0.0-bin-hadoop2.tgz 我这里下载的是1.0.0版,由于我们只是测试spark的用法所以不需要配置spark集群，只需把下好的文件...
分类：
Web程序 时间：
2014-07-21 10:21:45
阅读次数：
206
日志分析界面：logstash（分析端）+elashsearch（存储端）+kibana（展示端）工具：进行数据整理statsd1、diamond-->statsd-->graphite2、实时收集数据的做法：logstash-->statsd-->graphite日志收集可视化(LEK)：logstash+elasticsearch+kibanalegend:logstash--》..
分类：
其他好文 时间：
2014-07-20 23:38:43
阅读次数：
696
是不是经常要分析用户的行为？是不是经常遇到多台server上传的日志一起分析？是不是对数据统计的间隔时间要求非常短？还有木有由于日志文件过大，而须要分块处理？1、说明一点在日志写入的时候必须依照一种严格的格式，这样在做解析的时候，才好分割。比方 gameid：123 gameid：2333。分割统一...
分类：
数据库 时间：
2014-07-18 09:33:58
阅读次数：
337
最近几年日志分析这方面的人才需求越来越多，主要伴随数据挖掘的快速发展而迅速增长的。碰巧又在工作中又接触到一些日志记录方面的工作，就顺便了解一下日志系统的整个流程。下面这篇文章转自百度同学的一篇文章，针对大规模日志分析，联系到hadoop,hive的解决方案，阐述的比较全面。
另外就是阿里已经开发出类似的系统odps—通过sql语言进行数据的分析处理，详情见：http://102.alibab...
分类：
其他好文 时间：
2014-07-17 20:15:30
阅读次数：
301
nodejsnpminstall安装环境logstash日志分析，图形界面展示小的搜索引擎，图形界面展示ruby开发的工具，封装成java环境的jar包logstash分析读日志从后往前读实时elasticsearch存储kibana展示web页面java-jarlogstash-1.3.2-flatjar.jaragent-flogstash.conf--webhttp://192.168...
分类：
其他好文 时间：
2014-07-17 08:09:54
阅读次数：
441
