目录: 一、什么是Flume? 1)flume的特点 2)flume的可靠性 3)flume的可恢复性 4)flume 的 一些核心概念 二、flume的官方网站在哪里? 三、在哪里下载? 四、如何安装? 五、flume的案例 1)案例1:Avro 2)...
分类:
其他好文 时间:
2014-08-10 21:12:21
阅读次数:
495
mysql日志管理mysql的日志分为如下几类: 1.错误日志 1.1记录服务器启动和关闭过程中的信息 1.2记录服务器运行过程中的错误信息. 1.3记录事件调度器运行一个事件时产生的信息. 1.4在从服务器上启动从服务器进程时产生的信息. |log_error|/usr/local/mysql/data/idc131.err|..
分类:
数据库 时间:
2014-08-09 11:50:28
阅读次数:
505
splunk是什么?面向云的日志搜索引擎,是一款功能强大的日志管理软件。不仅支持通过多种方式添加本地或远程日志,而且能够产生图形化报表。最强大的功能是其搜索功能——因此被称为"GoogleforIT".功能特性:1、支持多平台安装2、任意源获取任意数据3、从远程系统中得到转发数据..
分类:
其他好文 时间:
2014-08-07 07:29:40
阅读次数:
488
收集:各种开源的分布式日志收集系统:Scribe, Flume等等存储可以同时包含各种不同的存储类型,可根据不同的需求增减相应的存储类型:底层存储:能够存储大量的数据,最好具有可扩展性 HDFS S3等等关系存储:MySQL,Postgresql等等键值存储:HBase,Redis等等计算计算能力也...
分类:
其他好文 时间:
2014-07-30 09:48:23
阅读次数:
213
Exception in thread "SinkRunner-PollingRunner-DefaultSinkProcessor" java.lang.OutOfMemoryError 最近总是被这个错误爆,终于找到了解决方法。 maxOpenFile 默认 5000 , 调到500后错误不在出现。 详见下面j...
分类:
其他好文 时间:
2014-07-30 01:09:53
阅读次数:
247
本日志由系统自动生成。
从7月14日起便按照心想事成的节奏进入了实验室。打酱油。周末又去学活值班,生活的框架还是很不错的。
1、基于Hadoop的Flume,zooKeeper,这些东西算是明白了个大概。
2、第一周大概学习了javascript、jquery、css、ci框架(php)这些基本的东...
分类:
其他好文 时间:
2014-07-30 00:41:42
阅读次数:
279
1、下载 http://www.apache.org/dist/flume/stable/下载最新的tar.gz包即可2、解压tar -zxvf ....3、配置环境变量FLUME_HOME和PATH记得执行source /etc/profile4、添加一个简单的测试案例a、在conf目录下新建一个...
分类:
其他好文 时间:
2014-07-28 15:07:43
阅读次数:
170
Flume简介
Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。
系统功能
日志收集
Flume最早是Cloud...
分类:
其他好文 时间:
2014-07-28 14:41:13
阅读次数:
491
Log4j 经过几年的发展之后,终于迎来了它的姊妹版本。...
分类:
其他好文 时间:
2014-07-21 13:15:36
阅读次数:
213