以上是该命令的选项
[root@com22 bin]# sh hdfs fsck /flume/events/2015/03/02/13 -racks
Connecting to namenode via http://com22.authentication:50070
FSCK started by root (auth:SIMPLE) from /192.168.11.177 fo...
分类:
其他好文 时间:
2015-03-05 17:10:00
阅读次数:
120
归档日志(Archive Log)是非活动的重做日志备份.通过使用归档日志,可以保留所有重做历史记录,当数据库处于ARCHIVELOG模式并进行日志切换式,后台进程ARCH会将重做日志的内容保存到归档日志中.当数据库出现介质失败时,使用数据文件备份,归档日志和重做日志可以完全恢复数据库.日志操作模式...
分类:
数据库 时间:
2015-03-05 10:29:23
阅读次数:
177
HYAppFrame致力于应用程序框架的研究,为开发者提供一套可用于实际项目的框架工具,开发者不再需要过多关注系统布局、数据库操作、权限设计、组织架构、日志管理、文件管理、工作流等,可将主要精力放在业务表单的设计与开发上。 基于HYAppFrame进行软件开发,开发者可有效缩短软件开发周期、提高开发...
分类:
移动开发 时间:
2015-03-05 09:10:50
阅读次数:
214
flume 1.5.2
hbase 0.98.9
hadoop 2.6
zk 3.4.6
以上是基础的软件及对应版本,请先确认以上软件安装成功!
1、添加jar包支持
将hbase的lib下的这些jar包拷贝到flume的lib下
2、配置flume
注意看以上的serializer配置,采用的是官方的RegexHbaseEventSerializer,
...
分类:
Web程序 时间:
2015-03-04 11:05:56
阅读次数:
258
flume作为日志收集端,其本质上也是一个生产者消费者结构,source作为消息的producer,sink作为消息的consumer,中间的channel作消息的存储为了保证消息消费的正确性,flume使用了事务的机制,主要涉及的类:1)org.apache.flume.Transaction接口类,为访问channel提供事务的功..
分类:
Web程序 时间:
2015-03-04 06:22:18
阅读次数:
282
对于flume的监控,只需要监控channel的性能数据即可,source和sink的性能一部分可以从channel中表现出来。以MemoryChannel为例,在MemoryTransaction的构造函数中会实例化一个org.apache.flume.instrumentation.ChannelCounter对象publicMemoryTransaction(inttransCapacity,Ch..
分类:
Web程序 时间:
2015-03-04 06:22:07
阅读次数:
250
org.apache.flume.SinkProcessor扩展了LifecycleAware,Configurable接口的接口类,操作多个sink的抽象层(类似于proxy),用来分配给SinkRunner对象抽象方法:process和Sink的process方法类似(内部实现增加了选择Sink的功能)setSinks设置sinks具体实现类:org.apache.flume.s..
分类:
Web程序 时间:
2015-03-04 06:18:28
阅读次数:
206
一、日志管理 先来看看ngnix的配置文件的server段 接下来我们解释一下默认格式的具体意思 #log_format main '$remote_addr(远程IP) - $remote_user(远程用户) [$time_local](访问时间) "$request"(请求方式...
分类:
其他好文 时间:
2015-03-04 00:51:34
阅读次数:
237
最后提及两个agent。首先第一个是使用一个avro souce和一个avro sink向另一个agent传递event,然后再写入特定目录。 先看看配置代码。 agent6.sources = avrosource //定义avrosource,可以使用avro client在网络上向其传...
分类:
Web程序 时间:
2015-03-02 12:33:12
阅读次数:
191
apache下一个版本(1.6)将会带来一个新的组件KafKaChannel,顾名思义就是使用kafka做channel,当然在CDH5.3版本已经存在这个channel。 大伙知道,常用的channel主要有三个: 1、memory channel:用内存做channel,优点是速度最快,...
分类:
Web程序 时间:
2015-03-01 19:38:20
阅读次数:
238