码迷,mamicode.com
首页 >  
搜索关键字:flume 日志管理    ( 1788个结果
【HDFS】HDFS的整体架构设计,阅读笔记
以上是该命令的选项 [root@com22 bin]# sh hdfs fsck /flume/events/2015/03/02/13 -racks Connecting to namenode via http://com22.authentication:50070 FSCK started by root (auth:SIMPLE) from /192.168.11.177 fo...
分类:其他好文   时间:2015-03-05 17:10:00    阅读次数:120
oracle归档日志管理
归档日志(Archive Log)是非活动的重做日志备份.通过使用归档日志,可以保留所有重做历史记录,当数据库处于ARCHIVELOG模式并进行日志切换式,后台进程ARCH会将重做日志的内容保存到归档日志中.当数据库出现介质失败时,使用数据文件备份,归档日志和重做日志可以完全恢复数据库.日志操作模式...
分类:数据库   时间:2015-03-05 10:29:23    阅读次数:177
一款关于应用程序框架的.NET开源项目--HYAppFrame
HYAppFrame致力于应用程序框架的研究,为开发者提供一套可用于实际项目的框架工具,开发者不再需要过多关注系统布局、数据库操作、权限设计、组织架构、日志管理、文件管理、工作流等,可将主要精力放在业务表单的设计与开发上。 基于HYAppFrame进行软件开发,开发者可有效缩短软件开发周期、提高开发...
分类:移动开发   时间:2015-03-05 09:10:50    阅读次数:214
【Flume】flume输出sink到hbase的实现
flume 1.5.2 hbase 0.98.9 hadoop 2.6 zk 3.4.6 以上是基础的软件及对应版本,请先确认以上软件安装成功! 1、添加jar包支持 将hbase的lib下的这些jar包拷贝到flume的lib下 2、配置flume 注意看以上的serializer配置,采用的是官方的RegexHbaseEventSerializer, ...
分类:Web程序   时间:2015-03-04 11:05:56    阅读次数:258
flume transaction实现
flume作为日志收集端,其本质上也是一个生产者消费者结构,source作为消息的producer,sink作为消息的consumer,中间的channel作消息的存储为了保证消息消费的正确性,flume使用了事务的机制,主要涉及的类:1)org.apache.flume.Transaction接口类,为访问channel提供事务的功..
分类:Web程序   时间:2015-03-04 06:22:18    阅读次数:282
flume channel monitor实现
对于flume的监控,只需要监控channel的性能数据即可,source和sink的性能一部分可以从channel中表现出来。以MemoryChannel为例,在MemoryTransaction的构造函数中会实例化一个org.apache.flume.instrumentation.ChannelCounter对象publicMemoryTransaction(inttransCapacity,Ch..
分类:Web程序   时间:2015-03-04 06:22:07    阅读次数:250
flume SinkProcessor 相关类实现分析
org.apache.flume.SinkProcessor扩展了LifecycleAware,Configurable接口的接口类,操作多个sink的抽象层(类似于proxy),用来分配给SinkRunner对象抽象方法:process和Sink的process方法类似(内部实现增加了选择Sink的功能)setSinks设置sinks具体实现类:org.apache.flume.s..
分类:Web程序   时间:2015-03-04 06:18:28    阅读次数:206
Ngnix的日志管理和用定时任务完成日志切割
一、日志管理 先来看看ngnix的配置文件的server段 接下来我们解释一下默认格式的具体意思 #log_format main '$remote_addr(远程IP) - $remote_user(远程用户) [$time_local](访问时间) "$request"(请求方式...
分类:其他好文   时间:2015-03-04 00:51:34    阅读次数:237
Data Collection with Apache Flume(三)
最后提及两个agent。首先第一个是使用一个avro souce和一个avro sink向另一个agent传递event,然后再写入特定目录。 先看看配置代码。 agent6.sources = avrosource //定义avrosource,可以使用avro client在网络上向其传...
分类:Web程序   时间:2015-03-02 12:33:12    阅读次数:191
Flume-NG之KafkaChannel
apache下一个版本(1.6)将会带来一个新的组件KafKaChannel,顾名思义就是使用kafka做channel,当然在CDH5.3版本已经存在这个channel。 大伙知道,常用的channel主要有三个: 1、memory channel:用内存做channel,优点是速度最快,...
分类:Web程序   时间:2015-03-01 19:38:20    阅读次数:238
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!