Flume数据传输事务分析
本文基于ThriftSource,MemoryChannel,HdfsSink三个组件,对Flume数据传输的事务进行分析,如果使用的是其他组件,Flume事务具体的处理方式将会不同。一般情况下,用MemoryChannel就好了,我们公司用的就是这个,FileChannel速度慢,虽然提供日志级别的数据恢复,但是一般情况下,不断电MemoryChannel是不会...
分类:
其他好文 时间:
2014-09-30 17:11:59
阅读次数:
187
四横即四大层次,分别为:
1、用户渠道层:用户渠道层是直接面向最终用户。通过网站的形式向用户提供产品展示、企业市场宣传、对产品的订购、互动分享、客户关怀以及用户中心入口等功能,并提供后期扩展移动终端接入;
2、应用业务层:该层面向的是系统管理人员。
为系统管理人员提供系统的整体管理,包括产品管理、企业管理、栏目管理、交易管理、信息管理、用户管理、统计分析、客户管理和日志管理。
以及对平...
分类:
其他好文 时间:
2014-09-30 02:25:11
阅读次数:
276
配置好项目之后,Apache,MySQL等会产生日志,为了方便管理,将其按照一定的间隔时间进行转储1.Apache日志在配置文件中加入以下两句:CustomLog"|/usr/sbin/rotatelogs/var/log/httpd/access-80.log.%Y%m%d86400540"combinedErrorLog"|/usr/sbin/rotatelogs/var/log/httpd/error..
分类:
系统相关 时间:
2014-09-29 18:02:01
阅读次数:
356
TheQuestErrorManager(QEM)isaframeworkthatwillhelpyoustandardizethemanagementoferrorsinaPL/SQL-basedapplication.WithQEM,youcanregister,raiseandreportonerrorsthroughanAPIthatmakesiteasyforalldeveloperstoperformerrormanagementinthesameway,withaminimumamountofe..
分类:
数据库 时间:
2014-09-29 17:14:22
阅读次数:
211
Mysql学习之--Mysql二进制日志管理简介:MySQL的二进制日志可以说或是MySQL最重要的日志了,它记录了所有的DDL和DML(除了数据查询语句)语句,以事件形式记录,还包含语句所执行的消耗的时间,MySQL的二进制日志是失误安全型的.MySQL的二进制日志的作用是显而易见的,可以方便的备份..
分类:
数据库 时间:
2014-09-29 04:07:17
阅读次数:
423
最近在用Flume做数据的收集。用到了里面的Spooldir的源在使用中有如下的问题:如果文件的某一行有乱码,不符合指定的编码规范,那么flume会抛出一个exception,然后就停在那儿了。spooldir指定的文件夹中的文件一旦被修改,flume就会抛出一个exception,然后停在那儿了。...
分类:
其他好文 时间:
2014-09-26 19:21:18
阅读次数:
220
由于tomcat默认的日志文件不会启动分割,catalina.out文件的不断扩大,导致系统磁盘空间边变小,而且管理也难于管理,所以想用一种工具来分割它。为了管理的方便性,分割日志使每天的日志保存成单个文件,方便日志管理。本文使用cronolog工具。安装过程如下:1.下载(最新版本..
分类:
系统相关 时间:
2014-09-24 20:01:38
阅读次数:
394
Spring AOP
1.对AOP的理解 —— 分工来做各个部分,运行时候整合的思想
2.理解 面向过程,面向对象,面向切面 的思想
1)面向过程:房间装修时,准备装一个灯,就拉一根电线,连接灯。
2)面向对象:设计房间中哪些位置需要使用电线接口,然后在相应的位置设置电线接口,以备以后使用。
3)面向切...
分类:
编程语言 时间:
2014-09-24 19:58:47
阅读次数:
338
尽管互联网高速发展,互联网软件也随之越来越多,但桌面应用程序在某些领域中还是不可替代,如MIS,ERP,CRM等软件产品,同时,这类软件均包括一些通用的功能,如:与数据库操作,日志管理,权限管理等
本框架指在解决这些问题,并将通用的功能抽离并实现.使在开发过程中,将更多的精力放在业务逻辑
Hadoop是云计算的事实标准软件框架,是云计算理念、机制和商业化的具体实现,是整个云计算技术学习中公认的核心和最具有价值内容。如何从企业级开发实战的角度开始,在实际企业级动手操作中深入浅出并循序渐进的掌握Hadoop是本课程的核心。云计算学习者的心声:如何从企业级开发的角度,不断动手实际操作,循序...
分类:
移动开发 时间:
2014-09-13 18:34:35
阅读次数:
300