大家好。 公司有个需求。要求Flumne 从MQ 取消息存储到DFS ，写了Flume自定义的source 。，由于我也是刚接触Flume 。 所以有啥不对的请谅解。 查看了Flume-ng的源码。 一般都是根据不同的场景 extends AbstractSource implements Eve....
分类：
Web程序 时间：
2014-10-21 10:06:25
阅读次数：
593
http://blog.csdn.net/hijk139/article/details/8308224业务系统需要收集监控系统日志，想到了hadoop的flume。经过试验，虽说功能不算足够强大，但基本上能够满足功能需求。Flume 是一个分布式、可靠和高可用的服务日志收集工具，能够和hadoop...
分类：
Web程序 时间：
2014-10-20 17:10:35
阅读次数：
333
目录写在前面nhibernate文档搭建项目映射文件持久化类辅助类数据库设计与连接配置测试总结写在前面一年前刚来这家公司，发现项目中使用的ORM是Nhibernate，这个之前确实没接触过，EF多少在项目中用过，想着既然都是ORM，应该语法上都差不多。当时也就是硬着头皮上的，刚开始也只能通过模仿别人...
分类：
Web程序 时间：
2014-10-18 13:46:33
阅读次数：
512
Hadoop日志分析系统启动脚本
#!/bin/bash
#Flume日志数据的根目录
root_path=/flume
#Mapreduce处理后的数据目录
process_path=/process
#hive分区时间
partition=`date "+%Y-%m-%d"`
#获取前一小时的时间:/YYYY-MM-DD/HH
file_path=`date -d "1 hour ...
分类：
其他好文 时间：
2014-10-16 19:41:13
阅读次数：
202
apache-flume-1.5.0.1-bin.tar.gz日志接收端1.修改配置文件cp flume-conf.properties.template flume-conf.propertiesvim flume-conf.propertiescollector1.sources = AvroI...
分类：
Web程序 时间：
2014-10-15 23:13:11
阅读次数：
271
最近项目组有需求点击流日志需要自己收集，学习了一下flume并且安装成功了。相关信息记录一下。...
分类：
Web程序 时间：
2014-10-15 20:14:11
阅读次数：
227
解决办法： 在每个新建的类的第一行加入以下内容即可/* * Licensed to the Apache Software Foundation (ASF) under one * or more contributor license agreements. See the NOTICE fi.....
分类：
Web程序 时间：
2014-10-15 13:06:10
阅读次数：
519
SparkStreaming是一个对实时数据流进行高通量、容错处理的流式处理系统，可以对多种数据源（如Kdfka、Flume、Twitter、Zero和TCP 套接字）进行类似map、reduce、join、window等复杂操作，并将结果保存到外部文件系统、数据库或应用到实时仪表盘。Spark S...
分类：
Web程序 时间：
2014-10-13 22:30:37
阅读次数：
500
转载自51CTO http://developer.51cto.com/art/200906/129914.htm Hibernate支持第三方的连接池，官方推荐的连接池是C3P0,Proxool,以及DBCP。在Hibernate连接池配置时需要注意的有三点： 一、Apche的DBCP在Hiber...
分类：
编程语言 时间：
2014-10-13 12:40:09
阅读次数：
266
在Flume中使用Event对象来作为传递数据的格式，在flume-ng-core子项目中的org.apache.flume.serialization包下，有一个名为LineDeserializer的类，这个类负责把数据按行来读取，每一行封装成一个Event（实现方式：按字节读取，当遇到"\n.....
分类：
Web程序 时间：
2014-10-11 12:26:35
阅读次数：
416
