基于上一篇文章http://blog.csdn.net/simonchi/article/details/42520193 相对比较细致的分析后，该文章将对LoadBalancingSinkProcessor源码进行选择性的重要逻辑代码进行讲解
首先读取配置，当然是重写congifure方法
public void configure(Context context) {
Preco...
分类：
数据库 时间：
2015-01-12 17:36:36
阅读次数：
239
大数据实践：ODI和Twitter(二) 在前面的文章中，我们已经使用flume将数据从twitter抓取到Hive中，现在我们来看看ODI（Oracle Data Integrator）如何在HIVE表中进行逆向工程，打开HIVE模型，然后在逆向工程中选择“新的数据存储”及待逆向的对象，如下： ....
分类：
其他好文 时间：
2015-01-12 00:08:37
阅读次数：
249
测试环境Linux 2.6.18nginx-1.0.4http://www.nginx.org/php-5.3.6http://www.php.net/一，安装Nginxwget http://nginx.org/download/nginx-1.0.4.tar.gztar -zxvf nginx-...
分类：
Web程序 时间：
2015-01-09 09:08:17
阅读次数：
206
FailoverSinkProcessor顾名思义是flume中sink输出容错的处理器
继承自AbstractSinkProcessor
先看下整体源码
/**
* Licensed to the Apache Software Foundation (ASF) under one
* or more contributor license agreements. See the N...
分类：
Web程序 时间：
2015-01-08 11:24:31
阅读次数：
234
flume的负载均衡即每次按照一定的算法选择sink输出到指定地方，如果在文件输出量很大的情况下，负载均衡还是很有必要的，通过多个通道输出缓解输出压力
flume内置的负载均衡的算法默认是round robin，轮询算法，按序选择
下面看一下具体实例：
# Name the components on this agent
a1.sources = r1
a1.sinks = k1 k2...
分类：
Web程序 时间：
2015-01-07 18:57:13
阅读次数：
236
关于failover网上也有很多例子，但是看到的有多重做法，个人觉得，本着职责单一的原则
1、一台机子运行一个flume agent
2、一个agent 的下游sink指向一个flume agent，不要一个flume agent配置多个端口【影响性能】
下面看具体实例：
首先是flumet agent client的配置
priority越高，优先级越高，会优先使用该sink...
分类：
Web程序 时间：
2015-01-07 16:53:24
阅读次数：
220
如图所示，新建一个JAVA工程，编辑pom文件，pom文件内容如下【这里取出了parent】：
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http:/...
分类：
移动开发 时间：
2015-01-07 13:13:02
阅读次数：
759
文章发自http://www.cnblogs.com/hark0623/p/4205756.html 转载请注明flume越用越有一些疑惑，这个月中按计划是要阅读flume源码的，我希望能解决我的疑惑，另外，当疑惑解决后，我也会把过程和结论发到博客中，最终会把链接更新至当前帖子中的，疑惑如下：1、通...
分类：
Web程序 时间：
2015-01-06 13:33:59
阅读次数：
154
2014年12月总结：这月1号新工作开始了我的大数据之旅，从.NET转向Hadoop。工作期间遇到了解决的没有解决的有各种坑，不过好在算是把整套业务给搭建了下来。大体使用的技术及流程如下：mosquittio->flume agent->flume collector->sparkstreaming...
分类：
其他好文 时间：
2014-12-31 22:50:23
阅读次数：
208
文章来自：http://www.cnblogs.com/hark0623/p/4196381.html 转载请注明需要在你的脚本前面添加nohub，后边添加&。例如下面的脚本：nohup ./flume_client.sh &nohup的作用：当你的SecureCRT会话关闭后，保证你的脚本还在Li...
分类：
其他好文 时间：
2014-12-31 20:00:06
阅读次数：
147
