码迷,mamicode.com
首页 >  
搜索关键字:flume hdfssink    ( 1092个结果
【Flume】自定义sink kafka,并编译打包jar,unapproval license的问题解决
如图所示,新建一个JAVA工程,编辑pom文件,pom文件内容如下【这里取出了parent】: <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http:/...
分类:移动开发   时间:2015-01-07 13:13:02    阅读次数:759
关于flume中的几个疑惑
文章发自http://www.cnblogs.com/hark0623/p/4205756.html 转载请注明flume越用越有一些疑惑,这个月中按计划是要阅读flume源码的,我希望能解决我的疑惑,另外,当疑惑解决后,我也会把过程和结论发到博客中,最终会把链接更新至当前帖子中的,疑惑如下:1、通...
分类:Web程序   时间:2015-01-06 13:33:59    阅读次数:154
2014年12月总结和2014年1月计划
2014年12月总结:这月1号新工作开始了我的大数据之旅,从.NET转向Hadoop。工作期间遇到了解决的没有解决的有各种坑,不过好在算是把整套业务给搭建了下来。大体使用的技术及流程如下:mosquittio->flume agent->flume collector->sparkstreaming...
分类:其他好文   时间:2014-12-31 22:50:23    阅读次数:208
如何后台执行脚本程序?
文章来自:http://www.cnblogs.com/hark0623/p/4196381.html 转载请注明需要在你的脚本前面添加nohub,后边添加&。例如下面的脚本:nohup ./flume_client.sh &nohup的作用:当你的SecureCRT会话关闭后,保证你的脚本还在Li...
分类:其他好文   时间:2014-12-31 20:00:06    阅读次数:147
flume-ng-taildirectory-source 修改调试可用
由于flume-ng至1.5版本仍旧没有稳定可用的类似flume-og中的taildir的功能,所以从git中https://github.com/jinoos/flume-ng-extends找了一个别人针对flume-ng实现的的taildir这个按照github上他自己说明,是没法正常使用的。...
分类:Web程序   时间:2014-12-29 18:07:39    阅读次数:219
org.apache.flume.FlumeException: NettyAvroRpcClient { host: xxx.xxx.xxx.xxx, port: 41100 }: RPC
2014-12-19 01:05:42,141 (lifecycleSupervisor-1-1) [WARN - org.apache.flume.sink.AbstractRpcSink.start(AbstractRpcSink.java:294)] Unable to create Rpc ...
分类:Web程序   时间:2014-12-20 09:16:07    阅读次数:461
CDH中flume是已经启动着了…
文章来自:http://www.cnblogs.com/hark0623/p/4174646.html 转发请注明在CDH中用了几天flume后才发现,原来CDH中的flume默认是启动的…………我还自己去启动flume呢。。怪不得监听端口时告诉我端口已被占用了呢。
分类:Web程序   时间:2014-12-19 20:40:43    阅读次数:170
flume与Mosquitto的集成
文章来自:http://www.cnblogs.com/hark0623/p/4173714.html 转发请注明因业务需求,需要flume收集MQTT(Mosquitto)的数据。 方法就是flume自定义source,source中来订阅(subscribe)MQTTflume source的j...
分类:Web程序   时间:2014-12-19 14:22:28    阅读次数:269
分享一下spark streaming与flume集成的scala代码。
object LogicHandle { def main(args: Array[String]) { //添加这个不会报执行错误 val path = new File(".").getCanonicalPath() System.getProperties().put("h...
分类:Web程序   时间:2014-12-18 20:32:51    阅读次数:255
cdh环境下,spark streaming与flume的集成问题总结
如何做集成,其实特别简单,网上其实就是教程。http://blog.csdn.net/fighting_one_piece/article/details/40667035 看这里就成。 我用的是第一种集成。。做的时候,出现了各种问题。 大概从从2014.12.17 早晨5点搞到2014.12.1....
分类:Web程序   时间:2014-12-17 20:39:08    阅读次数:241
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!