码迷,mamicode.com
首页 > Web开发 > 详细

flume基本使用

时间:2014-10-30 15:16:08      阅读:239      评论:0      收藏:0      [点我收藏+]

标签:style   blog   color   使用   for   sp   文件   数据   div   

1. 在 flume/conf下建一个example文件:将下面的配置信息写到example文件中

#配置agent1表示代理名称
agent1.sources=source1
agent1.sinks=sink1
agent1.channels=channel1

#配置source1
agent1.sources.source1.type=spooldir 
agent1.sources.source1.spoolDir=/usr/bigdata/flume/conf/test/hmbbs 
agent1.sources.source1.channels=channel1
agent1.sources.source1.fileHeader = false
agent1.sources.source1.interceptors = i1
agent1.sources.source1.interceptors.i1.type = timestamp

#配置sink1
agent1.sinks.sink1.type=hdfs 
agent1.sinks.sink1.hdfs.path=hdfs://hdp01:9000/flume/hmbbs
agent1.sinks.sink1.hdfs.fileType=DataStream
agent1.sinks.sink1.hdfs.writeFormat=TEXT
agent1.sinks.sink1.hdfs.rollInterval=1
agent1.sinks.sink1.channel=channel1
agent1.sinks.sink1.hdfs.filePrefix=%Y-%m-%d

#配置channel1
agent1.channels.channel1.type=file
agent1.channels.channel1.checkpointDir=/usr/bigdata/flume/conf/test/tmp123
agent1.channels.channel1.dataDirs=/usr/bigdata/flume/conf/test/tmp

2.启动:[root@hadoop0 flume]# bin/flume-ng agent -n agent1 -c conf -f conf/example -Dflume.root.logger=INFO,console

  .............log............

 

3.cp文件到 “agent1.sources.source1.spoolDir” ,然后到hdfs查看flume收集的数据文件.

 

 

 

 

flume基本使用

标签:style   blog   color   使用   for   sp   文件   数据   div   

原文地址:http://www.cnblogs.com/muzhongjiang/p/4062566.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!