码迷,mamicode.com
首页 >  
搜索关键字:webhdfs    ( 15个结果
关于hadoop 1.2.1版本不支持“dfs.support.append”参数的解决办法
最近在测试hadoop+fluentd方案,但是fluentd日志收集系统,需要append功能选择,写日志到HDFS中,官方给出的解决方案是:修改hdfs-site.xml文件,增加如下行:<property> <name>dfs.webhdfs.enabled</name> <value>true</value> </property>..
分类:移动开发   时间:2014-12-25 18:49:44    阅读次数:750
利用开源日志收集软件fluentd收集日志到HDFS文件系统中
说明:本来研究开源日志的系统是flume,后来发现配置比较麻烦,网上搜索到fluentd也是开源的日志收集系统,配置简单多了,性能不错,所以就改研究这个东东了!官方主页,大家可以看看:fluentd.org,支持300+的plugins,应该是不错的!fluentd是通过hadoop中的webHDFS与HDFS进..
分类:其他好文   时间:2014-12-04 18:18:05    阅读次数:497
hadoop开启webHDFS服务及测试
WebHDFS观念是基于HTTP操作,比如GET、PUT、POST和DELETE。像OPEN、GETFILESTATUS、LISTSTATUS的操作是使用HTTPGET,其它的像CREAT、MKDIRS、RENAME、SETPERMISSION是依赖于HTTPPUT类型。APPEND操作时基于HTTPPOST类型,然而,DELETE是使用HTTPDELETE。在配置开源日志系统fluen..
分类:Web程序   时间:2014-12-03 19:38:02    阅读次数:845
利用CURL命令调用WebHDFS REST API与Kerberos机制
1. CURL安装 cURL是一个利用URL语法在命令行下工作的文件传输工具,1997年首次发行。它支持文件上传和下载,所以是综合传输工具,但按传统,习惯称cURL为下载工具。cURL还包含了用于程序开发的libcurl。CURL官方网站:http://curl.haxx.se/ 1.1 Linux安装 这个网上资料比较多,只要搜索“curl 安装 linux”就应该有不少介绍。 1....
分类:Windows程序   时间:2014-09-26 21:15:28    阅读次数:947
Hadoop 2.5.0新特性和改进
Apache Hadoop 2.5.0是一个在2.x.y发布线上的一个小版本,建立在之前稳定的发布版本2.4.1之上。 主要特性和改进: 1.      Common a)        使用HTTP代理服务器时认证改进。当通过代理服务器使用WebHDFS时这是非常有用的。 b)        增加了一个新的Hadoop指标监控sink,允许直接写到Graphite。 c)...
分类:其他好文   时间:2014-08-13 19:00:17    阅读次数:278
15条   上一页 1 2
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!