码迷,mamicode.com
首页 >  
搜索关键字:flume hdfs sink lzo 格式压缩    ( 6349个结果
Hadoop配置项整理(hdfs-site.xml)
namevalueDescriptiondfs.default.chunk.view.size32768namenode的http访问页面中针对每个文件的内容显示大小,通常无需设置。dfs.datanode.du.reserved1073741824每块磁盘所保留的空间大小,需要设置一些,主要是给非...
分类:其他好文   时间:2014-09-24 13:11:26    阅读次数:175
比較Swift与HDFS话Ceph本质(by quqi99)
作者:张华 发表于:2014-06-21版权声明:能够随意转载,转载时请务必以超链接形式标明文章原始出处和作者信息及本版权声明(http://blog.csdn.net/quqi99 ) 作者将又一次研究ceph, 先温习一下之前作者大半年前发表在openstack中国社区的一篇理论文章(http:...
分类:编程语言   时间:2014-09-23 21:08:55    阅读次数:886
Hadoop学习之SecondaryNameNode
在启动Hadoop时,NameNode节点上会默认启动一个SecondaryNameNode进程,使用JSP命令可以查看到。SecondaryNameNode光从字面上理解,很容易让人认为是NameNode的热备进程。其实不是,SecondaryNameNode是HDFS架构中的一个组成部分。它并不...
分类:其他好文   时间:2014-09-23 00:54:43    阅读次数:273
hadoop 学习笔记:mapreduce框架详解(转 http://www.cnblogs.com/sharpxiajun/p/3151395.html)
开始聊mapreduce,mapreduce是hadoop的计算框架,我学hadoop是从hive开始入手,再到hdfs,当我学习hdfs时候,就感觉到hdfs和mapreduce关系的紧密。这个可能是我做技术研究的思路有关,我开始学习某一套技术总是想着这套技术到底能干什么,只有当我真正理解了这套....
分类:Web程序   时间:2014-09-22 20:46:13    阅读次数:286
hadoop shell 操作命令
shell操作命令:hdfs的路径,在core-site.xml中定义fs.default.namehdfs://master.hadoop:9000 master.hadoop namenode主机名用/ 代替当前绝对路径hadoop fs -ls / 查看hdfs的根目录下的内容hadoop ....
分类:其他好文   时间:2014-09-22 18:45:42    阅读次数:161
Hadoop日记Day7---HDFS的WED端口
HDFS 对外提供了可供访问的http server,开放了很多端口,下面介绍常用的几个端口(http://hadoop:……)。一、50070 端口,查看NameNode 状态,如图1.1所示。图 1.1该端口的定义位于core-default.xml 中,如图1.2所示,读者可以在core-si...
分类:其他好文   时间:2014-09-21 11:04:30    阅读次数:261
关于hbase的read操作的深入研究 region到storefile过程
这里面说的read既包括get,也包括scan,实际底层来看这两个操作也是一样的。我们将要讨论的是,当我们从一张表读取数据的时候hbase到底是怎么处理的。分二种情况来看,第一种就是表刚创建,所有put的数据还在memstore中,并没有刷新到hdfs上;第二种情况是,该store已经进行多次的fl...
分类:其他好文   时间:2014-09-21 00:08:49    阅读次数:623
HDFS 文件操作
hdfs 文件操作...
分类:其他好文   时间:2014-09-20 19:01:39    阅读次数:151
Hadoop日记Day9---HDFS的java访问接口
一、搭建Hadoop 开发环境 我们在工作中写完的各种代码是在服务器中运行的,HDFS 的操作代码也不例外。在开发阶段,我们使用windows 下的eclipse 作为开发环境,访问运行在虚拟机中的HDFS。也就是通过在本地的eclipse 中的java 代码访问远程linux 中的hdfs。要使....
分类:编程语言   时间:2014-09-20 17:17:39    阅读次数:271
Hdoop日记Day10---RPC机制
一、RPC(Remote Procedure Call)简介 RPC 是远程过程调用(Remote Procedure Call),即远程调用其他虚拟机中运行的javaobject。RPC 是一种客户端/服务器模式,那么在使用时包括服务端代码和客户端代码,还有我们调用的远程过程对象。HDFS 的运行...
分类:其他好文   时间:2014-09-20 13:30:18    阅读次数:194
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!