Spark计算速度远胜于Hadoop的原因之一就在于中间结果是缓存在内存而不是直接写入到disk，本文尝试分析Spark中存储子系统的构成，并以数据写入和数据读取为例，讲述清楚存储子系统中各部件的交互关系。
分类：
其他好文 时间：
2014-05-09 05:14:32
阅读次数：
405
http://wiki.apache.org/hadoop/Hbase/ThriftApi首先根据Hbase.thrift文件生成Python接口代码，Hbase.thrift在Hbase的源码中有，路径src/main/resources/org/apache/hadoop/hbase/thrif...
分类：
编程语言 时间：
2014-05-09 02:51:31
阅读次数：
344
http://blog.csdn.net/wangloveall/article/details/20767161摘要：介绍Hadoop全分布模式操作，实现真正意义上的集群架构。关键词：Hadoop
全分布模式 文件配置利用Hadoop解决大数据问题时，我们是用全分布模式来操作Hadoop。如何基于...
分类：
其他好文 时间：
2014-05-08 23:44:04
阅读次数：
354
摘要：HDFS是Hadoop的核心模块之一，围绕HDFS是什么、HDFS的设计思想和HDFS的体系结构三方面来介绍。关键词：Hadoop
HDFS 分布式存储系统HDFS是Hadoop的核心模块之一，HDFS是什么？它是Hadoop分布式文件系统（Hadoop Distributed File
S....
分类：
其他好文 时间：
2014-05-08 23:38:42
阅读次数：
412
http://blog.csdn.net/wangloveall/article/details/20195813摘要：本文介绍Hadoop伪分布模式操作，适合于Hadoop学习、开发和调试。关键词：Hadoop
伪分布式 文件配置启动Hadoop支持三种模式操作，分别是单机模式操作、伪分布模式.....
分类：
其他好文 时间：
2014-05-08 23:37:12
阅读次数：
419
1、架构准备： namenode 10.0.0.2 secondnamenode 10.0.0.3
datanode1 10.0.0.4 datanode2 10.0.0.6 datanode3
10.0.0.112、安装用户：cloud-user3、[namenode]namenod...
分类：
其他好文 时间：
2014-05-08 23:27:27
阅读次数：
693
摘要：介绍Hadoop生态系统，从Hadoop生态系统有什么成员，成员能做什么和Hadoop生态系统能够提供大数据问题解决方案两方面来认识。关键词：Hadoop
HDFS MapReduce HBase Hive PigHadoop生态图，通俗地说，就是Hadoop核心模块和衍生的子项目。一幅Ha....
分类：
其他好文 时间：
2014-05-08 23:16:24
阅读次数：
387
http://blog.csdn.net/wangloveall/article/details/21407531摘要：MapReduce是Hadoop的又一核心模块，从MapReduce是什么，MapReduce能做什么以及MapReduce的工作机制三方面认识MapReduce。关键词：Hado...
分类：
其他好文 时间：
2014-05-08 23:03:55
阅读次数：
270
org.apache.hadoop.mapred.JobTracker类是个独立的进程，有自己的main函数。JobTracker是在网络环境中提交及运行MR任务的核心位置。
main方法主要代码有两句：1 //创建jobTracker对象2 JobTracker t...
分类：
其他好文 时间：
2014-05-08 22:51:48
阅读次数：
368
