本Hadoop与HBase集群有1台NameNode, 7台DataNode
1. /etc/hostname文件
NameNode:
node1
DataNode 1:
node2
DataNode 2:
node3
.......
DataNode 7:
node8
2. /etc/hosts文件
N...
分类：
其他好文 时间：
2014-05-10 04:55:08
阅读次数：
386
声明: 若要转载, 请标明出处.
前提: 在对于大量的数据导入到HBase中, 如果一条一条进行插入, 则太耗时了, 所以可以先采用MapReduce生成HFile文件, 然后使用BulkLoad导入HBase中.
引用:
一、这种方式有很多的优点：
1. 如果我们一次性入库hbase巨量数据，处理速度慢不说，还特别占用Region资源， 一个比较高效便捷的方法就是使用 “Bulk...
分类：
其他好文 时间：
2014-05-10 04:33:38
阅读次数：
513
1. Hadoop中遇到的问题
以前所遇到的问题由于没有记录,所以忘了
(1)NameNode没有启动成功, 是由于你对HDFS多次格式化,导致datanode中与namenode中的VERSION文件中的namespaceID不一致(对于NameNode节点,该文件位于hdfs-site配置文件中dfs.name.dir参数所指定的路径下的current文件夹中, 对于DataNode节点...
分类：
其他好文 时间：
2014-05-10 04:28:25
阅读次数：
475
HBase是一个类Bigtable系统，按照Google的论文对
Bigtable的定义是“一种稀疏的，分布式的，持久的多为维度的有序Map。这个Map由row key，column
key和timestamp做为索引，Map中的值是连续的byte数组”。HBase的多维度，包括table和colu...
分类：
其他好文 时间：
2014-05-10 00:30:36
阅读次数：
357
关于如何用kettle创建job以及如何部署kettle到linux上，我就不细说了，大家应该都会，下面重点说一下，如何让job执行起来先将创建好的脚本上传到kettle指定目录下面，创建调用job执行的脚本文件，exportJAVA_HOME=/usr/java/jre1.6.0_23
exportPATH=$JAVA_HOME/bin:$PATH
expor..
分类：
系统相关 时间：
2014-05-09 21:25:51
阅读次数：
521
hbase与传统关系数据库区别hbase适合于非结构化数据存储的数据库。介于Map Entry
和 DB row之间的一种数据存储方式。1. 数据类型：
HBase只有简单的字符串类型，它只保存字符串所有的类型都是交给用户自己处理。关系型数据库可以选择类型2. 数据操作： HBase操作只有很简单的...
分类：
数据库 时间：
2014-05-09 09:51:14
阅读次数：
444
http://wiki.apache.org/hadoop/Hbase/ThriftApi首先根据Hbase.thrift文件生成Python接口代码，Hbase.thrift在Hbase的源码中有，路径src/main/resources/org/apache/hadoop/hbase/thrif...
分类：
编程语言 时间：
2014-05-09 02:51:31
阅读次数：
344
通过excel进行快速开发报表：
建设思路：
1.首先制订相关的execl模板。
2.通过etl工具（kettle）可以快速的
将数据库中的数据按excel模板导出成新的excel即可。
其中kettle 按excel模板导出excel 可以参考：
http://type-exit.org/adventures-with-open-source-bi/2010/12/using...
分类：
其他好文 时间：
2014-05-09 01:22:42
阅读次数：
311
版本：cdh5.0.0+hadoop2.3.0+hbase0.96.1.1+Spoon5.0.1一、HBase数据导入HBase数据导入使用org.apache.hadoop.hbase.mapreduce.ImportTsv 的两种方式，一种是直接导入，一种是转换为HFile，然后再次导入。1. HDFS数据为（部分）：[root@node33 data]# hadoop fs -ls /inp...
分类：
其他好文 时间：
2014-05-09 00:25:48
阅读次数：
515
摘要：介绍Hadoop生态系统，从Hadoop生态系统有什么成员，成员能做什么和Hadoop生态系统能够提供大数据问题解决方案两方面来认识。关键词：Hadoop
HDFS MapReduce HBase Hive PigHadoop生态图，通俗地说，就是Hadoop核心模块和衍生的子项目。一幅Ha....
分类：
其他好文 时间：
2014-05-08 23:16:24
阅读次数：
387
