依赖: <dependencies> <dependency> <groupId>org.apache.hbase</groupId> <artifactId>hbase-server</artifactId> <version>1.3.6</version> </dependency> <depe ...
分类:
编程语言 时间:
2019-12-20 11:33:52
阅读次数:
80
分类: 1. 关系型数据库:mysql oracle sqlserver sqllite 2. 非关系型数据库:redis mongodb memcache hbase 安装: 1. 网址:https://www.mysql.com 2. 点击download跳转https://www.mysql. ...
分类:
数据库 时间:
2019-12-19 21:19:47
阅读次数:
77
背景:对于其他数据存储系统来说,统计表的行数是再基本不过的操作了,一般实现都非常简单;但对于HBase这种key-value存储结构的列式数据库,统计 RowCount 的方法却有好几种不同的花样,并且执行效率差别巨大!下面来研究下吧~ 测试集群:HBase1.2.0 - CDH5.13.0 四台服 ...
分类:
其他好文 时间:
2019-12-19 21:05:25
阅读次数:
127
继续上一篇hadoop的安装。一、安装zookooper1、解压zookoopertar-zxfvzookeeper-3.3.6.tar.gz2、修改配置:cpzookeeper/conf/zoo_sample.cfgzoo.cfgThenumberofmillisecondsofeachticktickTime=2000Thenumberofticksthattheinitialsynchron
分类:
其他好文 时间:
2019-12-18 11:07:30
阅读次数:
180
目标:搭建hadoop+hbase+zoopkeer+hive开发环境安装环境:1、centeros192.168.1.1012、centeros192.168.1.102开发环境:window+eclipse一、安装hadoop集群1、配置hosts#vi/etc/hosts192.168.1.101master192.168.1.101slave12、关闭防火墙:systemctlstatus
分类:
其他好文 时间:
2019-12-18 10:52:49
阅读次数:
80
sqoop import -D sqoop.hbase.add.row.key=true //是否将rowkey相关字段列入列族中,默认为false ;该参数必须在import之后 --connect jdbc:mysql://120.27.208.185/bigdatatest //连接mysql ...
分类:
数据库 时间:
2019-12-17 15:29:30
阅读次数:
118
Hbase启动出问题 2019-12-15 09:59:57,183 WARN [hadoop:16000.activeMasterManager] hdfs.DFSClient: DFS Read org.apache.hadoop.hdfs.BlockMissingException: Coul ...
分类:
其他好文 时间:
2019-12-15 23:53:26
阅读次数:
859
一.初始化环境 1.安装zookeeper环境并启动 2.安装hadoop环境并启动 3.准备三台服务器搭建Hbase集群 二.下载安装包 下载地址: http://archive.apache.org/dist/hbase/2.0.0/hbase-2.0.0-bin.tar.gz 三.搭建集群环境 ...
分类:
其他好文 时间:
2019-12-15 20:26:23
阅读次数:
96
Sqoop (sqoop.apache.org)工具是hadoop环境下连接关系数据库,和hadoop存储系统的桥梁,支持多种关系数据源和hive,hdfs,hbase的相互导入。一般情况下,关系数据表存在于线上环境的备份环境,需要每天进行数据导入,根据每天的数据量而言,sqoop可以全表导入,对于 ...
分类:
其他好文 时间:
2019-12-15 16:13:22
阅读次数:
82