码迷,mamicode.com
首页 > 其他好文 > 详细

HBase预分区

时间:2018-07-29 18:56:35      阅读:232      评论:0      收藏:0      [点我收藏+]

标签:oop   jsp   back   default   hdf   http   key   cat   border   

hbase建表时,支持预分区,在shell中操作:

hbase(main):033:0> create ‘t1‘,‘f1‘,SPLITS => [‘10‘,‘20‘,‘30‘]
hbase(main):027:0> put ‘t1‘,‘5‘,‘f1:c1‘,‘1‘
0 row(s) in 0.0280 seconds

hbase(main):028:0> put ‘t1‘,‘20‘,‘f1:c1‘,‘1‘
0 row(s) in 0.1480 seconds

hbase(main):029:0> put ‘t1‘,‘40‘,‘f1:c1‘,‘1‘
0 row(s) in 0.0100 seconds

需要注意的是,表t1建立4个分区:[min,‘10‘),[‘10‘,‘20‘),[‘20‘,‘30‘),[‘30‘,max)

插入数据之后,数据可能还在内存,没有刷到hdfs,做下操作:

hbase(main):031:0> flush ‘t1‘
0 row(s) in 1.5330 seconds

从hbase管理界面查看数据文件:

Region Name Start Key End Key
t1,,1532848759672.8c4fb6c5fb9a52427a88dddc958bc6f4.   10
t1,10,1532848759672.3b114bc4a078c6593e495ffacda71d8e. 10 20
t1,20,1532848759672.398dc734620ed289ad7b2a03a33d8d5b. 20 30
t1,30,1532848759672.607dc0ffac9721c6ded846550ee418d6. 30  

查看hdfs上t1的region如下:

drwxr-xr-x   - hbase hbase          0 2018-07-29 16:13 /hbase/data/default/t1/398dc734620ed289ad7b2a03a33d8d5b
drwxr-xr-x   - hbase hbase          0 2018-07-29 15:19 /hbase/data/default/t1/3b114bc4a078c6593e495ffacda71d8e
drwxr-xr-x   - hbase hbase          0 2018-07-29 16:13 /hbase/data/default/t1/607dc0ffac9721c6ded846550ee418d6
drwxr-xr-x   - hbase hbase          0 2018-07-29 15:19 /hbase/data/default/t1/8c4fb6c5fb9a52427a88dddc958bc6f4

查看其中一个region的f1列族的HFile文件信息如下:

-rw-r--r--   3 hbase hbase       1034 2018-07-29 16:13 /hbase/data/default/t1/607dc0ffac9721c6ded846550ee418d6/f1/952bedb2b2f34dd9a2ff131202916475

刚刚插入了3条数据,那么这3条数据在些文件里面呢,需要记住的是hbase种rowkey按照字典序排列的,是字典序!,所以刚刚3条数据,rowkey=‘5‘和rowkey=‘40‘在最后一个分区,rowkey=‘20‘的在倒数第二个分区,特别容易误以为rowkey=‘5‘的落在了第一个分区,第一个分区只会存rowkey为‘00‘,‘000‘,‘01000‘.....这样的

还有一点主意的地方,如果对表truncate了,之后就没有预分区!

hbase(main):034:0> truncate ‘t1‘
Truncating ‘t1‘ table (it may take a while):
 - Disabling table...
 - Truncating table...
0 row(s) in 3.6830 seconds

hbase(main):035:0> flush ‘t1‘

查看hdfs:

hadoop fs -ls /hbase/data/default/t1/
drwxr-xr-x   - hbase hbase          0 2018-07-29 17:38 /hbase/data/default/t1/6aed5d65799dda34b869a61c1f81159f

 

HBase预分区

标签:oop   jsp   back   default   hdf   http   key   cat   border   

原文地址:https://www.cnblogs.com/darange/p/9386079.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!