码迷,mamicode.com
首页 > 其他好文 > 详细

rowkey设计原则

时间:2019-09-10 11:36:07      阅读:117      评论:0      收藏:0      [点我收藏+]

标签:数据   str   最大   size   影响   hbase   效率   alt   哈希   

rowkey是什么?

rowkey相当于mysql、orcale中的主键,用于标识唯一的行,是完全由用户指定的一串不重复的字符串,hbase的数据永远都是根据rowkey的字典顺序排序的。

Rowkey的作用

1)读写数据时通过rowkey找到对应region;2)MenStore中数据按rowkey排序;3)HFile中数据按rowkey排序。

rowkey对region的影响:

hbase的表数据是根据rowkey划分到不同的region,不合理的rowkey会导致热点问题。热点问题就是大量的Client直接访问集群上的某一个节点雄极少数节点,而其它节点却处于空闲状态。如果某个region的访问频率过高,会影响这个region所在机器的其他region。

rowkey设计技巧

1)Salting(加盐):rowkey前面加随机数,使它和之前的排序不同。

2)Hashing:把rowkey哈希后,将哈希后的部分字符当成rowkey的头部和原来的rowkey进行拼接。

3)Reversing:反转一段固定长度和全部的键作为rowkey。(适用于,数据太分散,但rowkey后面的字符相同,如url,后缀均为.com)

rowkey长度:

rowkey可以是任意的字符串,最大长度为64k,建议越短越好。

1)数据储存到HFile是按key-value存储的,如果rowkey过长,会影响HFile的存储效率。

2)MenStore会存储部分数据到内存,如果rowkey过长,内存利用率就会下降,系统不能存储更多的数据,还会降低检索效率。

rowkey设计原则

标签:数据   str   最大   size   影响   hbase   效率   alt   哈希   

原文地址:https://www.cnblogs.com/ww5566/p/11496455.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!