标签:第一个 三层 单元 可靠 hdfs href 系统 结构 https
本篇Hbase组件基于CDH5进行安装,安装过程:https://www.cnblogs.com/dmjx/p/10037066.html
HBase是一个高可靠、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价的PC Server上搭建大规模结构化存储集群。
HBase中的每一张表就是所谓的BigTable。BigTable会存储一系列的行记录,行记录有三个基本类型的定义:
Table在行的方向上分割为多个HRegion,每个HRegion分散在不同的RegionServer中。 每个HRegion由多个Store构成,每个Store由一个MemStore和0或多个StoreFile组成,StoreFile以HFile格式存储在HDFS中。
memstore和storefile
从HBase的架构图上可以看出,HBase中的存储包括HMaster、HRegionSever、HRegion、HLog、Store、MemStore、StoreFile、HFile等,以下是HBase存储架构图:
HMaster的作用:
Hmaster进程负责管理所有HRegionserver。新Regionserver的注册,Regionserver Failover处理;
负责建表、修改表、删除表以及一些集群操作
Master进程负责所有Region的转移操作,新表创建时的Region分配,运行期间负载均衡保障,Regionserver Failover后的Region接管
Master进程可以有主备角色。集群可以配置多个master角色,集群启动时这些master角色通过竞争获得主master角色。主master只能有一个,所有备master进程在集群运行期间处于休眠状态,不干涉任何集群事务。
HRegionServer的作用:
维护HMaster分配给它的HRegion,处理对这些HRegion的IO请求
负责切分正在运行过程中变得过大的HRegion
Hregion:
Table在行的方向上分割为多个HRegion,HRegion是HBase中分布式存储和负载均衡的最小单元,即不同的HRegion可以分别在不同的HRegionServer上,但同一个HRegion是不会拆分到多个HRegionServer上的。HRegion按大小分割,每个表一般只有一个HRegion,随着数据不断插入表,HRegion不断增大,当HRegion的某个列簇达到一个阀值(默认256M)时就会分成两个新的HRegion。
Store:
每一个HRegion由一个或多个Store组成,至少是一个Store,HBase会把一起访问的数据放在一个Store里面,即为每个ColumnFamily建一个Store,如果有几个ColumnFamily,也就有几个Store。一个Store由一个MemStore和0或者多个StoreFile组成。 HBase以Store的大小来判断是否需要切分HRegion。
MemStore:
StoreFile:
MemStore内存中的数据写到文件后就是StoreFile,StoreFile底层是以HFile的格式保存。
Hfile:
HBase中KeyValue数据的存储格式,是Hadoop的二进制格式文件。 首先HFile文件是不定长的,长度固定的只有其中的两块:Trailer和FileInfo。(flush之后或者是memstore到达一定数量之后,生成的文件就是Hfile)
HLog :
HLog(WAL log):WAL意为write ahead log,用来做灾难恢复使用,HLog记录数据的所有变更,一旦region server 宕机,就可以从log中进行恢复。
LogFlusher :
定期的将缓存中信息写入到日志文件中
1. client访问Zookeeper,查找-ROOT-表,获取.META.表信息。
2. 从.META.表查找,获取存放目标数据的HRegion信息,从而找到对应的HRegionServer。
3. 通过HRegionServer获取需要查找的数据。
4. HRegionserver的内存分为MemStore和BlockCache两部分,MemStore主要用于写数据,BlockCache主要用于读数据。读请求先到MemStore中查数据,查不到就到BlockCache中查,再查不到就会到StoreFile上读,并把读的结果放入BlockCache。
标签:第一个 三层 单元 可靠 hdfs href 系统 结构 https
原文地址:https://www.cnblogs.com/dmjx/p/10173596.html