介绍 hbase架构主要由hmaster,zookeeper和regionserver三部分构成,底层数据存储在hdfs中 hmaster master的功能主要是协调region server,监测region server状态,实现region负载均衡。允许有多个master节点,使用zooke ...
分类:
其他好文 时间:
2018-10-24 00:57:45
阅读次数:
151
一. HBase的通用优化 1 高可用 在 HBase 中 Hmaster 负责监控 RegionServer 的生命周期,均衡 RegionServer 的负载,如果 Hmaster 挂掉了,那么整个 HBase 集群将陷入不健康的状态,并且此时的工作状态并不会维持太久。所以 HBase 支持对 ...
分类:
其他好文 时间:
2018-08-25 14:02:07
阅读次数:
173
hbase.tmp.dir:本地文件系统的临时目录,默认是java.io.tmpdir/hbase?java.io.tmpdir/hbase?{user.name}; hbase.rootdir:hbase持久化的目录,被所有regionserver共享,默认${hbase.tmp.dir}/hba ...
分类:
其他好文 时间:
2018-07-27 12:13:07
阅读次数:
162
介绍 coprocessor这个单词看起来很神秘,直译为协处理器,其实可以理解成依赖于regionserver进程的辅助处理接口。 hbae在0.92版本之后提供了coprocessor接口。目前hbase支持两种coprocessor,endpoint和observer。hbase在未来版本可能考 ...
分类:
其他好文 时间:
2018-07-03 12:03:41
阅读次数:
187
最近遇到一个比较诡异的问题,一个regionserver由于GC的原因,导致与zookeeper链接超时,最终被踢出集群。但是,接下来的现象,才是噩梦的开始!!!
分类:
其他好文 时间:
2018-06-01 16:18:56
阅读次数:
640
先来一张大图。 Hbase上Regionserver的内存分为两个部分,一部分作为Memstore,主要用来写;另外一部分作为BlockCache,主要用于读数据;这里主要介绍写数据的部分,即Memstore。当RegionServer(RS)收到写请求的时候(writerequest),RS会将请 ...
分类:
其他好文 时间:
2018-05-17 16:54:20
阅读次数:
311
各位,哪位大神帮忙看一下,cdh5.9.2环境中hbase中的regionserver服务没过一段时间就会down
本人已经确认不是时间同步问题,
下面是具体的regionserver日志信息
分类:
系统相关 时间:
2018-05-07 23:49:34
阅读次数:
471
WAL(Write-Ahead Logging)是数据库系统中保障原子性和持久性的技术,通过使用WAL可以将数据的随机写入变为顺序写入,可以提高数据写入的性能。在hbase中写入数据时,会将数据写入内存同时写wal日志,为防止日志丢失,日志是写在hdfs上的。 默认是每个RegionServer有1 ...
分类:
其他好文 时间:
2018-05-02 11:22:42
阅读次数:
189
负载信息:RegionServer:3个 Region:5400多个 现象:在使用Spark对HBase进行scan操作时发现有些task执行比较慢 原因分析:查看Spark应用的executor日志,发现查询慢的都是027节点请求的。 获取此节点的regionServer日志,发现scan的时候有 ...
分类:
其他好文 时间:
2018-04-06 16:43:10
阅读次数:
133
引言: 在HBase的架构设计中,为了降低写入数据的延迟,将每个写请求分为了两个阶段,第一阶段是接收写请求并将数据写入内存,第二阶段是在后台批量地将数据刷写到磁盘。由此将内存的告诉随机写与磁盘的高速顺序写结合起来,已达到较低写入时延的目的。 基本原理: 在hbase系统中,regionserver会 ...
分类:
其他好文 时间:
2018-03-11 23:58:59
阅读次数:
522