当前位置: 首页 > news >正文

【赵渝强老师】HBase的体系架构

在这里插入图片描述

HBase是大表(BigTable)思想的一个具体实现。它是一个列式存储的NoSQL数据库,适合执行数据的分析和处理。简单来说,就是适合执行查询操作。从体系架构的角度看,HBase是一种主从架构,包含:HBase HMaster、Region Server和ZooKeeper,下图展示了这一架构。
在这里插入图片描述

其中:

  • HBase HMaster负责Region的分配及数据库的创建和删除等操作。
  • Region server负责数据的读写服务。
  • ZooKeeper负责维护集群的状态。
视频讲解如下

【赵渝强老师】HBase的体系架构

下面详细讨论HBase体系架构中每一个组成部分的作用。

一、 HMaster

HMaster是整个HBase集群的主节点,它的职责主要体现在以下几方面:

  1. 负责在Region Server上分配和调控不同的Region。
  2. 根据恢复和负载均衡的策略,重新分配Region。
  3. 监控Region Server的状态。
  4. 管理和维护HBase的命名空间,即NameSpace。
  5. 接收客户端的请求,提供创建,删除或者更新表格的接口。

另一方面,如果整个集群中只存在一个HMaser,将造成单点故障的问题。因此也需要基于ZooKeeper来实现HBase的HA(高可用)。但是HBase实现HA非常简单,因为在其体系架构中已经包含了ZooKeeper,因此只需要手动再启动一个HMaster作为Backup HMaster即可。

视频讲解如下

【赵渝强老师】HBase的主节点HMaster

二、 Region Server

Region Server负责数据的读写操作。一个Region Server可以包含多个Region,而一个Region只能属于一个Region Server。那么什么是Region呢?可以把Region理解成是列族,它与列族的关系是一对多的关系。HBase表中的列族是根据rowkey的值水平分割成所谓的Region的。在默认情况下,Region的大小是1G,其中包含8个HFile的数据文件。而每个数据文件的大小正好是128M,与HDFS数据块的大小保存一致。每一个Region server大约可以管理1000个Region。

Region Server除了包含Region以外,还包含WAL预写日志、Block Cache读缓存和MemStore写缓存三个部分。

视频讲解如下

【赵渝强老师】HBase的从节点Region Server

2.1 WAL预写日志

Write-Ahead Logging是一种高效的日志算法,相当于Oracle中的redo log,或者是MySQL中的binlog。基本原理是在数据写入之前首先顺序写入日志,然后再写入缓存,等到缓存写满之后统一进行数据的持久化。WAL将一次随机写转化为了一次顺序写加一次内存写,在提供性能的前提下又保证了数据的可靠性。如果在写入数据完成之后发生了宕机,即使所有写缓存中的数据都丢失了,也可以通过恢复WAL日志达到数据恢复的目的。写入的WAL日志会对应有一个HLog文件。

《从大数据到云原生系列课程》

2.2 Block Cache读缓存

HBase将经常需要读取的数据放入Block Cache中,来提供读取数据的效率。当Block Cache的空间被占满后,将采用LRU算法将其中被读取频率最低的数据从Block Cache中清除。

2.3 MemStore写缓存

MemStore中主要存储了还未写入磁盘的数据,如果此时发生了宕机,这部分数据是会丢失的。HBase中的每一个列族对应一个MemStore,其中存储的是按键排好序的待写入硬盘的数据,数据也是按Rowkey排好序写入HFile中的,最终保存到HDFS中。

提示:HBase表中的数据最终保存在数据文件HFile中,并存储与HDFS的DataNode上。在将MemStore中的数据写入HFile中的时候,采用顺序写入的机制,避免了磁盘大量寻址的过程,从而大幅提高了性能。在读取HFile的时候,文件中包含的Rowkey信息会被加载到内存中,这样就可以保证数据检索只需一次硬盘查询操作。

三、 HBase中的ZooKeeper

ZooKeeper在整个HBase集群中主要维护节点的状态并协调分布式系统的工作。主要体现在以下几方面:

  1. 监控HBase节点的状态,包括:HMaster和RegionServer。
  2. 通过ZooKeeper的Watcher机制提供节点故障和宕机的通知。
  3. 保证服务器之间的同步。
  4. 负责Master选举的工作。

视频讲解如下:

视频讲解如下

【赵渝强老师】HBase中的ZooKeeper

下图展示了HBase在ZooKeeper中保存的数据信息。
在这里插入图片描述

视频讲解如下

【赵渝强老师】HBase中的ZooKeeper

《从大数据到云原生系列课程》

相关文章:

  • VR 技术与病毒分离鉴定:一场奇妙的邂逅​
  • Mobaxterm 连接到 Docker 容器
  • C语言栈详解
  • 不同电脑同一个网络ip地址一样吗
  • ⚡ Hyperlane —— 比 Rocket 更快的 Rust Web 框架!
  • IEEE出版|2025年智能制造、机器人与自动化国际学术会议 (IMRA2025)
  • 晶体单元(crystal unit)与晶体振荡器(crystal oscillator)
  • 类和对象(3)
  • vscode开发stm32,main.c文件中出现很多报错影响开发解决日志
  • 智能防护实战:从攻击成本看企业安全降本增效
  • 分布式架构:解读不同数据一致性模型
  • stm32f系列工程切换到H系列
  • Qwen3内置提示词模板解读
  • 企业微信内部网页开发流程笔记
  • 嵌入式学习--江协stm32day3
  • JavaScript- 3.2 JavaScript实现不同显示器尺寸的响应式主题和页面
  • Java spingboot项目 在docker运行,需要含GDAL的JDK
  • 用C#最小二乘法拟合圆形,计算圆心和半径
  • LabVIEW教学用开发平台
  • 深入理解设计模式之命令模式
  • 安庆建设机械网站/百度优化大师
  • 酒店网站策划书/宁波网站seo公司
  • 网站建设的一般流程/外链生成工具
  • 江门网站seo优化/国外b站不收费免费2023
  • 做汽车配件外贸用什么网站/吉安seo招聘
  • 免费购物网站/搜易网服务介绍