【163】

一、HBase数据结构

1.1 RowKey

与 nosql 数据库们一样,RowKey 是用来检索记录的主键。访问 HBASE table 中的行,只

有三种方式:

1.通过单个 RowKey 访问

2.通过 RowKey 的 range(正则)

3.全表扫描

RowKey 行键 (RowKey)可以是任意字符串(最大长度是 64KB,实际应用中长度一般为

10-100bytes),在 HBASE 内部,RowKey 保存为字节数组。存储时,数据按照 RowKey 的字

典序(byte order)排序存储。设计 RowKey 时,要充分排序存储这个特性,将经常一起读取的

行存储放到一起。(位置相关性)

1.2 Column Family

列族:HBASE 表中的每个列,都归属于某个列族。列族是表的 schema 的一部 分(而列

不是),必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history,courses:math 都属于 courses 这个列族。

1.3 Cell

由{rowkey, column Family:columu, version} 唯一确定的单元。cell 中的数据是没有类型

的,全部是字节码形式存贮。

关键字:无类型、字节码

1.4 Time Stamp

HBASE 中通过 rowkey和 columns 确定的为一个存贮单元称为cell。每个 cell都保存 着

同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64 位整型。时间戳可以

由 HBASE(在数据写入时自动 )赋值,此时时间戳是精确到毫秒 的当前系统时间。时间戳

也可以由客户显式赋值。如果应用程序要避免数据版 本冲突,就必须自己生成具有唯一性

的时间戳。每个 cell 中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。

为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担,HBASE 提供 了两

种数据版本回收方式。一是保存数据的最后 n 个版本,二是保存最近一段 时间内的版本(比

如最近七天)。用户可以针对每个列族进行设置。

1.5 命名空间

命名空间的结构:

delete hbase 空间 hbase删除指定rowkey_命名空间




1) Table:表,所有的表都是命名空间的成员,即表必属于某个命名空间,如果没有指定,

则在 default 默认的命名空间中。

2) RegionServer group:一个命名空间包含了默认的 RegionServer Group。

3) Permission:权限,命名空间能够让我们来定义访问控制列表 ACL(Access Control List)。

例如,创建表,读取表,删除,更新等等操作。

4) Quota:限额,可以强制一个命名空间可包含的 region 的数量。

二、HBase 原理

2.1 读流程

HBase 读数据流程如图 3 所示


delete hbase 空间 hbase删除指定rowkey_hbase里面命令行删除_02


1)Client 先访问 zookeeper,从 meta 表读取 region 的位置,然后读取 meta 表中的数据。meta 中又存储了用户表的 region 信息;

2)根据 namespace、表名和 rowkey 在 meta 表中找到对应的 region 信息;

3)找到这个 region 对应的 regionserver;

4)查找对应的 region;

5)先从 MemStore 找数据,如果没有,再到 BlockCache 里面读;

6)BlockCache 还没有,再到 StoreFile 上读(为了读取的效率);

7)如果是从 StoreFile 里面读取的数据,不是直接返回给客户端,而是先写入 BlockCache,

再返回给客户端。

2.2 写流程

Hbase 写流程如下 所示


delete hbase 空间 hbase删除指定rowkey_命名空间_03


图 2 HBase 写数据流程

1)Client 向 HregionServer 发送写请求;

2)HregionServer 将数据写到 HLog(write ahead log)。为了数据的持久化和恢复;

3)HregionServer 将数据写到内存(MemStore);

4)反馈 Client 写成功。

5.3 数据 flush 过程

1)当 MemStore 数据达到阈值(默认是 128M,老版本是 64M),将数据刷到硬盘,将内存

中的数据删除,同时删除 HLog 中的历史数据;

2)并将数据存储到 HDFS 中;

3)在 HLog 中做标记点。

5.4 数据合并过程

1)当数据块达到 4 块,Hmaster 触发合并操作,Region 将数据块加载到本地,进行合并;

2)当合并的数据超过 256M,进行拆分,将拆分后的 Region 分配给不同的 HregionServer

管理;

3)当HregionServer宕机后,将HregionServer上的hlog拆分,然后分配给不同的HregionServer

加载,修改.META.;

4)注意:HLog 会同步到 HDFS。