一 ,hbase 数据结构

1 ,RowKey : 主键

  1. 与 nosql 数据库们一样,RowKey 是用来检索记录的主键。访问 HBASE table 中的行,只有三种方式:
    1 ,通过单个RowKey访问
    2 ,通过RowKey的range(正则)
    3 ,全表扫描
  2. RowKey 行键 (RowKey)可以是任意字符串(最大长度是64KB,实际应用中长度一般为 10-100bytes),在HBASE内部,RowKey保存为字节数组。存储时,数据按照RowKey的字典序(byte order)排序存储。设计RowKey时,要充分排序存储这个特性,将经常一起读取的行存储放到一起。(位置相关性)

2 ,Column Family : 列簇

HBASE表中的每个列,都归属于某个列族。列族是表的schema的一部 分(而列不是),必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history,courses:math都属于courses 这个列族。

3 ,Cell : 列 ( 最小存储单元 )

  1. 由 {rowkey, column Family:columu, version} 唯一确定的单元。
  2. 由{rowkey, column Family:columu, version} 唯一确定的单元。cell中的数据是没有类型的,全部是字节码形式存贮。
  3. 关键字 : 无类型,字节码。

4 ,Time Stamp : 时间戳

HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值,此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突,就必须自己生成具有唯一性的时间戳。每个 cell中,不同版本的数据按照时间倒序排序,即最新的数据排在最前面。
为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担,HBASE提供 了两种数据版本回收方式。一是保存数据的最后n个版本,二是保存最近一段 时间内的版本(比如最近七天)。用户可以针对每个列族进行设置。

5 ,namespace : 命名空间 ( 作用是管理表,类似 mysql 中的库 )

  1. Table:表,所有的表都是命名空间的成员,即表必属于某个命名空间,如果没有指定,则在default默认的命名空间中。
  2. RegionServer group:一个命名空间包含了默认的RegionServer Group。
  3. Permission:权限,命名空间能够让我们来定义访问控制列表ACL(Access Control List)。例如,创建表,读取表,删除,更新等等操作。
  4. Quota:限额,可以强制一个命名空间可包含的region的数量。

二 ,HBase 读写原理

1 ,读流程 : 文字描述

  1. 读到用户表信息 :
    1 ,Client 先访问 zookeeper,获取到 -ROOT- 表的 location ,读 -ROOT- 表。
    2 ,从 -ROOT- 获取到 .META. 表的 Region 信息,读 .META. 表。
    3 ,从 meta 表读取到用户表的 Region 信息。
    4 ,读到了用户表。
  2. 根据 namespace 表名和 rowkey 在 meta 表中找到对应的 region 信息;
  3. 找到这个 region 对应的 regionserver ;
  4. 查找对应的region;
  5. 先从 MemStore 找数据,如果没有,再到 BlockCache 里面读;
  6. BlockCache 还没有,再到StoreFile上读(为了读取的效率);
  7. 如果是从 StoreFile 里面读取到数据,不是直接返回给客户端,而是先写入 BlockCache ,再返回给客户端。

2 ,读流程 : 结构图

hbase 行锁 hbase每行数据如何排序_时间戳

3 ,写流程 : 文字描述

  1. 写入内存阶段 :
    1 ,Client 向 HregionServer 发送写请求;
    2 ,HregionServer 将数据写到 HLog( write ahead log )。为了数据的持久化和恢复;
    3 ,HregionServer 将数据写到内存( MemStore );
    4 ,反馈 Client 写成功。
  2. 数据 flush 过程 : 内存数据进入硬盘
    1 ,当MemStore数据达到阈值(默认是128M,老版本是64M),将数据刷到硬盘,将内存中的数据删除,同时删除HLog中的历史数据;
    2 ,并将数据存储到HDFS中;
  3. 数据合并过程 : 数据永不丢失
    1 ,每次缓存数据,都会清空内存数据,将数据保存到磁盘上,形成一个数据块。
    2 ,小文件合并,当数据块达到 4 块,Hmaster 将数据块加载到本地,进行合并;
    3 ,当合并的数据超过 256M,进行拆分,将拆分后的 Region 分配给不同的 HregionServer 管理;
    4 ,当 HregionServer 宕机后,将 HregionServer 上的 hlog 拆分,然后分配给不同的 HregionServer加载,修改 .META.;
    5 ,注意:HLog 会同步到 HDFS。

4 ,写流程 : 结构图

hbase 行锁 hbase每行数据如何排序_hbase 行锁_02

5 ,写流程 ,自我总结 :

  1. 数据来了。
  2. 内存一份,硬盘一份。
  3. 目的 : 内存是为了高速访问,硬盘是为了容错。
  4. 刷新 : 内存数据太多了,把数据刷新到磁盘,形成一个小文件。
  5. 小文件合并 : 如果发现 4 个小文件,就把他们合并到一起。
  6. 大文件拆分 : 如果合并后形成的大文件太大,就把这个文件拆分,默认阈值 256M