关系型数据库：存储结构直观反映实体关系，内部采用库表结构，适合保存长期稳定数据，典型的有：mysql sqlserver

非关系型数据库（Nosql）：数据全部由键值对(key/value)组成，一般都采用内存缓存方式存在，可以更加快速的读取数据。适合追求速度和可扩展性、业务多变的应用场景。

hadoop非关系型数据库是 hadoop 关系型数据库_数据

一、概要

HBase – Hadoop Database，是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统。适合海量数据(如20PB)的秒级简单查询的数据库。

HBase是一种列式存储的数据库，也是一种NOSQL数据库（NOSQL = Not Only SQL），每一列可以存放多个版本的值，表中每条数据有唯一的标识符，即rowkey，就是这一条数据的主键。

每条数据的构成格式：rowkey + columnfamily + column01 + timestamp ： value => cell。cell中用字节数组进行存储，可使用工具类Bytes进行字节数组和其他类型的转换。

hadoop非关系型数据库是 hadoop 关系型数据库_缓存_02


hadoop非关系型数据库是 hadoop 关系型数据库_hadoop非关系型数据库是_03


数据模型的相关概念

1 表(table)，是存储管理数据的。

2 行键(row key)，类似于MySQL中的主键。

　　行键是HBase表天然自带的。

3 列族(column family)，列的集合。

　　HBase中列族是需要在定义表时指定的，列是在插入记录时动态增加的。

HBase表中的数据，每个列族单独一个文件。

4 时间戳(timestamp)，列(也称作标签、修饰符)的一个属性。

　　行键和列确定的单元格，可以存储多个数据，每个数据含有时间戳属性，数据具有版本特性。

　　如果不指定时间戳或者版本，默认取最新的数据。

5 存储的数据都是字节数组。

6 表中的数据是按照行键的顺序物理存储的。

二、HBase的物理数据模型

HBase表中的记录，按照行键进行拆分， 拆分成一个个的region。许多个region存储在region server(单独的物理机器)中的。

这样，对表的操作转化为对多台region server的并行查询。

hadoop非关系型数据库是 hadoop 关系型数据库_缓存_04

三、HBase架构

HBase是主从式结构：HMaster、HRegionServer

hadoop非关系型数据库是 hadoop 关系型数据库_缓存_05


Client： 包含访问hbase 的接口，client 维护着一些cache 来加快对hbase 的访问，比如regione 的位置信息

Zookeeper ：

  • 通过Master Election机制，保证集群中只有一个running master
  • 存贮所有Region 的寻址入口
  • 实时监控Region Server 的状态，将Region server 的上线和下线信息，实时通知给Master
  • 存储Hbase 的schema,包括有哪些table，每个table 有哪些column family Master：
  • 可以启动多个HMaster
  • 为Region server 分配region，负责region server 的负载均衡

Master

  • 负责指派region给RegionServer.通过zk获得task的帮助
  • 处理跨RegionServer的region的负载均衡问题。
  • 从繁忙服务到空闲服务器之间的数据转载。
  • 通过裁定负载均衡判断集群的状态

Region Server ：

  • 维护Master 分配给它的region，处理对这些region 的IO请求
  • 负责切分在运行过程中变得过大的region

    HRegionServer一般和DataNode配置在相同节点上，实现数据的本地性
    HRegionServer包含多个HRegion，WALs，BlockCache(读缓存)，MemStore（HRegion的写缓存），HFile组成

四、HRegionServer架构

  • 0.94之前的版本 - 0.96+的版本 详解：
  • 1.WAL
    即Write Ahead Log，在早期版本中称为HLog，它是HDFS上的一个文件，如其名字所表示的，所有写操作都会先保证将数据写入这个Log文件后，才会真正更新MemStore，最后写入HFile中。采用这种模式，可以保证HRegionServer宕机后，我们依然可以从该Log文件中读取数据，Replay所有的操作，而不至于数据丢失。这个Log文件会定期Roll出新的文件而删除旧的文件(那些已持久化到HFile中的Log可以删除)。WAL文件存储在/hbase/WALs/${HRegionServer_Name}的目录中(在0.94之前，存储在/hbase/.logs/目录中)，一般一个HRegionServer只有一个WAL实例，也就是说一个HRegionServer的所有WAL写都是串行的(就像log4j的日志写也是串行的)，这当然会引起性能问题，因而在HBase 1.0之后，通过HBASE-5699实现了多个WAL并行写(MultiWAL)，该实现采用HDFS的多个管道写，以单个HRegion为单位。
  • 2.BlockCache
    读缓存，即“引用局部性”原理（也应用于CPU，分空间局部性和时间局部性，空间局部性是指CPU在某一时刻需要某个数据，那么有很大的概率在一下时刻它需要的数据在其附近；时间局部性是指某个数据在被访问过一次后，它有很大的概率在不久的将来会被再次的访问），将数据预读取到内存中，以提升读的性能。HBase中提供两种BlockCache的实现：默认on-heap LruBlockCache和BucketCache(通常是off-heap)。通常BucketCache的性能要差于LruBlockCache，然而由于GC的影响，LruBlockCache的延迟会变的不稳定，而BucketCache由于是自己管理BlockCache，而不需要GC，因而它的延迟通常比较稳定，这也是有些时候需要选用BucketCache的原因。这篇文章BlockCache101对on-heap和off-heap的BlockCache做了详细的比较。
  • 3.HRegion
    是一个Table中的一个Region在一个HRegionServer中的表达。一个Table可以有一个或多个Region，他们可以在一个相同的HRegionServer上，也可以分布在不同的HRegionServer上，一个HRegionServer可以有多个HRegion，他们分别属于不同的Table。HRegion由多个Store(HStore)构成，每个HStore对应了一个Table在这个HRegion中的一个Column Family，即每个Column Family就是一个集中的存储单元，因而最好将具有相近IO特性的Column存储在一个Column Family，以实现高效读取(数据局部性原理，可以提高缓存的命中率)。HStore是HBase中存储的核心，它实现了读写HDFS功能，一个HStore由一个MemStore 和0个或多个HFile组成。
    ● MemStore是一个写缓存(In Memory Sorted Buffer)，所有数据的写在完成WAL日志写后，会 写入MemStore中，由MemStore根据一定的算法将数据Flush到地层HDFS文件中(HFile)，通常每个HRegion中的每个 Column Family有一个自己的MemStore。
    ● HFile(StoreFile) 用于存储HBase的数据(Cell/KeyValue)。在HFile中的数据是按RowKey、Column Family、Column排序，对相同的Cell(即这三个值都一样)，则按timestamp倒序排列。

HRegionServer写流程
当客户端发起一个Put请求时，首先它从hbase:meta表中查出该Put数据最终需要去的HRegionServer。然后客户端将Put请求发送给相应的HRegionServer，在HRegionServer中它首先会将该Put操作写入WAL日志文件中(Flush到磁盘中)。
写完WAL日志文件后，HRegionServer根据Put中的TableName和RowKey找到对应的HRegion，并根据Column Family找到对应的HStore，并将Put写入到该HStore的MemStore中。此时写成功，并返回通知客户端

两张特殊表

hadoop非关系型数据库是 hadoop 关系型数据库_hadoop非关系型数据库是_06


HBase中有两张特殊的Table，-ROOT-和.META.

1、.META.：记录了用户表的Region信息，.META.可以有多个regoin

2、-ROOT-：记录了.META.表的Region信息，-ROOT-只有一个region Zookeeper中记录了-ROOT-表的location

Client访问用户数据之前需要首先访问zookeeper，然后访问-ROOT-表，接着访问.META.表，最后才能找到用户数据的位置去访问

五、HMaster/HRegion 工作原理

HRegion Server上线
HMaster通过Zookeeper来追踪HRegion Server的状态
HRegion Server 上线时，首先在Zookeeper的server目录中创建自己的文件，并取得文件的独占锁。
由于HMaser订阅了server目录，当目录下有文件增加或者删除时，HMaster能收到来自Zookeeper的实时通知，因此当HRegion Server上线时HMaster能马上得到消息。

HRegion Server下线
HRegion server下线时，它断掉了Zookeeper的通讯，Zookeeper便会释放代表server的文件的独占锁。
HMaster轮询Zookeeper server目录下文件的独占锁。 当HMaster发现某个Region server丢失了自己的独占锁（或者HMaster与HRegion server连续几次通讯都不成功）， HMaster将尝试获取该文件的读写锁，一旦获取成功，说明
该HRegion server与Zookeeper通讯已经断开
该HResion server挂了
无论哪种情况，HMaster将删除Server目录下代表该server的文件，并将该server的所有region，并将其分配给其他或者的server。 如果HRegion server因为临时网络断开丢失了锁，并很快恢复与Zookeeper的通讯，只要代表其的文件没有被删除，它会继续尝试或许该文件的锁，一旦获取成功，它就可以接着服务
HMaster启动时：

  1. 从 Zookeeper中获取一个代表HMaster的锁，用以阻止其他Master成为Master
  2. 扫描Zookpper中的server目录，获取HRegion server的list
  3. 与2中获取的server 通讯，获取已分配的region和region server的对应关系
参考博主的理解：
前面讲过region的encode值就是存放region的文件的目录名，这些目录位于hdfs中的hbase相关的数据目录中.
所以HMaster可以扫描这些目录获取region的信息，根据region的名字就可以从hbase:meta中获取相应的HRegion Server信息
  1. 扫描hbase:meta表，记录尚未分配的region的信息，并添加到待分配的region列表中

HMaster下线
HMaster下线时，由于它不参与client的IO操作，所以这些操作不受影响。HMaster下线仅导致元数据的操作（比如无法创建表，无法修改表结构，无法进行负载均衡，无法进行region的合并，但是split可以进行，因为split只有HRegion server参与）受影响，用户的IO操作可以继续进行。所以短时间内的HMaster下线对HBase集群影响不大。

小结：HMaster 和HRegion Server通在Zookeeper中创建Ephemeral（临时的）节点来完成注册。具体来说，HMaster默认在 /hbasae/master目录下创建，HRegion Server在 /hbase/rs/*下创建， 创建后通过HeartBeat来维持关系。