目录
- 第1章 概述
- 1.1 分布式存储概念
- 1.2 分布式存储分类
第1章 概述
相比传统的分布式系统，互联网公司的分布式系统具有两个特点：
1.规模大
2.成本低
1.1 分布式存储概念
大规模分布式存储系统的定义如下：
“分布式存储系统是大量普通PC服务器通过Internet互联，作为一个整体对外提供存储服务”
分布式存储系统有如下几个特性：
☐可扩展。随着集群规模的增长，系统整体性能表现为线性增长。
☐低成本。分布式存储系统的自动容错、自动负载均衡机制使其可以构建在普通PC机之上，另外，线性扩展能力也使得增加、减少机器非常方便，可以实现自动运维。
☐高性能。无论是针对整个集群还是单台服务器，都要求分布式存储系统具备高性能。
☐易用。分布式存储系统需要能够提供易用的对外接口。
分布式存储涉及的技术主要来自两个领域：分布式系统以及数据库，如下所示：
☐数据分布：如何将数据分布到多台服务器保证数据分布均匀？ 如何跨服务器读写数据？
☐一致性：如何将数据的多个副本复制到多台服务器，即使异常也能保证不同副本之间的数据一致性？
☐容错：如何检测到服务器故障？如何自动将出现故障的服务器上的数据和服务自动迁移到其他服务器？
☐负载均衡：新增服务器和集群正常运行过程中如何实现自动负载均衡？数据迁移过程中如何保证不影响已有服务？
☐事务与并发控制：如何实现分布式事务？如何实现多版本并发控制？
☐易用性：如何涉及对外接口使得系统容易使用？如何设计监控系统并将系统的内部状态以方便的形式暴露给运维人员？
☐压缩/解压缩：如何根据数据的特点设计合理的压缩/解压缩算法？如何平衡节省的空间和消耗的cpu计算资源
1.2 分布式存储分类
分布式存储面临的数据需求比较复杂，大致可以分为三类
☐非结构化数据：所有格式的办公文档，文本、图像、音频信息等。
☐结构化数据：一般存储在关系数据库中，可以用二维关系表结构表示。结构化数据的模式（Schema，包括属性、数据类型以及数据之间的联系）和内容是分开的，数据的模式需要预先定义。
☐半结构化数据：介于非结构化数据和结构化数据之间，如HTML文档。它一般是自描述的，与结构化数据最大的区别在于，半结构化数据的模式结构和内容混在一起，没有明显的区分，也不需要预先定义数据的模式结构。
不同的分布式存储系统适合处理不同类型的数据，本书将其分为四类：
1.分布式文件系统
互联网应用需要存储大量的图片、照片、视频等非结构化数据对象，这类数据以对象的形式组织，对象之间没有关联，这样的数据一般称为Blob（Binary Large Object，二进制大对象）数据。
分布式文件系统用于存储Blob对象，典型的有Facebook Haystack以及Taobao File System(TFS)。另外，分布式文件系统也常作为分布式表格系统以及分布式数据库的底层存储，如谷歌的GFS（Google File System，存储大文件）可以作为分布式表格系统Google Bigtable的底层存储，Amazon的EBS(Elastic Block Store,弹性块存储)系统可以作为分布式数据库（Amazon RDS）的底层存储。
总体上看，分布式文件系统存储三种类型的数据：Blob对象、定长块以及大文件。在系统实现层面，分布式文件系统内部按照数据块（chunk）来组织数据，每个数据块的大小大致相同，每个数据块可以包含多个Blob对象或者定长块，一个大文件也可以拆分为多个数据块，如同1-1所示。分布式文件系统将这些数据块分散到存储集群，处理数据复制、一致性、负载均衡、容错等分布式系统难题，并将用户对Blob对象、定长块以及大文件的操作映射为对底层数据块的操作。
2.分布式键值系统
分布式键值系统用于存储关系简单的半结构化数据，它只提供基于主键的CRUD（Create/Read/Update/Delete）功能，即根据主键创建、读取、更新或者删除一条键值记录。
典型的系统有Amazon Dynamo以及Taobao Tair。从数据结构的角度看，分布式键值系统与传统的哈希表比较类似，不同的是，分布式键值系统支持将数据分布到集群中的多个存储结点。分布式键值系统是分布式表格系统的一种简化实现，一般用作缓存，比如Taobao Tair以及Memcache。一致性哈希是分布式键值系统中常用的数据分布技术，因其被Amazon DynamoDB系统使用而变得相当有名。
3.分布式表格系统
分布式表格系统用于存储关系较为复杂的半结构化数据，与分布式键值系统相比，分布式表格系统不仅仅支持简单的CRUD操作，而且支持扫描某个主键范围。分布式表格系统以表格为单位组织数据，每个表格包括很多行，通过主键标识一行，支持根据主键的CRUD功能以及范围查找功能。
分布式表格系统借鉴了很多关系数据库的技术，例如支持某种程度上的事务，比如单行事务，某个实体组（Entity Group，一个用户下的所有数据往往构成一个实体组）下的多行事务。典型的系统包括Google Bigtable以及Megastore，Microsoft Azure Table Storage，Amazon DynamoDB等。与分布式数据库相比，分布式表格系统主要支持针对单张表格的操作，不支持特别复杂的操作如多表关联，多表联接，嵌套子查询；另外在分布式表格系统中，同一表格的多个数据行也不要求包含相同类型的列，适合半结构化数据。分布式表格系统是一种很好的权衡，这类系统可以做到超大规模且支持较多的功能，但是实现往往比较复杂且有一定使用门槛。
4.分布式数据库
分布式数据库一般是从单机关系数据库扩展而来，用于存储结构化数据。分布式数据库采用二维表格组织数据，以提供SQL关系查询语言，支持多表关联，嵌套子查询等复杂操作，并提供数据库事务以及并发控制。
典型的系统包括MySQL数据库分片集群，Amazon RDS以及Microsoft SQL Azure。分布式数据库支持的功能最为丰富，符合用户使用习惯但是可扩展性往往受到限制，但不绝对，如Google Spanner和阿里巴巴OceanBase。
关系数据库是目前最为成熟的存储技术，它的功能及其丰富，产生了商业的关系数据库软件（如Oracle，Microsoft SQL Server，IBM DB2，MySQL）以及上层的工具及应用软件生态链。然而，关系数据库在可扩展性上面临巨大的挑战。传统关系数据库的事务以及二维关系模型很难高效扩展到多个存储节点上，另外，关系数据库对于要求高并发的应用在性能上的优化空间较大。为了解决关系数据库面临的可扩展性、高并发以及性能方面的问题，各种各样的非关系数据库风起云涌，称为NoSQL系统（“Not Only SQL”系统）
