摘要:什么是分布式系统?为什么要用分布式系统?分布式系统如何分布?这些你知道吗?
小引
分布式系统是一个古老而宽泛的话题,而近几年因为 “大数据” 概念的兴起,又焕发出了新的青春与活力。本文将会通过对如下几个问题展开谈一下分布式系统:
什么是分布式系统?
为什么要用分布式系统?
分布式系统设计推演
CAP定理是什么?
分布式系统如何进行分布?
分布式应用通常使用的架构类型哪些?
分布式系统的优缺点有哪些?
1. 什么是分布式系统?
简单的来说,一个分布式系统是一组计算机系统一起工作,在终端用户看来,就像一台计算机在工作一样。
这组一起工作的计算机,拥有共享的状态,他们同时运行,独立机器的故障不会影响整个系统的正常运行。
我们现在举个例子,传统的数据库是存储在一台机器的文件系统上的。每当我们取出或者插入信息的时候,我们直接和那台机器进行交互。
那么现在我们把这个传统的数据库设计成分布式数据库。假设我们使用了三台机器来构建这台分布式数据库,我们追求的结果是,在机器1上插入一条记录,需要在机器3上可以返回那条记录,当然了,机器1和2也要能够返回这条记录。
2. 为什么要用分布式系统?
管理分布式系统是一个非常复杂的话题,里面充满了陷阱和地雷。部署维护和调试分布式系统也是非常头疼的一件事情,那为什么还要去做呢?
分布式系统最大的好处就是能够让你横向的扩展系统。
以前面提到的单一数据库为例,能够处理更多流量的唯一方式就是升级数据库运行的硬件,这就是纵向扩展。
而纵向扩展的是有局限性的。当到了一定程度以后,我们会发现即使最好的硬件,也不能够满足当前流量的需求。
横向扩展是指通过增加更多的机器来提升整个系统的性能,而不是靠升级单台计算机的硬件。
从价格上来说,横向扩展相比纵向扩展更容易控制。
最根本的问题是纵向扩展有很强的局限性,达到最新硬件的能力以后,还是无法满足中等或者大型工作负载的技术要求。
横向扩展则没有这个限制,它没有上限,每当性能下降的时候,你就需要增加一台机器,这样理论上讲可以达到无限大的工作负载支持。
除此之外,在容错和低延迟上也有很多优势。容错性是指你的分布式系统的某个节点出现错误以后,并不会导致整个系统的瘫痪。而单机系统出错以后,可能会导致整个系统的崩溃。
低延迟是通过在不同的物理位置部署不同的机器,通过就近获取的原则降低访问的延迟时间。
上面讨论了分布式系统的种种好处,但是我们必须要清楚设计和运行分布式系统并非易事。
3. 分布式系统设计推演
我们先讲一个场景,我们现有的网络应用变得越来越流行,服务的人数也越来越多,导致我们的应用程序每秒收到的请求,远远超过能够正常处理的数量。这会导致应用程序性能下降明显,用户也会注意到这一点。
那我们下面就来扩展一下我们的应用程序来满足更高的要求。一般来说我们读取信息的频率要远远超过插入或者修改的频率。
下面我们使用主从复制策略来实现扩展系统。我们可以创建两个新的数据库服务器,他们与主服务器同步。用户业务对这两个新的数据库只能读取。每次当向主数据库插入和修改信息时,都会异步的通知副本数据库进行更新变化。
在这一步上我们已经有了三倍于原来系统读取数据的性能支持。但是这里有一个问题,在数据库事务的设计当中,我们遵循ACID原则。但是在我们同时对其他两个数据库进行数据更新的时候,我们有一个时间窗口失去了一致性原则。如果在这个时间窗口内对两个新的数据库进行查询,可能查不到数据。这个时候如果同步这三个数据库的数据,就会影响写操作的性能。
这是我们在设计分布式系统的时候,不得不承受的一些代价。
上面的主从复制策略解决了用户读取性能方面的需求,但是当数据量达到一定程度,一台机子上无法存放的时候,我们需要扩展写操作性能。要解决这样的问题,我们可以使用分区技术。分区技术是指根据特定的算法,比如用户名a到z作为不同的分区,分别指向不同的数据库写入,每个写入数据库会有若干读取的从数据库进行同步提升读取性能。
当然,这样使得整套系统变得更加复杂。最重要的难点是分区算法。你们试想一下,如果c开头的用户名比其他开头的用户名要多很多,这会导致c区的数据量非常庞大,相应地,对于c区的请求也会远远大于其他区。此时c区成为热点。要避免热点,需要对c区进行拆分。此时要进行共享数据就会变得非常昂贵,甚至可能导致停机。
如果一切都很理想,那我们就拥有了 n倍的写入流量,n是分区的数目。
当然这里也存在一个陷阱,我们进行数据分区以后,导致除了分区键以外的查询都变得非常低效,尤其是对于sql语句如join查询就变得非常之糟糕,导致一些复杂的查询根本无法使用。
这里有一个思考题:
如何选择更好的分区策略算法?
4. CAP定理是什么?
这个定理是指一个分布式系统不能同时具有一致性,可用性和分区容忍性。
一致性Consistency: 依次读写的是什么就是什么。
可用性Availability: 整个系统不会崩溃, 每个非故障节点总会有一个相应。
分区容忍Partition tolerant: 尽管有分区,系统仍能继续运行并保持其一致性和可用性。
对于任何分布式系统来说,分区容忍是一个给定的条件,如果没有这一点,就不可能做到一致性和可用性。试想如果两个节点链接断掉了,他们如何能够做到既可用又一致?
最后你只能选择在网络分区情况下,你的系统要么强一致,要么高可用。
实践表明大多数应用程序更看重可用性。这个考量的主要原因是在不得不同步机器里实现强于一致性是时,网络延迟会成为一个问题。
这类因素使得应用程序通常会选择提供高可用性的解决方案。
此时采用的是最弱的一致性模型来解决的,这种模型保证了如果没有对某个项目进行新的更新,最终对该项目的所有访问都会返回最新的值。
这些系统提供了BASE属性,这是相对于传统数据库的ACID来讲的。 也就是( Basically available)基本上是可用的,系统总会返回一个响应。
( Soft state)软状态, 系统可以随着时间的推移而变化,甚至在没有输入的情况下也可以变化, 如保持最终的一致性的同步。
( Eventual consistency)最终的一致性, 在没有输入的情况下,数据迟早会传播到每一个节点上,从而变得一致。
追求高可用的分布式数据库例子有Cassandra;看重强一致性的数据库,有HBase, Redis, Zookeeper。
5. 分布式系统如何进行分布?
我们来看一下分布系统进行分布的常用方式:
1. 哈希
以哈希方式把不同的值进行哈希运算,映射到不同的机器或者节点上。这种方式在扩展的时候比较困难,因为数据分散在多个机器上很容易出现分布不均的情况,常见的哈希对象有ip,url,id等。
2. 数据范围
按数据范围分布,比如ID在1~100的在机器a上,ID在100~200的在机器b上,诸如此类。这种分布方法数据比较均匀。如果某个节点处理能力有限,可以直接分裂这个节点。
维护数据分布的这些原数据,如果量非常大的话,可能会出现单点瓶颈。
因此一定要严格控制元数据量。
3. 数据量
按数据量来分布数据,是以较为固定的大小将数据划分为若干的数据块,再把不同的数据块分布到不同的服务器上。
以数据量来进行分布的这些数据,也需要被记录下来作为元数据来管理。
当集群规模很大时,元数据的量也会变大。
4. 副本与数据分布
这种方式是指把数据给分散到多个服务器上。如果其中一台出现问题,请求就会被转到其他服务器上。其原理是多个机器互为副本,这是比较理想的实现负载分压的方式。
5. 一致性哈希
一致性哈希。通过哈希域构造哈希环,在增加机器时,变动的是其附近的节点,分摊的是附近节点的压力,其元数据的维护和按数量分布的维护方式一致。
我们现在来看一下使用以上方式进行分布的例子:
GFS, HDFS: 按数据量分布。
Map reduce: 按GFS数据分布做本地化。
BigTable, HBase按数据范围分布。
Pnuts: 按哈希方式或者数据范围分布。
Dynamo, Cassndra: 按一致性哈希分布。
Mola, Armor, BigPipe: 按哈希方式分布。
Doris: 按哈希方式和按数据量分布进行组合。
6. 分布式应用通常使用的架构类型哪些?
6.1 客户端服务器
在这个类型中,分布式系统架构有一个服务器作为共享资源。比如打印机数据库或者网络服务器。它有多个客户机,这些客户机决定何时使用共享资源,如何使用和显示改变数据,并将其送回服务器,像git这样的代码仓,这是一个很好的例子。
6.2 三层架构
这种架构把系统分为表现层,逻辑层和数据层,这简化了应用程序的部署,大部分早期的网络应用都是三层的。
6.3 多层架构
上面的三层架构是多层架构的一种特殊形式。
一般会把上面的三层进行更详细的划分,比如说以业务的形式进行分层。
6.4 点对点架构
在这种架构中,没有专门的机器提供服务或管理网络资源。而是将责任统一分配给所有的机器,成为对等机,对等机既可以作为客户机,也可以作为服务器。这种架构的例子,包括bittorrent和区块链。
6.5 以数据库为中心
这种架构是指用一个共享的数据库,使分布式的各个节点在不需要任何形式直接通信的情况下,进行协同工作的架构。
7. 分布式系统的优缺点有哪些?
7.1分布式系统的优点
1. 分布式系统中的所有节点都是相互连接的。所以节点可以很容易地与其他节点共享数据。
2. 更多的节点可以很容易地添加到分布式系统中,即可以根据需要进行扩展。
3. 一个节点的故障不会导致整个分布式系统的失败。其他节点仍然可以相互通信。
4. 硬件资源可以与多个节点共享,而不是只限于一个节点。
7.2分布式系统的缺点
1. 在分布式系统中很难提供足够的安全,因为节点以及连接都需要安全。
2. 一些消息和数据在从一个节点转移到另一个节点时,可能会在网络中丢失。
3. 与单用户系统相比,连接到分布式系统的数据库是相当复杂和难以处理的。
4. 如果分布式系统的所有节点都试图同时发送数据,网络中可能会出现过载现象。
小结
最后谈一下分布式系统与集群的关联。我的观点是这两者并不是对立的。
因为分布式系统是通过多个节点的集群来完成一个任务,让外界看起来是跟一套系统作为一个整体打交道。
一套分布式系统可以有多个集群,这些集群可以业务进行划分,也可以物理区域进行划分。每一个集群可以作为这个分布式系统的一个节点。
这些集群节点组成的分布式系统,又可以作为单个的节点与其他的节点组成一个集群。