分布式理论及一致性算法

什么是分布式系统

一个分布式系统就是一些独立的计算机集合,但是对这个系统的用户来说,系统就像一台计算机一样

分布式系统是一个硬件或软件组建分布在不同的网络计算机上,彼此之间仅仅通过消息传递进行通信和协调的系统,简单来说就是一群独立计算机集合共同对外提供服务;分布式意味着可以采用更多的普通计算机组成分布式集群对外提供服务。
计算机越多,CPU、内存、存储资源等就越多,能够处理的并发访问量也就越大。

从分布式系统的概念中,可以知道各个主机之间通信和协调主要是通过网络进行的,所以分布式系统中的计算机在空间上没几乎没有限制,这些计算机可能被放在不同的机柜上,也可能在不同的机房或城市(地区/国家)。

分布式系统的主要特征

  1. 分布性

    分布式系统中多台计算机之间在空间位置上可以随意分布,也可随时变动

  2. 对等性

    分布式系统中的计算机没有主/从之分,即没有控制整个系统的主机,也没有被控制的从机,组成分布式系统的所有计算机节点都是对等的。副本(Replica)是分布式最常见的概念之一,指的是分布式系统对数据和服务提供的一种冗余方式,在常见的分布式系统中,为了对外提供高可用的服务,我们往往会对数据和服务进行副本处理。

    数据副本是指在不同节点上持久化同一份数据,当某一个节点上存储的数据丢失,可以从副本上读取该数据,这是解决分布式系统丢失问题最有效的方式。

    另一类副本是服务副本,每个节点都有能力接收来自外部的请求并进行相应的处理

  3. 自治性

    分布式系统中的各个节点都包含自己的处理机和内存,各自具有独立的处理数据的功能,通常,彼此在地位上平等的,无主次之分,既能自治地进行工作,又能利用共享的通信线路来传递消息,协调任务处理

  4. 并发性

    在一个计算机网络中,程序运行过程的并发性操作是非常常见的行为。例如同一个分布式系统中的多个节点,可能会并发地操作一些共享的资源,如何准确并高效地协调分布式并发操作也成为了分布式系统架构与设计中最大的挑战之一

分布式系统面临的问题

  1. 缺乏全局时钟

    在分布式系统中,很难定义两个事件究竟谁先谁后,原因就是因为分布式系统缺乏一个全局的时钟序列控制。

  1. 机器宕机

    机器宕机是最常见的异常之一。在大型集群中每日宕机发生的概率为千分之一左右,在实践中,一台宕机的机器恢复的时间通常认为是24 小时,一般需要人工介入重启机器

  1. 网络异常

    消息丢失,两片节点之间彼此完全无法通信,即出现了“网络分化”;消息乱序,有一定的概率不是按照发送时的顺序依次到达目的节点,考虑使用序列号等机制处理网络消息的乱序问题,使得无效的、过期的网络消息不影响系统的正确性;数据错误;不可靠的TCP,TCP 协议为应用层提供了可靠的、面向连接的传输服务,但在分布式系统的协议设计中不能认为所有网络通信都基于TCP 协议则通信就是可靠的。TCP协议只能保证同一个TCP 链接内的网络消息不乱序,TCP 链接之间的网络消息顺序则无法保证。

  1. 分布式三态

    如果某个节点向另一个节点发起RPC(Remote procedure call)调用,即某个节点A 向另一个节点B 发送一个消息,节点B 根据收到的消息内容完成某些操作,并将操作的结果通过另一个消息返回给节点A,那么这个RPC 执行的结果有三种状态:“成功”、“失败”、“超时(未知)”,称之为分布式系统的三态。

  1. 存储数据丢失

    对于有状态节点来说,数据丢失意味着状态丢失,通常只能从其他节点读取、恢复存储的状态。 异常处理原则:被大量工程实践所检验过的异常处理黄金原则是:任何在设计阶段考虑到的异常情况一定会在系统实际运行中发生,但在系统实际运行遇到的异常却很有可能在设计时未能考虑,所以,除非需求指标允许,在系统设计时不能放过任何异常情况

衡量分布式系统的指标

  • 性能

    系统的吞吐能力,指系统在某一时间可以处理的数据总量,通常可以用系统每秒处理的总的数据量来衡量;系统的响应延迟,指系统完成某一功能需要使用的时间;系统的并发能力,指系统可以同时完成某一功能的能力,通常也用QPS(query per second)来衡量。上述三个性能指标往往会相互制约,追求高吞吐的系统,往往很难做到低延迟;系统平均响应时间较长时,也很难提高QPS

  • 可用性

    系统的可用性(availability)指系统在面对各种异常时可以正确提供服务的能力。系统的可用性可以用系统停服务的时间与正常服务的时间的比例来衡量,也可以用某功能的失败次数与成功次数的比例来衡量。可用性是分布式的重要指标,衡量了系统的鲁棒性,是系统容错能力的体现

  • 可扩展性

    系统的可扩展性(scalability)指分布式系统通过扩展集群机器规模提高系统性能(吞吐、延迟、并发)、存储容量、计算能力的特性。好的分布式系统总在追求“线性扩展性”,也就是使得系统的某一指标可以随着集群中的机器数量线性增长。

  • 一致性

    分布式系统为了提高可用性,总是不可避免的使用副本的机制,从而引发副本一致性的问题。越是强的一致的性模型,对于用户使用来说使用起来越简单

分布式理论基础

主要包括CAP理论和BASE理论

CAP理论

CAP理论是分布式系统(特别是分布是存储领域)中被讨论最多的理论,其中

  • C:一致性(Consistency)
  • A:可用性(Availability)
  • P:分区容错性(Partition tolerance)

CAP理论告诉我们C、A、P三者不能同时满足,最多只能满足其中两个

BASE 理论

BASE是”Basically Available, Soft state, Eventually consistent(基本可用、软状态、最终一致性)”的首字母。其中的软状态和最终一致性这两种技巧擅于对付存在分区的场合,并因此提高类可用性

分布式一致性算法

一致性算法的目的是保证在分布式系统中,多数据副本节点数据一致性,主要包含一致性hash算法、Paxos算法、Raft算法、ZAB算法等

一致性Hash算法

一致性Hash算法是个经典算法,Hash环的引入是为了解决**单调性(Monotonicity)的问题,虚拟节点的引入是为了解决平衡性(Balance)**的问题

Paxos算法

Paxos算法是Lamport宗师提出的一种基于消息传递的分布式一致性算法

Raft算法

Paxos是出了名的难懂,而Raft正式为了探索一种更易于理解的一致性算法而产生的。它的设计目的就是易于理解,所以在选主的冲突处理等方式上它都选择了非常简单明了的解决方案

ZAB算法

ZAB 协议全称:Zookeeper Atomic Broadcast(Zookeeper 原子广播协议), 它应该是所有一致性协议中生产环境中应用最多的了。为什么呢?因为他是为 Zookeeper 设计的分布式一致性协议!#

摘录

分布式系统 - 理论基础,理论及一致性算法