配置中心发展背景

随着程序功能的日益复杂,程序的配置日益增多:

各种功能的开关、参数的配置、服务器的地址……

对程序配置的期望值也越来越高:

配置修改后实时生效,灰度发布,分环境、分集群管理配置,完善的权限、审核机制……

在这样的大环境下,传统的通过配置文件、数据库等方式已经越来越无法满足开发人员对配置管理的需求。

Apollo客户端设计

apollo python 客户端 apollo客户端原理_服务端

上图简要描述了Apollo客户端的实现原理:

  1. 客户端和服务端保持了一个长连接,从而能第一时间获得配置更新的推送。(通过Http Long Polling实现)
  2. 客户端还会定时从Apollo配置中心服务端拉取应用的最新配置。
  3. 这是一个fallback机制,为了防止推送机制失效导致配置不更新
  4. 客户端定时拉取会上报本地版本,所以一般情况下,对于定时拉取的操作,服务端都会返回304 - Not Modified
  5. 定时频率默认为每5分钟拉取一次,客户端也可以通过在运行时指定System Property: apollo.refreshInterval来覆盖,单位为分钟。
  6. 客户端从Apollo配置中心服务端获取到应用的最新配置后,会保存在内存中
  7. 客户端会把从服务端获取到的配置在本地文件系统缓存一份
  8. 在遇到服务不可用,或网络不通的时候,依然能从本地恢复配置
  9. 应用程序从Apollo客户端获取最新的配置、订阅配置更新通知

之前提到了Apollo客户端和服务端保持了一个长连接,从而能第一时间获得配置更新的推送。长连接实际上是通过Http Long Polling实现的,具体而言:

  • 客户端发起一个Http请求到服务端
  • 服务端会保持住这个连接60秒
  • 如果在60秒内有客户端关心的配置变化,被保持住的客户端请求会立即返回,并告知客户端有配置变化的namespace信息,客户端会据此拉取对应namespace的最新配置
  • 如果在60秒内没有客户端关心的配置变化,那么会返回Http状态码304给客户端
  • 客户端在收到服务端请求后会立即重新发起连接,回到第一步

考虑到会有数万客户端向服务端发起长连,在服务端使用了async servlet(Spring DeferredResult)来服务Http Long Polling请求。

注:DeferredResult可以允许容器线程快速释放以便接受更多的请求提升吞吐量,让真正的业务逻辑在其他的工作线程中完成。

在实现上,考虑到Apollo的实际使用场景,以及为了尽可能减少外部依赖,Apollo没有采用外部的消息中间件,而是通过数据库实现了一个简单的消息队列。