目前高并发项目会在数据库之上引入数据缓存:

  1. 缓存雪崩,什么是雪崩效应?
缓存雪崩可能是因为数据未加载到缓存中,或者缓存同一时间大面积的失效,从而导致所有请求都去查数据库,导致数据库 CPU 和内存负载过高,甚至宕机。

我的理解的雪崩效应是在分层服务调用的系统中,当一个较为基础的服务 a 因某种原因不可用,导致其调用服务 b , c 也不可用,而 b 的不可用又导致其调用服务 e , f 的不可用,不可用的服务就好像滚雪球一样越滚越大,最后导致系统出现严重故障。我们称之为雪崩效应。如图。

以此为例,当数据库主备都不可用时,将导致其调用服务的关联失效(红色组件)

2.基于 redis 数据过时失效的策略,在缓存过期的短时间内存在数据库短暂压力问题,如下:

为解决上述问题(主要是后者),可采用一下解决方案如下:

这里我们以两个键值对的缓存代替之前的一个,将缓存时间( key-time),和缓存数据( key-data )分离,这样

1.当缓存过期时,第一个线程发现 key-time 没有,则先更新 key-time,

2.然后去查询数据库(或任何比较耗时的数据查询方式),并更新 key-data 的值,

3.当后续线程来获取数据时,虽然第一个还没有从数据库查完并更新缓存,但发现 key-time 存在,会获取旧的数据。

虽然按这种方式获取的数据中 c 类型的数据为旧数据,但可以做到:

在缓存过期时不至于在短时间内对数据库造成较高压力(解决第 2 个问题)。

在数据库不可用,同时缓存过期的时候,其调用服务皆不可用,造成连锁反应,而已该解决方式,则可以返回过期数据,为修复数据库赢得宝贵时间(缓解雪崩效应)