缓存雪崩

缓存雪崩是指大量的应用请求无法在 Redis 缓存中进行处理，紧接着，应用将大量请求发送到数据库层，导致数据库层的压力激增。

缓存雪崩一般有两个原因导致：

1、缓存中有大量数据同时过期

解决方法：

（1）增加较小的随机数

避免给大量相同的数据设置相近的过期时间，如果业务确实需要同时失效，可增加一个较小的随机数（1~3分钟）

（2）服务降级

发生缓存雪崩时，针对不同的数据采取不同的处理方式。如果对于非核心数据，则暂停从缓存中查询这些数据，直接返回与定义信息、空值或是错误信息；对于访问核心数据，则仍然允许查询，如果缓存缺失，也可以继续通过数据库读取

2、Redis实例宕机

Redis 缓存实例发生故障宕机了，无法处理请求，这就会导致大量请求一下子积压到数据库层，从而发生缓存雪崩。

解决方法：

（1）在业务系统中实现服务熔断或请求限流机制。

服务熔断：在发生缓存雪崩时，为了防止引发连锁的数据库雪崩，甚至是整个系统的崩溃，我们暂停业务应用对缓存系统的接口访问。就是业务应用调用缓存接口时，缓存客户端并不把请求发给 Redis 缓存实例，而是直接返回，等到 Redis 缓存实例重新恢复服务后，再允许应用请求发送到缓存系统。

服务熔断虽然可以保证数据库的正常运行，但是暂停了整个缓存系统的访问，对业务应用的影响范围大。为了尽可能减少这种影响，我们也可以进行请求限流。

请求限流，就是指，我们在业务系统的请求入口前端控制每秒进入系统的请求数，避免过多的请求被发送到数据库。比如本来Redis每秒可以处理一万个请求，现在Redis崩了，这一万个请求涌入mysql，但mysql每秒只会处理一千个，其他的会被直接拒绝服务。

（2）事前预防

通过主从节点的方式构建 Redis 缓存高可靠集群。如果 Redis 缓存的主节点故障宕机了，从节点还可以切换成为主节点，继续提供缓存服务，避免了由于缓存实例宕机而导致的缓存雪崩问题。

缓存击穿

如果说缓存雪崩是指大量数据无法在缓存中进行处理，而缓存击穿则是某个访问非常频繁的热点数据无法在缓存中进行处理。于是大量的请求一下子发送到了后端数据库，使其压力激增。比如在热点数据过期失效时。

所以，对于访问特别频繁的热点数据，我们就不设置过期时间了。

缓存穿透

缓存穿透是指要访问的数据既不在 Redis 缓存中，也不在数据库中，导致请求在访问缓存时，发生缓存缺失，再去访问数据库时，发现数据库中也没有要访问的数据。

有两种情况：

  • 业务层误操作：缓存中的数据和数据库中的数据被误删除了，所以缓存和数据库中都没有数据；
  • 恶意攻击：专门访问数据库中没有的数据。

应对方案：

1、缓存空值或缺省值

可以在 Redis 中缓存一个空值或是和业务层协商确定的缺省值（例如，库存的缺省值可以设为 0）。紧接着，应用发送的后续请求再进行查询时，就可以直接从 Redis 中读取空值或缺省值，返回给业务应用了，避免了把大量请求发送给数据库处理，保持了数据库的正常运行。

2、布隆过滤器

使用布隆过滤器快速判断数据是否存在，避免从数据库中查询数据是否存在，减轻数据库压力。

布隆过滤器是如何工作的

布隆过滤器由一个初值都为 0 的 bit 数组和 N 个哈希函数组成，可以用来快速判断某个数据是否存在。当我们想标记某个数据存在时（例如，数据已被写入数据库），布隆过滤器会通过三个操作完成标记：

  • 首先，使用 N 个哈希函数，分别计算这个数据的哈希值，得到 N 个哈希值。
  • 然后，我们把这 N 个哈希值对 bit 数组的长度取模，得到每个哈希值在数组中的对应位置。
  • 最后，我们把对应位置的 bit 位设置为 1，这就完成了在布隆过滤器中标记数据的操作。

如果数据不存在（例如，数据库里没有写入数据），我们也就没有用布隆过滤器标记过数据，那么，bit 数组对应 bit 位的值仍然为 0。

3、前端进行请求检测

缓存穿透的一个原因是有大量的恶意请求访问不存在的数据，所以，一个有效的应对方案是在请求入口前端，对业务系统接收到的请求进行合法性检测，把恶意的请求（例如请求参数不合理、请求参数是非法值、请求字段不存在）直接过滤掉，不让它们访问后端缓存和数据库。这样一来，也就不会出现缓存穿透问题了。

小结

尽量使用预防式方案：

  • 针对缓存雪崩，合理地设置数据过期时间，以及搭建高可靠缓存集群；
  • 针对缓存击穿，在缓存访问非常频繁的热点数据时，不要设置过期时间；
  • 针对缓存穿透，提前在入口前端实现恶意请求检测，或者规范数据库的数据删除操作，避免误删除。