1.redis做消息队列

使用list(列表) 数据结构常用来作为异步消息队列使用,使用rpush/lpush操作入队列,

使用 lpop 和 rpop来出队列

redis 消息队列 springboot redis 消息队列延迟处理_redis

2.队列空了怎么办

客户端是通过队列的 pop 操作来获取消息,然后进行处理。处理完了再接着获取消息,

再进行处理。

可是如果队列空了,客户端就会陷入 pop 的死循环,不停地 pop,没有数据,接着再 pop,又没有数据。这就是浪费生命的空轮询。空轮询不但拉高了客户端的 CPU,redis 的 QPS 也

会被拉高,如果这样空轮询的客户端有几十来个,Redis 的慢查询可能会显著增多。

使用sleep解决这个问题,休眠一秒钟即可

time.sleep(1) # python 睡 1s

睡眠是可以解决问题。但睡眠会导致消息的延迟增大。如果只有 1 个消费者,那么这个延迟就是 1s。如果有多个消费者,这个延迟会有所增加,因为每个消费者的睡觉时间是岔开来的

3.降低延迟

blpop/brpop,这两个指令的前缀字符 b代表的是 blocking,也就是阻塞读。

阻塞读在队列没有数据的时候,会立即进入休眠状态,一旦数据到来,则立刻醒过来。消 息的延迟几乎为零。用 blpop/brpop替代前面的 lpop/rpop,就完美解决了上面的问题。

4.空闲连接自动断开

上面的方案还有问题:空闲连接的问题

如果线程一直阻塞在哪里,Redis 的客户端连接就成了闲置连接,闲置过久,服务器一般会主动断开连接,减少闲置资源占用。这个时候 blpop/brpop会抛出异常来。所以编写客户端消费者的时候注意捕获异常,还要重试。

5.锁冲突处理

客户端在处理请求时加锁没加成功怎么办?

(1)直接抛出异常,通知用户稍后重试;

(2)sleep一会再重试;

sleep 会阻塞当前的消息处理线程,会导致队列的后续消息处理出现延迟。如果碰撞的比较频繁或者队列里消息比较多,sleep 可能并不合适。如果因为个别死锁的 key 导致加锁不成功,线程会彻底堵死,导致后续消息永远得不到及时处理。

(3)将请求转移至延时队列,过一会再试;

6.延时队列的实现

延时队列可以通过 Redis 的 zset(有序列表) 来实现。我们将消息序列化成一个字符串作为 zset 的 value,这个消息的到期处理时间作为 score,然后用多个线程轮询 zset 获取到期的任务进行处理,多个线程是为了保障可用性,万一挂了一个线程还有其它线程可以继续处理。因为有多个线程,所以需要考虑并发争抢任务,确保任务不能被多次执行。

def delay(msg):

msg.id = str(uuid.uuid4()) # 保证 value 值唯一

value = json.dumps(msg)

retry_ts = time.time() + 5 # 5 秒后重试

redis.zadd("delay-queue", retry_ts, value)

def loop():

while True:

# 最多取 1 条

values = redis.zrangebyscore("delay-queue", 0, time.time(), start=0, num=1)

if not values:

time.sleep(1) # 延时队列空的,休息 1s

continue

value = values[0] # 拿第一条,也只有一条

success = redis.zrem("delay-queue", value) # 从消息队列中移除该消息

if success: # 因为有多进程并发的可能,最终只会有一个进程可以抢到消息

msg = json.loads(value)

handle_msg(msg)

Redis 的 zrem 方法是多线程多进程争抢任务的关键,它的返回值决定了当前实例有没有抢到任务,因为 loop 方法可能会被多个线程、多个进程调用,同一个任务可能会被多个进程线程抢到,通过 zrem来决定唯一的属主。

同时,我们要注意一定要对 handle_msg 进行异常捕获,避免因为个别任务处理问题导致循环异常退出。

7.进一步优化

上面的算法中同一个任务可能会被多个进程取到之后再使用 zrem进行争抢,那些没抢到的进程都是白取了一次任务,这是浪费。可以考虑使用 lua scripting来优化一下这个逻辑,将zrangebyscore和 zrem一同挪到服务器端进行原子化操作,这样多个进程之间争抢任务时就不会出现这种浪费了

Lua 脚本, 如果有超时的消息, 就删除, 并返回这条消息, 否则返回空字符串:

String luaScript = "local resultArray = redis.call('zrangebyscore', KEYS[1], 0, ARGV[1], 'limit' , 0, 1)\n" +

"if #resultArray > 0 then\n" +

" if redis.call('zrem', KEYS[1], resultArray[1]) > 0 then\n" +

" return resultArray[1]\n" +

" else\n" +

" return ''\n" +

" end\n" +

"else\n" +

" return ''\n" +

"end";

jedis.eval(luaScript, ScriptOutputType.VALUE, new String[]{key}, String.valueOf(System.currentTimeMillis()));

问题:Redis作为消息队列为什么不能保证100%的可靠性?

Redis通过key失效监听的方式实现延时队列,用到了PubSub机制。

在Redis5之前版本存在如下两个关键问题:

(1)Redis的消息队列没有太多高级特性,没有ack保证,可靠性不高。

(2)消费者拉取到消息后,如果发生异常宕机,那这条消息就丢失了

这样如果消费者没有ack就挂掉,重启后无法再处理这个消息,导致消息丢失。

以上为学习《Redis深度历险核心原理和应用实践》笔记