Redis，它首先是一个内存数据库，其提供的PUB/SUB功能把消息保存在内存中(基于channel)，因此如果你的消息的持久性需求并不高且后端应用的消费能力超强的话，使用Redis PUB/SUB是比较合适的使用场景。比如官网说提供的一个网络聊天室的例子：模拟IRC，因为channel就是IRC中的服务器。用户发起连接，发布消息到channel，接收其他用户的消息。这些对于持久性的要求并不高，使
转载
2023-07-08 19:32:37
100阅读
1、 kafka是消息中间件，原理就是一个队列用来保存所有发布的消息，等到客户端一上线就推送给客户端。发布订阅模式。所有消息都保存在磁盘上。 2、redis是非关系型数据库，也有发布订阅的功能。区别： kafka是保存在磁盘上，一般用于性能要求不高的场景（日志）而且kafka是保存在磁盘上，一般用于数据量很大的场合。而且kafka设置消息过期时间是以segment为单位的，不能对每个消息都设置过期
转载
2023-05-25 13:08:54
71阅读
Kafka和Redis性能对比能力关于卡夫卡Kafka是一种分布式，分区和复制的提交日志服务，它提供消息传递功能以及独特的设计。我们可以在日志聚合过程中使用此功能。Kafka使用的基本消息传递术语是：主题：这些是发布消息的类别。
生产者：这是将消息发布到Kafka主题中的过程。
使用者：此过程订阅主题并处理消息。使用者是使用者组的一部分，该使用者组由许多使用者实例组成，以实现可伸缩性和容错能力。
转载
2023-09-18 22:51:45
153阅读
1、系统A（扣减托盘）【消息生产者】2、系统B（扣减押金）【消息消费者】业务描述：两套系统，A中扣减托盘，B中对应的要扣减押金；A中托盘归还，B中押金返还 利用消息队列来解决分布式事务过程：发送方【生产者】：（不关心接收方状态，只需要确定本地OK，消息推送即可）1、发送的消息首先需要入库（1⃣表结构：【消息ID，内容，相关事务的ID】）2、执行本地逻辑操作并commit，发送
转载
2024-05-28 09:25:33
39阅读
redis是一个基于内存的kv数据库，而kafka是分布式发布订阅消息系统.两者本身不是同样一个层次的东西。redis中有一个queue的数据类型，用来做发布/订阅系统，这个就可以和kafka进行比较了哈。存储介质不同redis queue数据是存储在内存，虽然有AOF和RDB的持久化方式，但是还是以内存为主。kafka是存储在硬盘上性能不同因为存储介质不同，理论上redis queue的性能要优
转载
2023-06-28 16:58:48
156阅读
目录2.7 延时队列2.8 重试队列代码实现Kafka 高级特性-延时/重试队列 2.7 延时队列两个follower副本都已经拉取到了leader副本的最新位置，此时又向leader副本发送拉取请求，而leader副本并没有新的消息写入，那么此时leader副本该如何处理呢？可以直接返回空的拉取结果给follower副本，不过在leader副本一直没有新消息写入的情况下，followe
转载
2023-08-11 09:51:24
79阅读
一、项目说明1、需求实时更新每个用户走的总步数；每隔5s统计一次，包括某个用户新统计时的时间、所在地点、新增步数；这里为了方便只将每个用户以及实时更新的步数总和两个维度保存到redis数据库中；2、业务流程首先造一些模拟数据实时传入kafka队列，然后sparkStreaming从kafka实时读取这些模拟数据并做相关分析，最终将分析结果存入redis;3、大数据组件kafka: kaf
转载
2023-09-23 13:14:50
103阅读
前言描述 生产初级，Service服务较少，访问量较少，随着业务量的不断增加，日志量成倍增长，然后就遇到了消息队列redis被充爆，不能满足应用的情况。针对此情况，我们来分析下可用的消息多列。官方推荐消息队列 redis、kafka、rabbitmq。我们现在针对这三种进行比较。从消息订阅模式比较 Redisredis是基于内存的应用，消息都存放在内存中，写入读取速度快，但是受内存容量的限制，容易
转载
2023-08-10 13:16:11
134阅读
在开发java SparkStreaming的时候一定会遇到kafka偏移量管理的问题上，因为需要考虑到各式各样的容灾处理。如果我们采用kafka来自行处理kafka偏移量的话非常简单，因为kafka本身就有这个机制可以定时存储消费者分组的偏移量，但是这样会有重复消费的情况还有就是如果采用这种方式那么就是将kafka的offset
转载
2023-09-30 20:39:59
71阅读
最近面试蚂蚁金服一面的时候，和面试官聊项目问题的时候，发现我这边业务实现的top100场景好像没有实现exactly once语义，我们项目的offset是存储在zk中，然后业务处理完毕后，最后再提交offset更新到zk，这种时候就会出现一个问题就是如果业务处理完毕，数据已经更新到redis中进行了累加，然后offset更新zk没成功宕机了，再次重启的时候就会读取老的offset导致数据重复
转载
2024-06-18 05:39:29
31阅读
第三:Redis 发布订阅除了表示不同的topic 外，并不支持分组，比如Kafka中发布一个东西，多个订阅者可以分组，同一个组里只有一个订阅者会收到该消息，这样可以用作负载均衡。第四:Redis，它首先是一个内存数据库，其提供的PUB/SUB功能把消息保存在内存中(基于channel)，因此如果你的消息的持久性需求并不高且后端应用的消费能力超强的话，使用Redis PUB/SUB是比较合适的使用
转载
2024-06-28 14:04:30
22阅读
前言 高可用需要解决的问题主要有单点故障和大流量。Redis部署架构实现备注单点部署单点启动可能造成单点故障主从复制Slave主动请求，通过RDB同步流量大导致RDB文件过大，同步慢Codis代理模式+主从复制分桶1024个，不支持KEYSRedis Cluster去中心化，客户端分片分桶16384，不支持SELECT，官方出品Codis架构 Codis-HA作为协调者也可能出现单点故障，同样
转载
2023-05-25 15:35:42
182阅读
一、rabbitmq和kafka区别1、架构rabbitmq遵循AMQP协议，以broker（exchange、binding,queue）为中心，有消息确认机制（confirm）,生产者发消息，broker就返回确认。queue消息推送至消费者。kafka遵循MQ协议，以consumer为中心，批量拉取消息。没有消息确认机制。2、吞吐量kafka高吞吐量，批量处理。rabbitmq支持事务，可靠
转载
2024-02-25 08:28:19
21阅读
不同于Redis和MemcacheQ等内存消息队列，Kafka的设计是把所有的Message都要写入速度低容量大的硬盘，以此来换取更强的存储能力。实际上，Kafka使用硬盘并没有带来过多的性能损失，“规规矩矩”的抄了一条“近道”。首先，说“规规矩矩”是因为Kafka在磁盘上只做Sequence I/O，由于消息系统读写的特殊性，这并不存在什么问题。关于磁盘I/O的性能，引用一组Kafka官方给出的
转载
2024-02-22 23:36:48
75阅读
1、redis和kafkaRedis：noSQL类型数据库，键值存储结构，包含客户端和服务器两个主要过程，没有表/行/列/函数等结构，不支持select/insert/delete等操作命令Kafka：发布-订阅消息系统，因其高吞吐量的特性，几乎可以认为达到实时处理数据的要求 2、区别2-1、订阅Redis：支持基于推送的消息传递，这意味着发布到redis的消息将立即自动传递给订阅者Ka
转载
2023-06-01 15:23:12
231阅读
redis push/pop VS pub/sub（1）push/pop每条消息只会有一个消费者消费，而pub/sub可以有多个对于任务队列来说，push/pop足够，但真的在做分布式消息分发的时候，还是pub/sub吧。（2）从编程角度看，pub/sub中sub通道需要保持长连接，而push/pop, pop需要Consumer进程定时去刷新。前者可以满足实时要求，但是对编程架构有要
转载
2023-06-07 22:04:23
124阅读
①RabbitMQ： RabbitMQ 是使用 Erlang 编写的一个开源的消息队列，本身支持很多的协议：AMQP，XMPP，SMTP，STOMP，也正因如此，它非常重量级，更适合于企业级的开发同时实现了 Broker 构架，这意味着消息在发送给客户端时先在中心队列排队。对路由，负载均衡或者数据持久化都有很好的支持②Redis：
转载
2024-05-16 11:09:40
47阅读
redis rabbitmq kafka都有mq的功能但是之间还是有区别的。redis:轻量型的mq，如果量大，那么效率低。redis 消息推送（基于分布式 pub/sub）多用于实时性较高的消息推送，并不保证可靠。其他的mq和kafka保证可靠但有一些延迟（非实时系统没有保证延迟）。redis-pub/sub断电就清空，而使用redis-list作为消息推送虽然有持久化，但是又太弱智，也并非完全
转载
2024-02-02 14:12:47
34阅读
作者：otonomo将异步通信用于微服务时，通常使用消息代理。代理确保不同微服务之间的通信可靠且稳定，确保消息在系统内得到管理和监视，并且消息不会丢失。您可以选择一些消息代理，它们的规模和数据功能各不相同。这篇博客文章将比较三种最受欢迎的经纪人：RabbitMQ，Kafka和Redis。但是首先，让我们了解微服务通信。微服务通信：同步和异步微服务之间有两种常见的通信方式：同步和异步。在同步通信中，
转载
2024-02-05 02:38:25
87阅读
Kafka为啥速度快大家皆知kafka是分布式部署具有高可用性，brokers集群制+partition分区模式提升了容灾能力，数据是存储在磁盘上确保了数据的持久化。Redis速度快是因为其基于内存存储实现的数据库，内存读写省去了磁盘I/O的消耗，所以会很快，但是kafka是基于磁盘存储的，为啥具有高吞吐量呢 其一，顺序写入+mmfile1、顺序写入硬盘是机械结构，每次读写都会寻址-&g
转载
2023-08-24 23:52:42
54阅读
