MQ kafka是以吞吐量高而闻名，不过其数据稳定性一般，而且无法保证消息有序性。阿里巴巴的RocketMQ基于Kafka的原理，利用Java代码打造，弥补了Kafka的缺点，继承了其高吞吐的优势，其客户端目前以Java为主。RabbitMQ基于面向并发的语言Erlang开发，吞吐量不如Kafka，但是消息可靠性较好。也能有效的保证消息的有序性。因为Erlang的原因，集群搭建比较方便。支持多种协
作为消息队列来说，企业中选择mq的还是多数，因为像Rabbit，Rocket等mq中间件都属于很成熟的产品，性能一般但可靠性较强， 而kafka原本设计的初衷是日志统计分析，现在基于大数据的背景下也可以做运营数据的分析统计，而redis的主要场景是内存数据库，作为消息队列来说可靠性太差，而且速度太依赖网络IO，在服务器本机上的速度较快，且容易出现数据堆积的问题，在比较轻量的场合下能够适用。Rabb
转载
2024-06-18 22:02:22
51阅读
kafka和spark总结本文涉及到的技术版本号：scala 2.11.8kafka1.1.0spark2.3.1kafka简介kafka是一个分布式流平台，流媒体平台有三个功能发布和订阅记录流以容错的持久化的方式存储记录流发生数据时对流进行处理kafka通常用于两大类应用构件在系统或应用程序之间可靠获取数据的实时数据管道构件转换或响应数据流的实时流应用程序kafka的几个概念kafka运行在集群
转载
2023-08-27 22:00:17
125阅读
文章目录一、Kafka和ActiveMQ基本对比二、从消费模式看activemq与kafka三、应用场景总结 我们知道，在大数据开发过程中我们经常会使用到消息队列类型的组件。消息队列中间件主要用来实现异步消息、应用解耦、流量削峰等功能。那么，业务中常见的就是Kafka与ActiveMQ。同为消息中间件，二者的区别究竟在哪里，今天我们就做一个简单的对比。。 一、Kafka和ActiveMQ基本对
转载
2024-06-24 08:18:01
89阅读
Rocketmq和Kafka区别Kafka号称大数据的杀手锏，谈到大数据领域内的消息传输，则绕不开Kafka，这款为大数据而生的消息中间件，以其百万级TPS的吞吐量名声大噪，迅速成为大数据领域的宠儿，在数据采集、传输、存储的过程中发挥着举足轻重的作用。Apache Kafka它最初由LinkedIn公司基于独特的设计实现为一个分布式的提交日志系统( a distributed commit log
转载
2024-03-21 10:40:33
121阅读
kafka一个topic多个partition，一个partition一主多从，leader承担所有的读写，然后同步到follower。老版本producer/consumer需要直接和zk交互，新版本直接和broker交互，因为zk写性能不好。producer内部维护内存队列，异步一定间隔或数量发送到broker，失败的话，默认重试3次；同步发送，需要实时调用flush。每个partition分
转载
2024-06-05 00:30:08
1256阅读
etcd 简介etcd 是一个可靠的分布式 key-value 存储系统，主要用于配置共享和服务注册和发现，具有以下特性：简单：基于 gRPC 定义了清晰、面向用户的 API。安全：支持可选的客户端 TLS 证书自动认证特性。快速：支持每秒 10000 次的写入。可靠：基于 Raft 算法协议保证一致性。etcd 使用 Go 语言开发，底层基于 Raft 共识算法管理高可用的复制日志。当前已经被许
转载
2024-03-03 15:26:16
202阅读
Kafka基本概念 Message 消息，就是要发送的内容，一般包装成一个消息对象。Topic 通俗来讲的话，就是放置“消息”的地方，也就是说消息投递的一个容器。假如把消息看作是信封的话，那么 Topic 就是一个邮箱 。Partition && Log Partition 分区，可以理解为一个逻辑上的分区，像是我们电脑的磁盘 C:, D:, E: 盘一样,Kafka 为每个分区维
转载
2024-04-09 11:39:20
33阅读
作为一个有丰富经验的微服务系统架构师，经常有人问我，“应该选择RabbitMQ还是Kafka？”。基于某些原因， 许多开发者会把这两种技术当做等价的来看待。的确，在一些案例场景下选择RabbitMQ还是Kafka没什么差别，但是这两种技术在底层实现方面是有许多差异的。不同的场景需要不同的解决方案，选错一个方案能够严重的影响你对软件的设计，开发和维护的能力。这篇文章会先介绍RabbitMQ和Apac
转载
2024-05-16 12:16:41
46阅读
kafka是一种消息队列，高吞吐量，一般网站软件行为数据放到kafka，再放到hadoop中，kafka支撑hadoop并行数据加载相关概念hadoop：分布式计算（mapreduce）+分布式文件系统（hdfs）hive：数据仓库，数据时hdfs文件，支撑类似sql语句功能hbase：基于hdfs实现对分布式数据文件（HFile）对管理，怎生能增删改查功能，使用nosql提高查找性能，适用于实时
转载
2024-02-18 23:49:59
183阅读
TL;DR Kafka is an Event Streaming Platform, while NATS is a closer to a conventional Message Queue. Kafka is optimised around the unique needs of emerging Event-Driven Architectures, which enrich the
转载
2024-05-17 03:05:13
196阅读
本文作者是 David Kjerrumgaard，目前任职于 Splunk，Apache Pulsar 和 Apache NiFi 项目贡献者。译者为 Sijia@StreamNative。关于 Apache PulsarApache Pulsar 是 Apache 软件基金会顶级项目，是下一代云原生分布式消息流平台，集消息、存储、轻量化函数式计算为一体，采用计算与存储分离架构设计，支持多租户、持
转载
2024-02-09 16:02:57
104阅读
正常大家都这么问的，但是实际上应该是想问：kafka和redis queue有什么区别？，因为redis是一个基于内存的kv数据库，而kafka是分布式发布订阅消息系统。两者本身不是同样一个层次的东西。redis中有一个queue的数据类型，用来做发布/订阅系统，这个就可以和kafka进行比较了哈。 一、存储介质不同redis queue数据是存储在内存，虽然有AOF和RDB的持久化方式
转载
2023-08-15 17:09:23
369阅读
rabbitmq
rabbitmq的消息可靠性rabbitmq-幂等引出的性能分析rocketmq
从rabbitmq到rocketmqkafka
从rocketmq到kafka：集群、一致性与重平衡pulsar
本篇综合对比
本篇先来谈谈 pulsarpulsar 可以简单的看做是 broker 集群 + bookkeeper集群 构成。broker 集群属于无状态
转载
2024-05-20 19:08:14
59阅读
kafka优势kafka相比于其他消息系统能够实现有序的并行化的读取，其他的消息系统如果需要实现有序，是通过独占的形式，那样就不能并行化，每次只能有一个消费者读取数据。kafka通过topic和partition的方式实现有序的并行化，每个消费者可以独占一个partition，同时多个消费者读取同一个topic的数据，这样就实现了并行化，但是一个消费群组的消费者不能比一个topic的分区数多，这样
转载
2024-01-28 14:17:09
67阅读
众所周知，Hadoop生态系统发展至今，已经汇集了超过二十个组件，这些组件各自致力于解决大数据处理当中所遇到的问题，同时基于Hadoop集群，也能实现很好的协作运行，共同来完成大数据处理各个环节的任务。其中涉及Kafka组件，有同学在问Hadoop和Kafka啥关系，下面我们就来解答一下。 首先，我们必须要了解一个事实，Hadoop和Kafka同属于Apache软件基金会，都是Apa
转载
2023-11-18 23:14:38
139阅读
下面写提供几个学习LCA和RMQ的博客，都很通熟易懂http://dongxicheng.org/structure/lca-rmq/这个应该是讲得最好的，且博主还有很多其他文章，可以读读，感觉认真读了这篇，都不太需要看别的资料了，百度和谷歌搜索的第一位都是他，好东西大家一起学习http://sct...
转载
2014-06-12 10:35:00
136阅读
2评论
目录概述常用消息队列常用消息队列对比应用场景消息队列的两种模式概述消息（Message） 是指在应用系统之间传递的数据。消息可以非常简单，比如只包含文本字符串，也可以更复杂，可能包含嵌入对象。消息队列（Message Queue） 是一种应用间的通信方式，也可以说是消息队列形成的模型，先进先出。消息一经发送可以立即返回，有消息系统来确保信息的可靠专递，消息发布者只管把消息发布到MQ中而不管谁来取，
转载
2024-04-09 21:31:10
23阅读
AMQP与MQTT之间的区别在过去几十年中，用于广泛部署的消息的异步排队的开放源协议是AMQP vs MQTT。最近，它已适应其新更新。
AMQP有意成为国际标准组织或国际电化学委员会的一部分，并被OASIS选择，MQTT已采用Eclipse。
AMQP使用Wire执行其消息传递队列。因此，有线协议在网络上转换为字节值的洪流。
MQTT是为具有最小带宽的受限设备而开发的。这是一个轻量级的广播系统，
字节跳动，青训营社区课程，2h如何使用Kafka一、是什么基本概念Kafka 是一个分布式的基于发布/订阅模式的消息队列（Message Queue）Kafka：分布式时间流平台，用于高性能数据管道、流分析、数据集成、关键任务应用MQ的两种模式（1）点对点模式：producer往MQ写入数据，consumer去MQ中消费，消费完后，给MQ一个状态，MQ根据这个状态delete 消息（2）发布/订阅
转载
2024-03-29 08:51:35
127阅读
