目录概述常用消息队列常用消息队列对比应用场景消息队列的两种模式概述消息（Message） 是指在应用系统之间传递的数据。消息可以非常简单，比如只包含文本字符串，也可以更复杂，可能包含嵌入对象。消息队列（Message Queue） 是一种应用间的通信方式，也可以说是消息队列形成的模型，先进先出。消息一经发送可以立即返回，有消息系统来确保信息的可靠专递，消息发布者只管把消息发布到MQ中而不管谁来取，
转载
2024-04-09 21:31:10
23阅读
作为消息队列来说，企业中选择mq的还是多数，因为像Rabbit，Rocket等mq中间件都属于很成熟的产品，性能一般但可靠性较强， 而kafka原本设计的初衷是日志统计分析，现在基于大数据的背景下也可以做运营数据的分析统计，而redis的主要场景是内存数据库，作为消息队列来说可靠性太差，而且速度太依赖网络IO，在服务器本机上的速度较快，且容易出现数据堆积的问题，在比较轻量的场合下能够适用。Rabb
转载
2024-06-18 22:02:22
51阅读
在之前的章节中我们改进了我们的日志系统，我们使用direct型交换器代替了只能盲目广播消息的fanout型交换器，这使得我们可以有选择性地接收日志。尽管使用direct型交换器改进了我们的日志系统，但它仍然有缺陷——它不能基于多个规则或标准进行路由。在我们的系统中，我呢也许希望订阅的不仅仅是严重级别的日志，而且基于日志发送方。你可能了解过systool这个unix工具，该工具不仅能路由严重级别的日
转载
2024-06-27 04:23:05
75阅读
MQ kafka是以吞吐量高而闻名，不过其数据稳定性一般，而且无法保证消息有序性。阿里巴巴的RocketMQ基于Kafka的原理，利用Java代码打造，弥补了Kafka的缺点，继承了其高吞吐的优势，其客户端目前以Java为主。RabbitMQ基于面向并发的语言Erlang开发，吞吐量不如Kafka，但是消息可靠性较好。也能有效的保证消息的有序性。因为Erlang的原因，集群搭建比较方便。支持多种协
线速问题很多人对这个线速概念存在误解。认为所谓线速能力就是路由器/交换机就像一根网线一样。而这，是不可能的。应该考虑到的一个概念就是延迟。数据包进入路由器或者交换机，存在一个核心延迟操作，这就是选路，对于路由器而言，就是路由查找，对于交换机而言，就是查询MAC/端口映射表，这个延迟是无法避开的，这个操作需要大量的计算机资源，所以不管是路由器还是交换机，数据包在内部是不可能像在线缆上那样近光速传输的
除了正常的消息发送和消费， 在使用Kafka的过程中难免会遇到一些其他高级应用类的需求， 比如消费回溯， 这个可以通过原生Kafka提供的KafkaConsumer.seek() 方法来实现， 然而类似延时队列、消息轨迹等应用需求在原生Kafka中就没有提供了。我们在使用其他消息中间件时， 比如Rabbit MQ，使用到了延时队列、消息轨迹的功能， 如果我们将应用直接切换到Kafka中， 那么只能
转载
2024-03-28 11:51:04
159阅读
一些观念的修正从 0.9 版本开始，Kafka 的标语已经从“一个高吞吐量，分布式的消息系统”改为"一个分布式流平台"。Kafka不仅仅是一个队列，而且是一个存储，有超强的堆积能力。Kafka不仅用在吞吐量高的大数据场景，也可以用在有事务要求的业务系统上，但性能较低。Kafka不是Topic越多越好，由于其设计原理，在数量达到阈值后，其性能和Topic数量成反比。引入了消息队列，就等于引入了异步，
转载
2024-07-03 21:48:11
181阅读
消息格式消息由一个固定长度的头部和可变长度的字节数组组成。头部包含了一个版本号和CRC32校验码。 [plain] view plaincopyprint?1. /**
2. * 具有N个字节的消息的格式如下
3. *
4. * 如果版本号是0
5. *
6. * 1. 1个字节的 "magic" 标记
7. *
8. * 2. 4个字节的CRC32校验码
9. *
10. *
转载
2024-08-12 14:29:42
49阅读
一、简介1、简介简 介• Kafka是Linkedin于2010年12月份开源的消息系统• 一种分布式的、基于发布/订阅的消息系统2、特点– 消息持久化：通过O(1)的磁盘数据结构提供数据的持久化– 高吞吐量：每秒百万级的消息读写– 分布式：扩展能力强– 多客户端支持：java、php、python、c++ ……– 实时性：生产者生产的message立即被消费者可见3、基本组件• Broker：每
转载
2024-07-26 00:19:47
39阅读
Kafka 消息幂等性enable.idempotence=true。设置了这个参数后，Producer自动升级成幂等性Producer。 两个重要机制： 1、Producer Id，幂等性的生产者每个客户端都有一个唯一编号id。 2、sequence number，幂等性的生产者发送的每条消息都会带相应的sequence number，Server端就是根据这个值来判断数据是否重复。如果发现se
转载
2024-03-28 06:16:41
133阅读
Kafka-常用术语(消息、生产者、消费者、集群、broker解释)消息和批次kafka的数据单元被称为消息。类似于数据库表中的一行数据。消息由字节数组组成，所以对于kafka来说，消息里的数据没有特别的格式或含义。消息可以有一个可选的元数据，也就是键，键也是一个字节数组，当消息以一种可控的方式写入不同的分区时，会用到键。最简单的例子就是为键生成一个一致性散列值，然后使用散列值对主题分区数进行取模
转载
2024-04-10 15:31:24
36阅读
一、基本概念 介绍 Kafka是一个分布式的、可分区的、可复制的消息系统。它提供了普通消息系统的功能，但具有自己独特的设计。 这个独特的设计是什么样的呢？ 首先让我们看几个基本的消息系统术语： Kafka将消息以topic为单位进行归纳。 将向Kafka topic发布消息的程序成为producers. 将预订topics并消费消息的程序成为consumer. Kafka以集群的方式运行，可以由一
转载
2024-05-20 22:24:43
111阅读
概述 Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发，之后成为Apache项目的一部分。Kafka是一个分布式的，可划分的，冗余备份的持久性的日志服务。它主要用于处理活跃的流式数据。在大数据系统中，常常会碰到一个问题，整个大数据是由各个子系统组成，数据需要在各个子系统中高性能，低延迟的不停流转。传统的企业消息系统并不是非常适合大规模的数据处理。为了已在同时搞定在线应用（消息
转载
2024-03-21 08:48:57
26阅读
一、为什么有消息系统 1、解耦合 2、异步处理 例如：电商平台，秒杀活动。一般流程会分为：1: 风险控制、2：库存锁定、3：生成订单、4：短信通知、5：更新数据 3、通过消息系统将秒杀活动业务拆分开，将不急
转载
2024-04-11 11:10:42
46阅读
kafka定义Apache kafka is a distributed streaming platform，即官方定义 kafka 是一个分布式流式计算平台。而在大部分企业开发人员中，都是把 kafka 当成消息系统使用，即它是一个分布式消息队列，很少会使用 kafka 的流式计算。消息队列的特点模式这个模式主要是针对消费者来讲的，生产者是无模式概念说法的，生产者生产消息都是主动的。点对点 p
转载
2024-03-27 09:30:09
22阅读
Kafka的消费者consumer是通过遍历KafkaStream的迭代器ConsumerIterator来消费消息的，其数据来源是分配给给KafkaStream的阻塞消息队列BlockingQueue，而BlockingQueue中的消息数据来自于针对每个Broker Server的FetchThread线程。FetchThread线程会将Broker Server上的部分partition数据
转载
2024-03-18 11:33:43
28阅读
Apache Kafka早期的logo：Apache Kafka is an open-source distributed event streaming platform used by thousands of companies for
high-performance data pipelines, streaming analytics, data integration, and
转载
2024-03-13 09:39:27
74阅读
kafka简介kafka是一个高吞吐量、分布式的发布—订阅消息系统。据kafka官网介绍，当前的kafka已经定位为一个分布式流式处理平台，它最初由LinkedIn公司开发，后来成为Apache项目的一部分。kafka核心模块使用Scala语言开发，支持多语言（java、c/c++、python、Go等）的客户端，它可以进行水平扩展和具有高吞吐量的特性基本结构kafka基本概念主题 一组消息的抽象
转载
2024-02-27 19:26:48
71阅读
简介Kafka作为最流行的消息队列，在业界有这非常广泛的使用。不少用户把日志投递到Kafka之后，再使用其他的软件如ElasticSearch进行分析。Kafka Connect 是一个专门用于在Kafka 和其他数据系统直接进行数据搬运插件，如将Kafka数据写入到S3，数据库等。 Kafka Connect阿里云日志服务是一个日志采集，查询分析与可视化的平台，服务于阿里云上数十万用户。借助
转载
2024-02-20 10:50:04
131阅读
在kafka中，消息丢失的场景有很多，但是并不是每一种场景都能被称为消息丢失，kafka中消息的丢失是有条件的。这里条件主要分为两个： 1、已经提交的消息丢失。 2、被持久化的消息的丢失。 如果不属于这两种情况的，那么严格来说就不属于消息丢失。消息丢失定义已提交消息丢失已提交的定义，就是对于发送者来说，producer发送一条消息后，收到一个或者多个broker的ack后，那么这个消息才算是已提交
转载
2024-03-26 13:09:01
30阅读
