启动Kafka运行环境启动zookeeper，在master、salve1和slave2上分别启动[root@master bin]# ./zkServer.sh start三个节点启动后，别忘了查看一下启动状态：[root@master bin]# ./zkServer.sh status
JMX enabled by default
Using config: /usr/local/src/z
转载
2024-04-29 09:19:55
1216阅读
利用正交方式，来概括所有的生产消费模型，如下：单生产者P多生产者NP单消费者CCPCNP多消费者NCNCPNCNP 在kafka中，生产和消费可以概括为如上四种模型，分别是一、一个生产者，一个消费者二、一个生产者，多个消费者三、多个生产者，一个消费者四、多个生产者，多个消费者其中一个生产者，一个消费者，我们可以理解为单向数据传递，生产者将数据推送至队列中，消费者向队列中获取。其实在这里还
转载
2023-12-14 06:37:00
116阅读
基本概念kafka中的重要角色 broker：一台kafka服务器就是一个broker，一个集群可有多个broker，一个broker可以容纳多个topic topic：可以理解为一个消息队列的名字 partition：分区，为了实现扩展性，一个topic可以分布到多个broker上，一个topic可以被分成多个partition，partition中的每条消息 都会被分配一个有序的i
转载
2024-03-05 14:20:23
128阅读
Kafaka面向数据流的生成转换消费的流处理平台 Kafaka基本概念Producer：消息和数据的生产者，向Kafka的一个topic发布消息的进程/代码/服务Consumer：消息和数据的消费者，订阅数据Topic并且处理其发布消息的进程/代码/服务 Consumer Group：逻辑概念，对于同一个topic，会广播给不同的group，一个group中，只有一个sonsu
转载
2024-04-19 17:44:31
42阅读
kafka0.9版本之前，offset存储在zookeeper，0.9版本以及之后，默认offset存储在kafka的一个内置的topic中。除此之外，kafka还可以选择自定义存储offset。offset的维护是相当繁琐的，因为需要考虑到消费者的Rebalance。当有新的消费者加入消费者组、已有的消费者推出消费者组或者锁订阅的主题的分区发生变化，就会触发到分区的重新分区，重新分区的过程叫做R
转载
2024-03-16 17:10:58
154阅读
1 独立消费者案例（订阅主题）（1）需求：创建一个独立消费者，消费 first 主题中数据。 （2）分析：注意：在消费者 API 代码中必须配置消费者组 id。命令行启动消费者不填写消费者组 id 会被自动填写随机的消费者组 id。步骤： （1）创建包名：com.study.kafka.consumer （2）创建类：CustomConsumerpackage com.study.kafka.co
转载
2024-07-18 11:48:16
83阅读
一，组成部分概要 Producer：消息生产者 Consumer：消息消费者 Topic：特指kafka处理的消息源的不同分类  
转载
2024-02-19 22:05:00
74阅读
kafka消息队列有两种消费模式，分别是点对点模式和订阅/发布模式。具体比较可以参考Kafka基础–消息队列与消费模式。下图是一个点对点的Kafka结构示意图，其中有以下几个部分：producer：消息生产者consumer：消息消费者Topic：消息主题partition：主题内分区Brokers：消息服务器Groups：消费者组下面聊一聊为什么Kafka需要有这些组成部分，不就是生产者生产消息
转载
2024-03-15 13:49:34
53阅读
目录Kafka基础架构Kafka的命令行操作 Kafka基础架构Producer消息生产者，负责将数据推送给 broker 的 topicConsumer消息消费者，负责从 broker 的 topic 中拉取数据，并自己进行处理Consumer Groupconsumer group 是 kafka 提供的可扩展且具有容错性的消费者机制一个消费者组可以包含多个消费者一个消费者组有一个唯一的 I
转载
2024-03-22 10:57:45
868阅读
几个基本概念： Kafka是一个分布式流数据系统，使用Zookeeper进行集群的管理。与其他消息系统类似，整个系统由生产者、Broker Server和消费者三部分组成，生产者和消费者由开发人员编写，通过API连接到Broker Server进行数据操作。我们重点关注三个概念： Topic，是Kafka下消息的类别，类似于RabbitMQ中的
转载
2024-02-20 22:19:19
85阅读
生产者工作流程 从创建一个ProducerRecord对象开始，ProducerRecord对象需要包含目标主题和要发送的内容，可以选择是否指定键或分区。在发送ProducerRecord对象时，生产者要把键值对象序列化成字节数组。接下来，数据被传给分区器。如果之前在ProducerRecord对象里指定了分区，那么分区器就不会做任何事情，直接把指定的分区返回。，如果没有指定分区，那么分区
转载
2024-03-29 10:58:34
39阅读
目录一、Kafka集群部署二、三台服务器信息三、生产者命令行操作3.1、查看操作生产者命令参数示例3.2、查看操作生产者命令参数详解3.3、生产者发送消息示例四、消费者命令行操作4.1、查看操作消费者命令参数示例4.2、查看操作消费者命令参数详解4.3、消费者消费news主题中的数据示例4.4、消费者消费news主题中所有的数据（包括历史数据）示例 一、Kafka集群部署二、三台服务器信息三台服
转载
2024-05-31 12:40:27
231阅读
摘要在这一篇文章中，我将向你介绍消费者的一些参数。这些参数影响了每次poll()请求的数据量，以及等待时间。在这之后，我将向你介绍Kafka用来保证消费者扩展性以及可用性的设计——消费者组。在消费者组的介绍中，我将重点放在了Rebalance的过程上，因为这是一个很重要又经常发生，还会导致消费者组不可用的操作。 1 消费者参数配置对于一个消费者来说，他要做的事情只有一件，那就是使用poll()来拉
转载
2024-05-22 09:53:06
151阅读
一、消费者和消费者群组在 Kafka 中，消费者通常是消费者群组的一部分，多个消费者群组共同读取同一个主题时，彼此之间互不影响。Kafka 之所以要引入消费者群组这个概念是因为 Kafka 消费者经常会做一些高延迟的操作，比如把数据写到数据库或 HDFS ，或者进行耗时的计算，在这些情况下，单个消费者无法跟上数据生成的速度。此时可以增加更多的消费者，让它们分担负载，分别处理部分分区的消息，这就是
转载
2024-02-21 12:12:13
62阅读
系列目录kafka原理和实践（一）原理：10分钟入门kafka原理和实践（二）spring-kafka简单实践kafka原理和实践（三）spring-kafka生产者源码kafka原理和实践（四）spring-kafka消费者源码kafka原理和实践（五）spring-kafka配置详解kafka原理和实践（六）总结升华 ==============正文分割线========
转载
2024-04-19 10:55:39
103阅读
温馨提示：整个 Kafka 专栏基于 kafka-2.2.1 版本。1、KafkaConsumer 概述根据 KafkaConsumer 类上的注释上来看 KafkaConsumer 具有如下特征：在 Kafka 中 KafkaConsumer 是线程不安全的。2.2.1 版本的KafkaConsumer 兼容 kafka 0.10.0 和 0.11.0 等低版本。消息偏移量与消费偏移量(消息消费
转载
2024-08-07 10:51:52
126阅读
消费者poll消息得过程（poll的意思是从broker拿消息，并不代表拿到就消费成功了）消费者建立了与broker之间的⻓连接，开始poll消息。默认一次poll 500条消息props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 500 );可以根据消费速度的快慢来设置，因为如果两次poll的时间如果超出了30s的时间间隔，kafka会认为其消费能力
转载
2023-11-28 21:55:41
180阅读
1）Producer ：消息生产者，就是向 kafka broker 发消息的客户端； 2）Consumer ：消息消费者，向 kafka broker 取消息的客户端； 3）Consumer Group （CG）：消费者组，由多个 consumer 组成。消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个组内消费者消费；消费者组之间互不影响。所有的消费者都属于某个消费者组，即消费者
转载
2024-03-05 17:44:54
148阅读
Kafka有一些重要概念，有一些刚开始学的同学会混淆，还有一部分使用Kafka很久的同学也有可能会忘了。那今天分享一波Kafka的重点概念，让大家对 Kafka有个整体的认识和感知或者重温一下，后面还会详细的解析每一个概念的作用以及更深入的原理。Producer：消息生产者，向 Kafka Broker 发消息的客户端。Consumer：消息消费者，从 Kafka Broker 取消息的客户端。C
转载
2024-04-25 10:48:03
105阅读
一.消费端丢失消息我们知道消息在被追加到Partition的时候会被分配一个offset。offset表示当前消费的Partition的所在位置，Kafka通过offset可以保证消息在分区内的顺序性。当消费者拉取到分区的某个消息之后，消费者会自动提交offset。但是会出现一个问题：当消费者刚拿到这个消息准备的时候，突然挂掉了，消息实际上没有被消费，但是offset已经被自动提交了。解决方法：关
转载
2024-03-22 09:11:42
112阅读
