启动Kafka运行环境启动zookeeper，在master、salve1和slave2上分别启动[root@master bin]# ./zkServer.sh start三个节点启动后，别忘了查看一下启动状态：[root@master bin]# ./zkServer.sh status
JMX enabled by default
Using config: /usr/local/src/z
转载
2024-04-29 09:19:55
1216阅读
基本概念kafka中的重要角色 broker：一台kafka服务器就是一个broker，一个集群可有多个broker，一个broker可以容纳多个topic topic：可以理解为一个消息队列的名字 partition：分区，为了实现扩展性，一个topic可以分布到多个broker上，一个topic可以被分成多个partition，partition中的每条消息 都会被分配一个有序的i
转载
2024-03-05 14:20:23
128阅读
利用正交方式，来概括所有的生产消费模型，如下：单生产者P多生产者NP单消费者CCPCNP多消费者NCNCPNCNP 在kafka中，生产和消费可以概括为如上四种模型，分别是一、一个生产者，一个消费者二、一个生产者，多个消费者三、多个生产者，一个消费者四、多个生产者，多个消费者其中一个生产者，一个消费者，我们可以理解为单向数据传递，生产者将数据推送至队列中，消费者向队列中获取。其实在这里还
转载
2023-12-14 06:37:00
116阅读
1 独立消费者案例（订阅主题）（1）需求：创建一个独立消费者，消费 first 主题中数据。 （2）分析：注意：在消费者 API 代码中必须配置消费者组 id。命令行启动消费者不填写消费者组 id 会被自动填写随机的消费者组 id。步骤： （1）创建包名：com.study.kafka.consumer （2）创建类：CustomConsumerpackage com.study.kafka.co
转载
2024-07-18 11:48:16
83阅读
kafka消息队列有两种消费模式，分别是点对点模式和订阅/发布模式。具体比较可以参考Kafka基础–消息队列与消费模式。下图是一个点对点的Kafka结构示意图，其中有以下几个部分：producer：消息生产者consumer：消息消费者Topic：消息主题partition：主题内分区Brokers：消息服务器Groups：消费者组下面聊一聊为什么Kafka需要有这些组成部分，不就是生产者生产消息
转载
2024-03-15 13:49:34
53阅读
一，组成部分概要 Producer：消息生产者 Consumer：消息消费者 Topic：特指kafka处理的消息源的不同分类  
转载
2024-02-19 22:05:00
74阅读
Kafaka面向数据流的生成转换消费的流处理平台 Kafaka基本概念Producer：消息和数据的生产者，向Kafka的一个topic发布消息的进程/代码/服务Consumer：消息和数据的消费者，订阅数据Topic并且处理其发布消息的进程/代码/服务 Consumer Group：逻辑概念，对于同一个topic，会广播给不同的group，一个group中，只有一个sonsu
转载
2024-04-19 17:44:31
42阅读
kafka0.9版本之前，offset存储在zookeeper，0.9版本以及之后，默认offset存储在kafka的一个内置的topic中。除此之外，kafka还可以选择自定义存储offset。offset的维护是相当繁琐的，因为需要考虑到消费者的Rebalance。当有新的消费者加入消费者组、已有的消费者推出消费者组或者锁订阅的主题的分区发生变化，就会触发到分区的重新分区，重新分区的过程叫做R
转载
2024-03-16 17:10:58
154阅读
几个基本概念： Kafka是一个分布式流数据系统，使用Zookeeper进行集群的管理。与其他消息系统类似，整个系统由生产者、Broker Server和消费者三部分组成，生产者和消费者由开发人员编写，通过API连接到Broker Server进行数据操作。我们重点关注三个概念： Topic，是Kafka下消息的类别，类似于RabbitMQ中的
转载
2024-02-20 22:19:19
85阅读
目录Kafka基础架构Kafka的命令行操作 Kafka基础架构Producer消息生产者，负责将数据推送给 broker 的 topicConsumer消息消费者，负责从 broker 的 topic 中拉取数据，并自己进行处理Consumer Groupconsumer group 是 kafka 提供的可扩展且具有容错性的消费者机制一个消费者组可以包含多个消费者一个消费者组有一个唯一的 I
转载
2024-03-22 10:57:45
868阅读
生产者工作流程 从创建一个ProducerRecord对象开始，ProducerRecord对象需要包含目标主题和要发送的内容，可以选择是否指定键或分区。在发送ProducerRecord对象时，生产者要把键值对象序列化成字节数组。接下来，数据被传给分区器。如果之前在ProducerRecord对象里指定了分区，那么分区器就不会做任何事情，直接把指定的分区返回。，如果没有指定分区，那么分区
转载
2024-03-29 10:58:34
39阅读
目录一、Kafka集群部署二、三台服务器信息三、生产者命令行操作3.1、查看操作生产者命令参数示例3.2、查看操作生产者命令参数详解3.3、生产者发送消息示例四、消费者命令行操作4.1、查看操作消费者命令参数示例4.2、查看操作消费者命令参数详解4.3、消费者消费news主题中的数据示例4.4、消费者消费news主题中所有的数据（包括历史数据）示例 一、Kafka集群部署二、三台服务器信息三台服
转载
2024-05-31 12:40:27
231阅读
kafka基础架构 1）Producer ：消息生产者，就是向kafka broker发消息的客户端； 2）Consumer ：消息消费者，向kafka broker取消息的客户端； 3）Consumer Group （CG）：消费者组，由多个consumer组成。消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个消费者消费；消费者组之间互不影响。所有的消费者都属于某个消费者组，即消费
转载
2024-03-25 20:38:04
70阅读
消费者poll消息得过程（poll的意思是从broker拿消息，并不代表拿到就消费成功了）消费者建立了与broker之间的⻓连接，开始poll消息。默认一次poll 500条消息props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, 500 );可以根据消费速度的快慢来设置，因为如果两次poll的时间如果超出了30s的时间间隔，kafka会认为其消费能力
转载
2023-11-28 21:55:41
180阅读
1）Producer ：消息生产者，就是向 kafka broker 发消息的客户端； 2）Consumer ：消息消费者，向 kafka broker 取消息的客户端； 3）Consumer Group （CG）：消费者组，由多个 consumer 组成。消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个组内消费者消费；消费者组之间互不影响。所有的消费者都属于某个消费者组，即消费者
转载
2024-03-05 17:44:54
148阅读
Kafka有一些重要概念，有一些刚开始学的同学会混淆，还有一部分使用Kafka很久的同学也有可能会忘了。那今天分享一波Kafka的重点概念，让大家对 Kafka有个整体的认识和感知或者重温一下，后面还会详细的解析每一个概念的作用以及更深入的原理。Producer：消息生产者，向 Kafka Broker 发消息的客户端。Consumer：消息消费者，从 Kafka Broker 取消息的客户端。C
转载
2024-04-25 10:48:03
105阅读
kafka篇二11、讲一讲 kafka 的 ack 的三种机制12、消费者如何不自动提交偏移量，由应用提交？13、消费者故障，出现活锁问题如何解决？14、如何控制消费的位置15、kafka 分布式（不是单机）的情况下，如何保证消息的顺序消费?16、kafka 的高可用机制是什么？17、kafka 如何减少数据丢失18、kafka 如何不消费重复数据？比如扣款，我们不能重复的扣。 11、讲一讲 k
转载
2024-03-31 09:16:27
134阅读
一.消费端丢失消息我们知道消息在被追加到Partition的时候会被分配一个offset。offset表示当前消费的Partition的所在位置，Kafka通过offset可以保证消息在分区内的顺序性。当消费者拉取到分区的某个消息之后，消费者会自动提交offset。但是会出现一个问题：当消费者刚拿到这个消息准备的时候，突然挂掉了，消息实际上没有被消费，但是offset已经被自动提交了。解决方法：关
转载
2024-03-22 09:11:42
112阅读
概念入门消费者、消费组消费者： 消费者从订阅的主题topic消费消息，消费消息的偏移量保存在Kafka的名字是__consumer_offsets 的主题中。消费者还可以将⾃⼰的偏移量存储到Zookeeper，需要设置offset.storage=zookeeper。推荐使⽤Kafka存储消费者的偏移量。因为Zookeeper不适合⾼并发。消费组： 多个从同一个主题topic消费消息的消费者，可以
转载
2023-11-09 13:23:58
182阅读
#kafka为什么有高吞吐量1 由于接收数据时可以设置request.required.acks参数，一般设定为1或者0，即生产者发送消息0代表不关心kafka是否接收成功，也就是关闭ack；1代表kafka端leader角色的patation（多个patation，并且每个会有多个副本）接收到数据则返回成功不管副本patation的状态。2 由于消费者的消费情况不归kafka消息管理引擎维护，而
转载
2024-02-17 12:31:47
31阅读
