文章目录一、什么是Kafka？二、Kafka介绍1.特征2.Kafka名词解释3.Kafka常用命令1.Kafka服务2.Topic3.Produce4.Consumer5.Consumer Group6.Kafka 自带压测脚本4.Kafka API1.Topic2.Produce 一、什么是Kafka？kafka是一个分布式、支持分区的（partition）、多副本的（replica），基于
转载
2024-02-18 20:25:02
71阅读
Kafka初识Kafka是什么Kafka是最初由LinkedIn公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统。设计理念低延迟：持久化消息、消费消息时间复杂度都为O(1)高吞吐：普通机器也可以实现每秒发送10W条消息水平扩展：broker、producer、consumer都支持在线水平扩展，顺序性：每个partit
转载
2024-05-06 23:09:56
136阅读
Kafka 是一个java开发的mq中间件，依赖于zookeper，有高可用，高吞吐量等特点。优势可靠性：partition机制和replication机制，使消息的传递有着很高的可靠性稳定性，支持集群高性能，高吞吐量，即使在TB的数据存储情况下，仍然表现出很好的稳定性支持消息广播和单播，可以根据重设offset实现消息的重复消费角色Broker：kafka集群由一个或多个kafka server
转载
2024-03-19 02:24:08
63阅读
Kafka 位移主题位移格式创建位移提交位移删除位移 Kafka 的内部主题 (Internal Topic) : __consumer_offsets (位移主题，Offsets Topic)老 Consumer 会将位移消息提交到 ZK 中保存当 Consumer 重启后，能自动从 ZK 中读取位移数据，继续消费上次位置Broker 不用保存位移数据，减少 Broker 开销但 ZK 不适合
转载
2024-03-31 17:05:24
129阅读
消息
消息是Kafka中最基本的数据单元消息由key和value构成，它们都是byte数组
key：包含同一key的消息会全部写入同一分区中，key可以是nullvalue：value是消息的真正有效负载的数据Topic & partition & Log
Topic：每个Topic至少一个partition，每个partition对应一个offset
转载
2024-03-20 13:55:07
76阅读
kafka 的默认配置比较简单，但想把其端口暴露给外网（指定端口），则有一些额外的注意情况 kafka 的版本，0.8和0.10 的配置不同，这里以0.10.0.0 为主, 没有用集群，一台机做测试zookeeper安装与启动kafka 的安装包里自带有zookeeper,不过这里还是自行下载. 这里采用3.4.8版本 下载及安装请参考http://zookeeper.apache.org/doc
转载
2024-05-21 17:19:07
595阅读
消息消息由key和value构成，key的主要作用是根据一定的策略，将此消息路由到指定的分区中，这样就可以保证含同一key的消息全部写入同一分区中，可以为null。真正的有效数据都放在value。Topic && 分区 && Log一个Topic可以看成一个消息集合，每个topic可以有任意的生产者向其推送消息，也可以有任意个消费者消费其中的消息。每个topic可以
转载
2023-09-27 17:02:50
288阅读
1、offset位移1.1、offset的默认维护位置从0.9版本开始，consumer默认将offset保存在Kafka一个内置的topic中，该topic为__consumer_offsets，Kafka0.9版本之前，consumer默认将offset保存在Zookeeper中__consumer_offsets主题里面采用key和value的方式存储数据。key是group.id+topi
转载
2024-03-01 12:56:37
80阅读
# Java调用Kafka Topic及Key设置的科普文章
Apache Kafka 是一个分布式流处理平台，广泛应用于实时数据流的构建与处理。它允许用户以高效和可靠的方式发布和订阅数据流。本文将介绍如何在 Java 中调用 Kafka Topic，并设置消息的 Key，同时提供代码示例和相关的图示。
## 什么是 Kafka Topic
Kafka Topic 是 Kafka 中的数据分
Kafka入门简介 什么是Kafka？Kafka是一个分布式流处理系统，流处理系统使它可以像消息队列一样publish(发布)或者subscribe(订阅)消息，分布式提供了容错性，并发处理消息的机制。Kafka的基本概念？kafka运行在集群上，集群包含一个或多个服务器。kafka把消息存在topic中，每一条消息包含键值（key），值（value）和时间戳（timestamp）。ka
转载
2024-04-25 18:08:42
121阅读
Kafka本文全部内容为个人理解、做记录用，如果有误请不吝指正 一个分布式的，基于pub-sub的消息队列。Kafka是消费者主动拉取消息的。 在大数据领域作为消息传递中间件应用广泛，业界如果使用spark计算框架，有9成以上消息队列都是使用kafka。架构Topic：相同类型的消息按照主题来存放，不然那不就乱了么。例如你的购物车数据应该放购物车Topic，单个订单数据应该放在订单TopicPar
转载
2024-04-03 20:07:35
64阅读
Kafka架构Kafka工作流程及文件存储机制Kafka中消息是以topic进行分类的，生产者生产消息，消费者消费消息，都是面向topic的。而topic是逻辑上的概念，并没有真实存在，真实存在的式topic下的partition，是一个物理概念，每一个partition对应于一个log文件，用于存储producer生产的数据，producer生产的数据会不断追加到该log文件的末端，每条数据均有
转载
2024-03-28 12:50:50
46阅读
kafka-其他参数详解主要介绍下kafka的producer配置参数，只取了其中的一部分常用的，后续的有时间，也会补充一些，更多的详细参数，可以参考《kafka官网》，参数的内容，主要是选取《apache kafka实战》书中的一些讲解和官网相互参看topic 级别参数topic级别的参数是指覆盖 broker 端全局参数；每个不同的 topic 都可以设置自己的参数值。举例来说，上面提到的日志
转载
2024-03-19 10:23:24
62阅读
我们在开发的时候经常会用到kafka作为消息订阅模式，里面会涉及到很多参数的配置，通过参数配置取优化业务处理的过程。其中，我们最常用的参数如下:kafka:
consumer:
enable-auto-commit: true
group-id: groupid
auto-commit-interval: 1000
auto-offset-reset: late
转载
2024-03-21 11:25:50
152阅读
前面我们了解完broker的配置，现在我们来看下topic的配置：1.cleanup.policy 字符串要么是“delete”，要么是“compact”，或者两者都是。此配置指定在旧日志段上使用的保留策略。默认策略(“delete”)将在达到保留时间或大小限制时丢弃旧段。“compact”设置将启用topic上的日志压缩。服务器提供的默认配置是log.cleanup.policy。2.compr
转载
2024-02-28 09:30:34
117阅读
Kafka 是一个分布式的基于发布/订阅模式的消息队列（Message Queue），主要应用与大数据实时处理领域。1. 发布/订阅模式一对多，生产者将消息发布到 topic 中，有多个消费者订阅该主题，发布到 topic 的消息会被所有订阅者消费，被消费的数据不会立即从 topic 清除。2. 架构Kafka 存储的消息来自任意多被称为 Producer 生产者的进程。数据从而可以被发
转载
2024-05-16 07:14:35
109阅读
导读：在FlinkSQL中TableSource提供对存储在外部系统(数据库，键值存储，消息队列)或文件中的数据的访问。 在TableEnvironment中注册TableSource后，可以通过Table API或SQL查询对其进行访问。Flink 已内置了一批常用的Source & Sink，如KafkaTableSource、JDBCTableSource等。本文将基于自定义Kafk
转载
2024-07-18 17:07:35
395阅读
001、kafka简介kafka消息队列有两种消费模式，分别是点对点模式和订阅/发布模式。具体比较可以参考Kafka基础–消息队列与消费模式。下图是一个点对点的Kafka结构示意图producer：消息生产者consumer：消息消费者Topic：消息主题partition：主题内分区Brokers：消息服务器Groups：消费者组002、关于TopicKafka需要对消息进行逻辑上的分类(而to
转载
2024-03-06 17:45:56
58阅读
Producer：生产者，发送消息的一方。生产者负责创建消息，然后将其投递到Kafka中。Consumer：消费者，也就是接收消息的一方。消费者连接到Kafka上并接收消息，进而进行相应的业务逻辑处理。Broker：服务代理节点。主题(topic): Kafka中的消息以主题为单位进行归类，生产者负责将消息发送到特定的主题（发送到Kafka集群中的每一条消息都要指定一个主题），而消费者负责订阅主题
转载
2024-03-16 13:45:38
66阅读
前段时间接到用户要求，调整某个主题在 Kafka 集群消息大小为 4M。根据 Kafka 消息大小规则设定，生产端自行将 max.request.size 调整为 4M 大小，Kafka 集群为该主题设置主题级别参数 max.message.bytes 的大小为 4M。以上是针对 Kafka 2.2.x 版本的设置，需要注意的是，在某些旧版本当中，还需要调整相关关联参数，比如 rep
转载
2024-08-06 21:06:06
188阅读
