原因有研发同事反馈，kafka集群无法消费了，经查看日志，发现数据磁盘占用100%，修改kafka参数（后续详细说明），删除kafka日志，仍无法启动，经与研发同事商量可以删除topic。过程1.与业务同事确定kafka数据保存时间，确定每个分片保存大小，涉及参数：参数名参数含义默认值此处配置log.retention.hours日志保存的时间，可以选择hours,minutes和ms168(7d
转载
2023-11-27 05:52:18
145阅读
kafka删除topic数据一、概述生产环境中，有一个topic的数据量非常大。这些数据不是非常重要，需要定期清理。要求：默认保持24小时，某些topic 需要保留2小时或者6小时二、清除方式主要有3个：1. 基于时间2. 基于日志大小3. 基于日志起始偏移量接下来，主要介绍基于时间的清除！kafka版本为: 2.11-1.1.0zk版本为: 3.4.13三、kafka配置
转载
2023-10-24 07:40:05
718阅读
摘要：Offset 偏移量，是针对于单个partition存在的概念。作者： gentle_zhou。Kafka，作为一款分布式消息发布和订阅系统，被广泛应用于大数据传输场景；因为其高吞吐量、内置分区、冗余及容错性的特点，可谓是一个很好的大规模消息处理应用的解决方案（行为追踪，日志收集）。基本架构组成Kafka里几有如下大基本要素：Producer：消息生产者，向Kafka cluster内的Br
转载
2024-07-18 11:43:26
38阅读
对于 Kafka Java 清空 Topic 数据的问题，很多开发者在使用 Kafka 的过程中，常常会面临需要清空 Topic 的情况。本文将围绕这个问题进行深入探讨，从背景分析到扩展应用，全面梳理清空 Topic 数据的各个环节。
在众多业务场景中，Kafka 作为消息队列工具，其高吞吐量与高可用性使得它在大规模数据处理中被广泛应用。例如，在一个电商平台，实时订单信息的处理对系统稳定性和性能
# Kafka 清空 Topic 数据的 Java 实现
Apache Kafka 是一个分布式流处理平台，广泛用于实时数据流的处理与传输。在日常使用中，我们可能会遇到需要清空某个 Topic 中的数据的场景。本文将介绍如何使用 Java 清空 Kafka Topic 数据，并提供代码示例。
## 1. 理解 Kafka Topic
Kafka 中的 Topic 是消息的分类。生产者发布消息
# 使用Java和Kafka查询Topic数据
Apache Kafka是一款流行的分布式流处理平台，广泛用于大数据的实时处理。在Kafka中，数据被存储在名为“Topic”的结构中，开发者可以利用Java客户端操作这些数据。在这篇文章中，我们将学习如何使用Java代码查询Kafka Topic中的数据，并展示一个序列图来说明整个过程。
## 什么是Kafka Topic？
在Kafka中，
原创
2024-08-23 06:17:27
89阅读
AdminClientApache提供的AdminClient中针对Topic的操作除了增删以外，自然还会有查询功能。本篇的主要内容是获取Topic列表，获取单个topic的详细信息等等。当然要完成Topic信息的查询，首先还是需要获取AdminClient，参考【Apache Kafka API AdminClient 获取对象】。更多内容请点击【Apache Kafka API AdminCl
转载
2024-03-21 10:55:31
786阅读
1. canal安装官方文档：https://github.com/alibaba/canal/wiki/Canal-Kafka-RocketMQ-QuickStart版本: canal 1.1.3 , JDK 1.8+ ,MySQL 5.7 软件下载之后解压缩，有2个配置文件需要更改:canal.properties
example/instance.properties再修改之前，先
转载
2024-06-20 06:59:56
58阅读
kafka简介：Kafka 属于分布式的消息引擎系统，它的主要功能是提供一套完备的消息发布与订阅解决方案。kafka相关术语：topic：发布订阅的对象就是topic,可以为每个业务、每个应用甚至是每类数据都创建专属的主题Partitioning：分区（Kafka 中的分区机制指的是将每个主题划分成多个分区（Partition），每个分区是一组有序的消息日志。生产者生产的每条消息只会被发送到一个分
转载
2024-01-30 19:06:09
35阅读
开发准备如果我们要开发一个kafka的程序，应该做些什么呢？ 首先，在搭建好kafka环境之后，我们要考虑的是我们是生产者还是消费者，也就是消息的发送者还是接受者。 不过在本篇中，生产者和消费者都会进行开发和讲解。在大致的了解kafka之后，我们来开发第一个程序。 这里用的开发语言是Java，构建工具Maven。 Maven的依赖如下:<dependency>
转载
2023-06-27 14:54:24
511阅读
0x00 问题描述使用kafka-topics --delete命令删除topic时并没有真正的删除，而是把topic标记为：“marked for deletion”，导致重新创建相同名称的Topic时报错“already exists”。 0x01 问题复现1. 登录Kafka集群所在的服务器，创建一个test的topic [root@cdh1 ~]# kafka-top
转载
2023-11-19 08:54:48
550阅读
最近在研究kafka，觉得需要输出点东西才能更好的吸收，遂总结与大家分享，话不多说。一、先上思维导图：二、再上kafka整体架构图：2.1、Producer：消息生产者，就是向kafka broker发消息的客户端。2.2、Consumer ：消息消费者，向kafka broker取消息的客户端2.3、Topic ：每条发布到kafka集群的消息都有一个类别，这个类别被称为主题Topic。(物理上
转载
2024-03-13 21:40:15
2120阅读
Kafka简介： Kafka是一个分布式发布——订阅消息传递系统。Kafka快速、可扩展且耐用。它保留主题中的消息源。生产者将数据写入主题，消费者从主题中读取数据。Kafka的特点：
转载
2023-07-20 12:48:31
82阅读
前言一个系统随着用户数增加，那么推送到kafka服务器的数据流量会增加。很有可能原有的服务器数量无法支撑更多的流量，接着就需要增加更多的服务来分摊流量。本篇接下来就会介绍，如何操作kafka数据在服务器之间迁移。方法一：通过增加partition数量通过增加partition数量的方式来迁移数据的方式是非常简单的，因为新建的partition肯定会均匀的分配到多节点上。首先准备三个kafka br
转载
2024-03-27 10:32:37
202阅读
在现代软件架构中，Apache Kafka 已成为一个关键的消息流处理平台，而处理 Kafka 的主题（topic）则是需要开发者特别关注的内容。在这篇博文中，我将详细描述如何解决与 Java Kafka topic 相关的问题，涵盖协议背景、报文结构、交互过程、异常检测和扩展阅读等内容。
## 协议背景
首先，我找到了Kafka协议的发展历程，并通过一幅关系图来表现不同版本之间的关系。Kaf
1.全局配置与topic级别的关系是什么？ 2.你认为topic级别配置哪些比较有用？ 1.topic级别配置用法
配置topic级别参数时，相同(参数)属性topic级别会覆盖全局的，否则默认为全局配置属性值。
创建topic参数可以设置一个或多个--config "Property(属性)",下面是创建一个topic名称为"my-topic"例子，它设置了2个参数max me
转载
2023-11-28 20:31:00
148阅读
ConcurrentModificationException：KafkaConsumer is not safe for multi-threaded access 和KafkaProducer不同的是，KafkaConsumer不是线程安全的，所以我们不能直接在没有同步保护的机制下直接启用另一个线程调用consumer的任何方法(除了wakeup)。因此，实现这个需求有两种途径：使用重量级的
转载
2023-12-13 23:03:06
250阅读
apache kafka中topic级别配置1.topic级别配置用法配置topic级别参数时，相同(参数)属性topic级别会覆盖全局的，否则默认为全局配置属性值。创建topic参数可以设置一个或多个--config "Property(属性)",下面是创建一个topic名称为"my-topic"例子，它设置了2个参数max message size 和 flush rate:1) 创建topi
转载
2023-12-09 18:17:22
221阅读
Topic 的配置与组成 之前我们仅主要介绍了Kafka Producer与Kafka Consumer 的相关配置，而未详细介绍过有关topic的配置。Topic的配置在Kafka 使用中也至关重要，因为它的参数足以影响集群性能以及topic 的行为。在一个topic被创建后，会有它默认的参数，不过有些topic的参数可能仍需要根据实际情况进行一些调整，例如：Replication F
转载
2023-09-13 16:37:35
330阅读
一、Kafka中Topic的操作kafka集群安装好了以后我们就想向kafka中添加一些数据 想要添加数据首先需要创建topic 那接下来看一下针对topic的一些操作新增Topic：指定2个分区，2个副本，注意：副本数不能大于集群中Broker的数量因为每个partition的副本必须保存在不同的broker，否则没有意义，如果partition的副本都保存在同一个broker，那么这个brok
转载
2023-08-18 09:52:52
1967阅读
