文章目录9.1 消息中间件MQ9.2 Kafka 是什么9.3 Kafka 架构9.4 为什么一个 Topic 要分成多个 Partition9.5 Kafka 如何处理旧数据9.5 副本同步9.6 Kafka 容灾9.7 Zookeeper 在 Kafka 中的作用 9.1 消息中间件MQ什么是消息中间件：消息中间件关注数据的发送和接收，主要解决的是分布式系统之间的消息传递问题。通过提供 消息
转载
2024-08-07 08:34:57
63阅读
1-Kafka定义&作用Kafka 是一种高吞吐量的分布式发布订阅消息系统，用于数据的缓冲。具有高吞吐、可持久化、可水平扩展、支持流数据处理等多种特性。作用一：消息系统。具备冗余存储、缓冲、异步通信、扩展性、可恢复性等功能。作用二：存储系统：Kafka有消息持久化和多副本机制。将消息持久化到磁盘，可以把它作为长期的数据存储系统来使用作用三：流式处理平台。Kafka 可以和流式处理框架进行集
转载
2024-03-29 11:19:51
185阅读
kafka是一个分布式消息队列。具有高性能、持久化、多副本备份、横向扩展能力。生产者往队列里写消息，消费者从队列里取消息进行业务逻辑。一般在架构设计中起到解耦、削峰、异步处理的作用。kafka对外使用topic的概念，生产者往topic里写消息，消费者从读消息。为了做到水平扩展，一个topic实际是由多个partition组成的，遇到瓶颈时，可以通过增加partition的数量来进行横向扩容。单个
转载
2024-02-26 13:30:55
192阅读
目录1.Mysql2.CHAR 与 VARCHAR 的区别？3.能说下myisam 和 innodb的区别吗？4.你能说下事务的基本特性和隔离级别吗？5.并发问题 – 脏读、不可重复读、幻读?6.事务的隔离级别？7.说说自增主键、UUID？8.mysql 的约束分类？9.drop、delete 与 truncate 的区别：10.隐式事务、显式事务？11.存储过程12.你们数据量级多大？分库分表怎
转载
2024-05-15 10:08:02
50阅读
大规模使用 Apache Kafka 的20个最佳实践快速了解Kafka的概念与架构Kafka是一种高效的分布式消息系统。在性能上，它具有内置的数据冗余度与弹性，也具有高吞吐能力和可扩展性。在功能是，它支持自动化的数据保存限制，能够以“流”的方式为应用提供数据转换，以及按照“键-值(key-value)”的建模关系“压缩”数据流。要了解各种最佳实践，您需要首先熟悉如下关键术语：• Message(
转载
2024-03-29 07:05:05
255阅读
1.什么是kafka？ Kafka是一个分布式的基于发布/订阅模式的消息队列（Message Queue），主要应用于大数据实时处理领域。 2.消息队列2.1 使用消息队列的好处 1）解耦允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。 2）可恢复性系统的一部
转载
2024-03-26 21:22:05
45阅读
kafka源码对 java 和 gradle 版本有适配要求，否则导入源码会编译不通过，笔者引用各版本如下。Kafka源码3.0java版本11grade版本7.4.1图解KafkaProducer流程源代码分析上图对 kafka 生产者初始化的整体流程进行了简单的梳理，接下来我们从代码层面对整体流程进行一个复原。源码导入idea后都会看到一个example工程包，这个包里面有生产者和消费者的例子
转载
2024-04-21 18:26:23
33阅读
1.
kafka的主题会分为多个区，生产者发送到
kafka的同一主题
的消息会分散到多个区，这其中有几个策略 实现
的原理也很简单List<PartitionInfo> partitions = cluster.partitionsForTopic(topic);
return Math.abs(
key.hashCode()) % partitions.size();简单来说是通过has
转载
2024-03-27 09:38:23
30阅读
通过上一课时的介绍我们了解到，业务线程使用 KafkaProducer.send() 方法发送 message 的时候，会先将其写入RecordAccumulator 中进行缓冲，当 RecordAccumulator 中缓存的 message 达到一定阈值的时候，会由 IO 线程批量形成请求，发送到 kafka 集群。本课时我们就重点来看一下 RecordAccumulator 这个缓冲区的结构
转载
2024-07-18 07:43:53
37阅读
Kafka 端到端源码解析 Kafka的场景Kafka概念Topic 创建与删除 Topic状态流转一些问题Topic分区初始化选择kafka producer解析 1. 发送流程2. 分区选择策略？3. 拦截器有什么作用？4. 关键数据结构5. 参数配置6. ACK机制7.一些问题Kafka网络接收层 Kafka channel如何做限流的Kaf
转载
2024-04-18 17:00:54
202阅读
1. kafka offset 存储1.1 去zookeeper依赖比较广为人知的Kafka offset存储方式为zookeeper，在0.8版本时，默认依然是zk，但是此时其实已经出现另外一种offset存储方式了，Kafka以“consumer group + topic + partition”为组合key，记录一份消费信息，存储在默认的”__consumer_offset”的Topic中
转载
2024-08-07 08:59:11
59阅读
Kafka如何保证全局有序？ 可回答：1）Kafka消费者怎么保证有序性？2）Kafka生产者写入数据怎么保证有序？3）Kafka可以保证 数据的局部有序，如何保证数据的全局有序？4）Kafka消息的有序性 问过的一些公司：快手x3，360x2，安恒信息，京东，京东(2021.07)，重庆富民银行(2021.09) 参考答案： 1、设置Key值，指定分区 kafka分区是存在K和V的，K就是分区，
转载
2024-03-15 20:16:31
191阅读
1 概述1.1 消息分区微观分区信息： 宏观分区信息： 如何保证消息消费的顺序性？1）同一分区内的消息是有序的；2）设置消息key，相同key的消息会发到同一个分区。1.2 生产者发送消息消息没有Key——轮询；消息有Key——根据key选择分区。 1.3 消费模型推拉（push/poll）模型，kafka选择了拉，由消费者主动获取消息 并记录消费进度。 老
转载
2024-03-20 19:34:28
906阅读
大部分内容是翻译至Kafka The Definitive Guide，有翻译不好的地方请见谅，想深入学习的小伙伴，建议去看一下这本书，因为理解问题翻译错误的地方希望指出，我会及时改进。KEY TEAMS Messages and Batches：kafka内的数据单位称为message。 message类似于一行或一条记录.kafka所关心的message数据只是一些简单的byte数组，kafk
转载
2024-03-15 11:00:21
64阅读
notnull与defaultcreatetablet1(idintprimarykeyauto_increment,设置了主键id,如果通过id查找就会大量减少IO时间namevarchar(16)notnull,不能为空sexenum('male','female')notnulldefault'male'不能为空且默认值为male);insertintot1(name)values('ego
原创
2018-08-24 16:49:54
1100阅读
<!DOCTYPE html> <html> <head> <meta charset="utf-8"> <title></title> <script src="../js/vue.js" type="text/javascript" charset="utf-8"></script> </hea ...
转载
2021-08-17 19:48:00
110阅读
2评论
10、消费者分区分配策略：什么是消费者组？Consumer Group 是 Kafka 提供的可扩展且具有容错性的消费者机制。组内有多个消费者或者消费实例，它们共享一个ID，称为group ID。Consumer Group 下可以有一个或多个 Consumer 实例。这里的实例可以是一个单独的进程，也可以是同一进程下的线程。在实际场景中，使用进程更为常见一些。Group ID 是一个字符串，在一
转载
2024-02-26 21:30:49
1773阅读
Kafka使用key-value键值对格式的配置，这些配置即可以在进程启动时，根据指定的properties文件加载，也可以通过编程的方式，在程序中动态指定；根据集群中角色的不同分为6种配置： broker配置：broker实例使用的默认配置； topic配置：某个topic所使用的配置，如果显式指定，则覆盖broker实例的同名默认配置； producer配置：针对producer实例； co
转载
2024-03-27 10:39:47
38阅读
在上一章中SpringBoot整合RabbitMQ，已经详细介绍了消息队列的作用，这一种我们直接来学习SpringBoot如何整合kafka发送消息。kafka简介kafka是用Scala和Java语言开发的，高吞吐量的分布式消息中间件。高吞吐量使它在大数据领域具有天然的优势，被广泛用来记录日志。kafka架构分析 注1：图中的红色箭头表示消息的流动过程，蓝色表示分区备份，绿色表示ka
转载
2024-03-23 16:54:01
114阅读
一 消费进展保存位置 位移提交的内容最终会保存到 Kafka 的内部主题_consumer_offsets 中 了消费位移对应的消息内容格式，上面是消息的 key ，下面是消息的 value可以看到 key value 中都包含了 version 宇段，这个用来标识具体的 key value 的版本信息，不同的版本对应的内容格式可能并不相同 。就目前版本而言， key 和 value的
转载
2023-10-20 18:26:54
310阅读
