消息队列技术消息队列提供一个异步通信协议，这意味着该消息的发送者和接收者不需要在同一时间与消息队列进行交互。消息被放入队列保存，直到接收方处理他们。消息队列对于一条消息中传输的数据大小有显示或隐式的限制，这样队列中才能保持良好的的消息数量。一般我们把消息的发送者称为生产者，消息的接收者称为消费者；注意定义中的那两个字“异步”，通常生产者的生产速度和消费者的消费速度是不相等的；如果两个程序始终保
文章目录1、什么是日志段2、LogSegment日志段源码2.1、LogSegment定义2.2、 append方法2.2、 read方法2.3、 recover方法2.3.1、 truncateTo文件截取2.4、 flush落盘3、总结 1、什么是日志段在kafka中，所有的消息都是落盘保存在日志中，然而如果一个topic只保存在一份文件里面的话，这份文件会非常大，为了避免这种情况kafka
转载
2024-06-03 21:00:29
41阅读
session机制zkCli、zkServer之间的连接有3种状态connecting 正在连接。如果zkServer集群了，会连接到集群的某个节点上conneted 已连接closed 关闭连接 zkCli连接上zkServer后会开启一个session（会话），如何维持session？通过心跳。zkCli每隔一定时间（默认2000ms）
转载
2024-04-08 21:54:50
82阅读
1.zookeeper简单介绍1.1作用zookeeper的作用是存储kafka的服务器信息，topic信息，和cunsumer信息。如下图：而zookeeper是个什么东西呢？简单来说就是一个具有通知机制的文件系统，引用网路上的一张图可以看出来zookeeper是一个树形的文件结构，我们可以自定义node与node的值，并对node进行监视，当node的结构或者值变化时，我们可以收到通知。1.2
问题导读：1.zookeeper在kafka的作用是什么？2.kafka中几乎不允许对消息进行“随机读写”的原因是什么？3.kafka集群consumer和producer状态信息是如何保存的？4.partitions设计的目的的根本原因是什么？ 一、入门 1、简介设计实现上完全不同，此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归类，发
监听器原理首先存在一个Main()线程。在main线程中创建Zookeeper客户端时会创建两个线程，一个负责网络连接通信(connect),一个负责监听(listener)。通过connect线程将注册的监听事件发送给Zookeeper。Zookeeper将获取到的监听事件加入到监听列表中.Zookeeper将数据变化的这个消息发送给listener线程。listener线程内部调用了proce
CentOs6.5安装Kafka集群步骤1.配置单个虚拟机1.1下载kafka安装包打开浏览器，输入网址： http://kafka.apache.org/downloads.html。每台机器的环境：CentOs 6.5 ，Java 1.8 ,kafka2.11自带Zookeeper。 1.2压缩包操作下载完成后，打开终端，在命令行输入 cd /Download，然后输入l
转载
2024-05-30 08:49:12
151阅读
kafka简介kafka官网：http://kafka.apache.org/ kafka下载页面：http://kafka.apache.org/downloads kafka配置快速入门：http://kafka.apache.org/quickstart 新版本的kafka自带有zookeeper，本篇文章记录使用自带zookeeper搭建kafka集群。為了實現
转载
2024-05-11 23:48:00
383阅读
一、Zookeeper集群安装 要求：zookeeper的 jdk 要 6以上zookeeper生产环境版本为 3.4.81.首先编辑/Etc/Hosts1. 在5台都加入：
2. 10.0.50.10 zk-kafka01
3. 10.0.50.11 zk-kafka02
4. 10.0.50.12 zk-kafka03
5. 10.0.50.13 zk-kafka
转载
2024-08-13 16:46:28
39阅读
目录前言：集群规划一、安装zookeeper1.解压文件并重命名2.创建zk数据目录3.修改配置文件 4.文件分发并修改配置文件5.编写启动脚本二、安装kafka 1.解压文件并重命名2.修改配置文件3.分发后修改配置文件4.配置环境变量5.编写启停脚本前言：集群规划linux01linux02linux03zkzkzkkafkakafkakafka一、安装zookeeper1
转载
2024-04-13 13:49:10
64阅读
1.什么是kafkaKafka是分布式发布-订阅消息系统，它最初是由LinkedIn公司开发的，之后成为Apache项目的一部分，Kafka是一个分布式，可划分的，冗余备份的持久性的日志服务，它主要用于处理流式数据。2.为什么要使用消息队列 kafka缓冲和削峰：上游数据时有突发流量，下游可能扛不住，或者下游没有足够多的机器来保证冗余，kafka在中间可以起到一个缓冲的作用，把消息暂存在kafka
转载
2024-06-01 14:56:39
38阅读
前言、Zookeeper 在 Kafka 中的作用1、Broker注册2、Topic注册3、生产者负载均衡4、消费者负载均衡5、分区 与 消费者 的关系6、消息 消费进度Offset 记录7、消费者注册一、zk节点结构二、admin2.1 preferred_replica_election2.1.1 结构2.1.3 描述2.2 reassign_partitions2.2.1
转载
2024-03-27 22:46:39
95阅读
kafka+zk详解可参考：https://blog.51cto.com/johnzheng/2371286 一、环境准备：kafka和zk需要jdk1.8环境，安装前需安装jdk1.8，参考jdk1.8安装步骤三台服务器：172.20.224.37、172.20.224.38、172.20.224.39，centos7系统。kafka至少两台做主从，zk做集群最少三台二、安装zk1、获
转载
2024-03-15 09:57:22
110阅读
Kafka概念kafka是一个分布式基于发布-订阅模式的高吞吐量、高水平拓展的消息流中间件。 【重点：高吞吐量】 kafka的基础架构中主要包含的角色有：broker、生产者、消费者；当前还包含zookeeper。 生产者：负责发送消息。 消费者：负责处理消费消息。 broker：负责存储缓冲消息，创建topic，有partition分区和replication的概念。【在0.9版本之前，kafk
转载
2024-03-27 05:45:12
58阅读
目录pom.xml文件：SparkMasterSparkWorkerMessageProtocol运行结果：在学习spark 的时候，就想着可不可以试着实现一下，spark的底层master和worker的心跳和注册的功能，于是有了下面的代码。很详细。 &nb
转载
2024-04-07 14:17:21
117阅读
Consumer liveness检测机制；Consumer livelock介绍和规避策略 我们都知道能够触发Rebalance的原因有很多，其中就包括Group中新增或者移除Consumer Client。除去客户端主动断开连接会通知Coordinator执行Client的移除操作外，Kafka本身提供了多种机制来检测Consumer liveness（Consumer的消费能力/Consu
转载
2024-07-03 06:26:05
399阅读
说明：这次的博客是自己在复旦大学一个课程的作业。有修改、调整一、基本功能若要在自己的项目中使用，可以采用阿里的Dubbo分布式服务框架。 在WEB端展示可以访问的ＲＰＣ服务，WEB端可以通过RPC客户端向制定IP地址的RPC服务器发出调用RPC服务，RPC服务端向客户端反馈提供的服务内容，WEB客户端展示内容。 只是展示动态RPC基本原理，真正的调用一般都是不是web端触发的，
转载
2023-12-04 23:44:41
54阅读
Kafka学习（五）Kafka在zookeeper中的存储一、Kafka在zookeeper中存储结构图二、分析2.1 topic注册信息2.2 partition状态信息2.3 Broker注册信息2.4 Controller epoch2.5 Controller注册信息2.6 补充Consumer and Consumer group2.7 Consumer均衡算法2.8 Consumer
转载
2024-10-10 07:16:32
59阅读
Linux下使用kafka自带zookeeper安装伪集群详解一、准备工作1 、默认已经安装好JDK 2、提前下载一个准备好的安装包：kafka_2.13-2.5.0.tgz 3、 手动下载 下载地址：http://kafka.apache.org/downloads二、开始安装上传安装包 2.解压安装包[root@iZuf63aacjtzo5bxq68kfpZ kafka]# tar -zxvf
转载
2024-06-23 10:28:43
276阅读
文章目录基本结构主题（Topic）消息分区和副本Leader副本和Follower副本偏移量日志段（LogSegment）代理（Broker）生产者（Producer）消费者和消费组ISRZooKeeper特性消息持久化高吞吐量扩展性多客户端支持Kafka Streams安全机制数据备份轻量级消息压缩应用场景 基本结构Zookeeper是Kafka用来负责集群元数据的管理、控制器的选举等操作，P
转载
2024-04-12 12:06:06
47阅读
