1、Kafka存储文件概述kafka采取了分片和索引机制，将每个partition分为多个segment，每个segment对应一个log文件+一个index文件（1）index文件稀疏索引：没有为每一条message建立索引，采用了稀疏存储的方式，每隔一定字节的数据建立一条索引。缺点：没有建立索引的数据需要小范围内的顺序扫描操作。（2）log文件log文件分割大小：在server.propert
转载
2024-08-08 19:43:23
50阅读
一、RabbitMQ的高可用RabbitMQ基于主从模式实现高可用。它有三种模式：单机模式，普通集群模式，镜像集群模式。1.单机模式单机模式就是demo级别的，生产中不会有人使用。2.普通集群模式普通集群模式就是在多台机器上启动多个rabbitmq实例，每个机器启动一个。但是创建的queue只会放在一个rabbitmq实例上面，但是其他的实例都同步了这个queue的元数据。当用户消费的时候，如果连
转载
2024-03-21 08:51:33
173阅读
Kafka是一个支持千亿级的分布式消息传递组件，尤其是在分布式架构中被广泛应用，所以在这里也整理了一下。想了一会，，也没想好从哪个部位开撕，，哈哈，还是随便聊聊吧。。先上个基本的图吧，一、消息发送及消费过程如上图，produce将消息发送到kafka-cluster，假如有三个broker，三个分区。同时我们有个消费组中也有三个consumer再去从对应的分区中pull取数据来进行消费处理。这里我
转载
2024-10-26 18:37:38
49阅读
Kafka—— 基本介绍一、Kafka的基本介绍二、Kafka的好处三、分布式的发布与订阅系统四、Kafka的主要应用场景 一、Kafka的基本介绍官网http://kafka.apache.org/kafka使用scala语言编写，kafka是一个分布式，分区的，多副本的，多订阅者的日志系统（分布式MQ系统），可以用于搜索日志，监控日志，访问日志等。它提供了类似于JMS的特性，但是在设计实现上
转载
2024-04-02 22:11:25
93阅读
以下扩展还未实现，后续会慢慢实现。 扩展点一:kafka重试与死信队列 kafka在我们系统中用于微服务之间保证数据一致性，但是若是消费失败，无限重试？也无死信队列概念。不扩展也能实现重试与死信队列，重试可以借助第三方工具比如redis，es等，当重试一定次数，同样可以新建kafka队列，用做于死信队列，为什么想去扩展？因为引第三方插件同样带来了复杂性，也保证代码格式的统一，因为目前代码有的消费直
转载
2024-02-26 22:07:10
93阅读
Kafka是一个分布式的流式数据平台，用于发布和订阅消息。而KRaft是Kafka的一种复制协议，用于提供更好的容错性和高可用性。在本文中，我们将教你如何搭建一个Kafka KRaft集群。
### 步骤概览：
| 步骤 | 操作 |
| ------ | ------ |
| 1 | 下载和安装Kafka |
| 2 | 配置Kafka节点 |
| 3 | 启动Kafka节点 |
| 4 |
原创
2024-05-08 09:48:26
105阅读
1.Kafka的特点1.解耦： 允许你独⽴的扩展或修改两边的处理过程，只要确保它们遵守同样的接⼝约束。 2.冗余： 消息队列把数据进⾏持久化直到它们已经被完全处理，通过这⼀⽅式规避了数据丢失⻛险。许多消息队 列所采⽤的"插⼊-获取-删除"范式中，在把⼀个消息从队列中删除之前，需要你的处理系统明确的指出该消 息已经被处理完毕，从⽽确保你的数据被安全的保存直到你使⽤完毕。 3.扩展性： 因
Apache Kafka 集群搭建与使用继续之前的 Apache Kafka 部署与启动 ，单机的kafka的topic的创建，发送消息和接收消息，单播和多播消息，以及本次的集群搭建和使用。一、启动zookeeper[root@node-100 zookeeper]# cd zookeeper-3.4.12/
[root@node-100 zookeeper-3.4.12]# ls
bin
Kafka是一个分布式的、可分区的、可复制的消息系统。它提供了普通消息系统的功能，但具有自己独特的设计Kafka将消息以topic为单位进行归纳。将向Kafka topic发布消息的程序成为producers.将预订topics并消费消息的程序成为consumer.Kafka以集群的方式运行，可以由一个或多个服务组成，每个服务叫做一个broker.下面来看下如何简单的使用：首先，去官网下载kakf
一、K8s快速入门1、简介kubernetes简称k8s。是用于自动部署，扩展和管理容器化应用程序的开源系统。部署方式的进化：传统部署时代：早期，各个组织机构在物理服务器上运行应用程序。无法为物理服务器中的应用程序定义资源边界，这会导致资源分配问题。 例如，如果在物理服务器上运行多个应用程序，则可能会出现一个应用程序占用大部分资源的情况， 结果可能导致其他应用程序的性能下降。 一种解决方案是在不同
1.Producer 网络请求1.1 Producer Client角度KafkaProducer主要靠Sender来发送数据给Broker。Sender: 该线程handles the sending of produce requests to the Kafka cluster. 该线程发送metadata requests来更新它感知的整个集群的视图;另外，主要负责发送produce请求到
转载
2024-07-18 08:04:38
31阅读
简言当我们的项目写好之后必然要放在服务器上面部署，我这里记录一篇使用linux服务器发布自己写的Web项目。准备工作我们需要在服务器提前安装好jdk和tomcat安装JDK(推荐yum)
安装tomcat (推荐tar)JDK和Tomcat的文件1.使用Myeclipse等代码工具将项目打包成WAR格式在项目上单击右键选择【Export】-【MyEclipse JavaEE】文件夹-【WAR f
1、背景引入：很多同学看不懂kafka参数
今天给大家聊一个很有意思的话题，大家知道很多公司都会基于Kafka作为MQ来开发一些复杂的大型系统。而在使用Kafka的客户端编写代码与服务器交互的时候，是需要对客户端设置很多的参数的。所以我就见过很多年轻的同学，可能刚刚加入团队，对Kafka这个技术其实并不是很了解。此时就会导致他们看团队里的一些资深同事写的一些代码，会看不懂是怎么回事，不了解背后
转载
2024-10-26 16:42:39
14阅读
KafkaKafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以实时的处理大量数据以满足各种需求场景：比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎，web/nginx日志、访问日志，消息服务等等，用scala语言编写，Link
今天下午真是天朗气清啊，作者的内心也是荡漾无比，趁着这个大号的心情，给学习kafka的童鞋开一扇门~ &nb
目录 Kafka 简介使用消息队列的好处Kakfa 架构分区分区重新分配分区分配策略Leader的选举 Kafka 简介Kafka最初是由LinkedIn公司采用Scala语言开发的一个多分区、多副本并且基于ZooKeeper协调的分布式消息系统，现在已经捐献给了Apache基金会。目前Kafka已经定位为一个分布式流式处理平台，它以 高吞吐、可持久化、可水平扩展、支持流处理等多种特性而被广
转载
2024-01-02 10:57:19
55阅读
通过KIP32，Kafka的每条消息都加进了时间戳，这个KIP在0.10.0.0被加入。说到“时间”，先贴张图，娱乐一下(如果对星球大战系列电影不熟的话，请自动略过……) 这个KIP的文档在KIP-32 - Add timestamps to Kafka message下面贴一下这个KIP的关键部分，俺的注解部分用灰色的字标识。Motivation 动机This KIP tries to
Kafka作为一个分布式的流平台，这到底意味着什么？我们认为，一个流处理平台具有三个关键能力：发布和订阅消息（流），在这方面，它类似于一个消息队列或企业消息系统。以容错的方式存储消息（流）。在消息流发生时处理它们。什么是kakfa的优势？它应用于2大类应用：构建实时的流数据管道，可靠地获取系统和应用程序之间的数据。构建实时流的应用程序，对数据流进行转换或反应。要了解kafka是如何做这些事情的，让
一、基本概念 介绍 Kafka是一个分布式的、可分区的、可复制的消息系统。它提供了普通消息系统的功能，但具有自己独特的设计。 这个独特的设计是什么样的呢？ 首先让我们看几个基本的消息系统术语： Kafka将消息以topic为单位进行归纳。 将向Kafka topic发布消息的程序成为producers. 将预订topics并消费消息的程序成为consumer. Kafka以集群的方式运行，可以由一
转载
2024-08-21 19:47:08
42阅读
1.kafka基本原理简介1.1名词简介： 1.producer：
消息生产者，发布消息到 kafka 集群的终端或服务。
2.broker：
kafka 集群中包含的服务器。
3.topic：
每条发布到 kafka 集群的消息属于的类别，即 kafka 是面向 topic 的。
4.partition：
partition 是物理上的概念，每个 topic 包含一个或多个
转载
2024-03-07 11:21:05
163阅读
