kafka-0.8.2 新特性  producer不再区分同步(sync)和异步方式(async),所有的请求以异步方式发送,这样提升了客户端效率。producer请求会返回一个应答对象,包括偏移量或者错误信。这种异步方地批量的发送消息到kafka broker节点,因而可以减少server端资源的开销。新的producer和所有的服务器网络通信都是
转载 2017-04-19 11:05:06
2121阅读
背景:      当今社会各种应用系统诸如商业、社交、搜索、浏览等像信息工厂一样不断的生产出各种信息,在大数据时代,我们面临例如以下几个挑战: 怎样收集这些巨大的信息怎样分析它       怎样及时做到如上两点      以上几个挑战形成了一个业务需求模型,即
转载 2024-08-06 20:01:27
43阅读
本文介绍LinkedIn开源的Kafka,久仰大名了,依照其官方文档做些翻译和二次创作。相应能够查看整份官方文档。 基本术语 topics。维护的消息源种类(更像是业务上的数据种类/分类) producer。给kafka的某个topic公布消息的进程 consumer,订阅和处理topic的消息的进
转载 2017-07-16 17:57:00
133阅读
2评论
kafka 是什么?使用场景?Kafka 是一个高吞吐的分布式消息队列系 在 kafka cluster 这一层这里,其实里面是有很.
原创 2022-07-02 00:01:12
116阅读
原创 2021-07-06 09:57:32
396阅读
一、什么是Kafka Kafka是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类,发送消息者称为Producer,消息接受者称为Consumer,此外kafka集群有多个kafka实例组成,每个实例(server)称为broker。无论是kafka集群,还是consumer都依赖于
转载 2020-09-29 08:56:00
244阅读
2评论
原创 2022-01-20 17:11:40
61阅读
Kafka是什么 Kafka是一个由Scala和java编写的高吞吐量的分布式发布订阅消息 官网地址:http://kafka.apache.org/intro 快速阅读 kafka是一个消息队列.生产者通过网络把消息发到kafka集群,集群向消费者提供消息 。每个消息 以topic为单位。消费者以组为单位。与zookeeper保持心跳连接 。只有在leader不工作时才与follower进行交
转载 2019-06-21 23:54:00
119阅读
2评论
Kafka名字的由来kafka的架构师jay kreps对于kafka的名称由来是这样讲的,由于jay kreps非常喜欢franz kafka,并且觉得kafka这个名字很酷,因此取了个和消息传递系统完全不相干的名称kafka,该名字并没有特别的含义。Kafka的诞生kafka的诞生,是为了解决linkedin的数据管道问题,起初linkedin采用了ActiveMQ来进行数据交换,大约是在20
原创 2023-10-21 14:12:32
144阅读
例如,一个消费者可以重置到一个更早的偏移,来重新处理过去的数据,或跳到最近的记录,从“现在”开始消费。Kafka中消费的实现
Kafka是开源消息系统。最初由 LinkedIn 公司开发,2011年开源,2012年10月从 Apache 毕业。项目目标是为处理实时数据,提供一个统一、高通量、低等待的平台。本文主要引入Kafka的一些相关概念及Kafka架构
原创 2024-04-22 10:55:31
64阅读
简介Kafka 是一个分布式的流处理平台,这是什么意思?流处理平台有下面三个关键功能:发布和订阅记录流, 类似于消息队列或企业消息传递系统.以容错的持久化方式存储记录流.在流产生的过程中处理它们.Kafka通常被用于两大类应用:构建实时流数据管道,可靠地在系统或应用程序之间传递数据构建对数据流进行转换或响应的实时流处理应用程序为了理解卡夫卡是如何做到这些的,让我们从下往上深入挖掘卡夫卡的能力。首先
转载 2024-06-20 04:44:36
83阅读
kafka与springboot 版本冲突问题1.问题描述:2.解决方案:3.实际操作:3.1 yml 配置:3.2 生产者:3.2.1 配置 KafkaProducer:3.2.2 配置 MessageSenderClient :3.2.3 发送消息示例 :3.3 消费者3.3.1 消费者示例:3.3.2 消费者监听测试:4.小结: 1.问题描述:kafka服务器的版本 需要与我们spring
转载 2024-02-23 23:07:00
1159阅读
介绍K
原创 2022-08-10 16:59:54
226阅读
kafka的简介和入门实践一、kafka简介1.简介2.kafka基础组成3.Kafka的特性4.Kafka的使用场景二、kafka下载与安装启动1.下载安装2.配置与启动三、springboot入门实践kafka实现消息队列 一、kafka简介1.简介Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协
转载 2024-02-26 13:32:04
45阅读
kafka:集群模式,即便只有一个节点,也是集群基于zookeeper的分布式消息系统,分布式流平台,并不单纯是个消息队列具有高吞吐率、高性能、实时及高可靠等特点 基本概念:    broker:    一个独立的kafka服务器,接受来自生产者的消息    brkoer集群:若干个broker组合起来的集群
转载 2024-03-28 03:47:40
62阅读
目录一、Kafka是什么二、Kafka主要特点为什么使用Kafka?主题和日志1.主题(Topic)2.分区(Partition)分布式高性能【Linux】 Hi,大家好,我是一个爱冒泡的程序猿 好久不见呀,时间过得好快,转眼间已经2022年,好久没更新了,希望自己今年能坚持记录反省自己一、Kafka是什么Kafka最初是由LinkedIn公司采用Scala语言开发的一个分布式、多分区、多副本且
转载 2024-02-16 11:57:02
55阅读
kafka入门介绍 半兽人 发表于: 2015-06-16 最后更新时间: 2017-10-12 订阅 174 订阅,55829 游览 kafka入门介绍 半兽人 发表于: 2015-06-16 最后更新时间: 2017-10-12 订阅 174 订阅,55829 游览 kafka入门介绍 半兽人 
转载 2017-11-29 10:09:00
72阅读
2评论
1、Kafka介绍 1) 在流式计算中,Kafka一般用来缓存数据,Storm通过消费Kafka的数据进行计算。 2)Kafka是一个分布式消息队列。 3)Kafka对消息保存时根据Topic进行归类,发送消息者称为Producer,消息接受者称为Consumer。 此外kafka集群有多个kafk
原创 2021-07-15 11:41:22
246阅读
小知识,大挑战!本文正在参与「程序员必备小知识」创作活动 本文已参与 「掘力星计划」 ,赢取创作大礼包,挑战创作激励金。 Kafka 分区 关于 Kafka 分区 每一个分区都是一个有序、不可变的消息
原创 2022-04-12 15:34:28
1129阅读
  • 1
  • 2
  • 3
  • 4
  • 5