文章目录​​资料​​​​导学​​​​思维导图​​​​问卷​​​​前置基础​​​​适合人群​​​​开发环境准备​​​​虚拟机网络​​​​Kafka配置​​​​上传文件并解压​​​​配置环境变量java​​​​zookeeper配置​​​​kafka配置​​​​kafka基础概念​​​​Kafka客户端操作​​​​区别​​​​Java客户端​​​​Kafka核心API之Producer​​​​API​
原创 2022-01-11 13:42:32
253阅读
1 消息系统简介1.1 为什么要用消息系统 ?解耦 各位系统之间通过消息系统这个统一的接口交换数据,无须了解彼此的存在;冗余 部分消息系统具有消息持久化能力,可规避消息处理前丢失的风险;灵活性和消除峰值 在访问量剧增的情况下,应用仍然需要继续发挥作用,使用消息队列能够使关键组件顶住突发的访问压力,而不会因为突发的超负荷的请求而完全崩溃;(节省资源)可恢复性 系统中部分组件失效并不会影响整个系统,它
转载 2021-03-27 23:43:11
267阅读
文章目录导学思维导图问卷前置基础适合人群开发环境准备虚拟机网络Kafka配置上传文件并解压配置环境变量javazookeeper配置kafka配置Linux命令插件上传文件导学实战:微信小程序问卷,微服务整合思维导图问卷前置基础java基础+boot适合人群开发环境准备主机连接工具域名虚拟化软件推荐VMhttps://www.cnblogs.com/PrayzzZ/p/11330937.htmlVirtualBOXLinux-CentOShttp://mirror.b
原创 2021-08-26 09:21:42
936阅读
Broker一台kafka服务器就是一个broker。一个集群由多个broker组成。Kafka集群包含一个或多个服务器,这种服务器被称为broker。bro
原创 2022-07-04 11:44:13
94阅读
Broker 一台kafka服务器就是一个broker。一个集群由多个broker组成 Topic Topic 就是数据主题,kafka建议根据业务系统将不同的数据存放在不同的topic中!Kafka中的Topics总是多订阅者模式,一个topic可以拥有一个或者多个消费者来订阅它的数据。一个大的T
原创 2021-08-10 13:46:04
418阅读
文章目录Kafka 核心设计原理Kafka 设计架构Kafka Rebalance 机制:Kafka 高可用原理Kafka Consumer Exactly Once Kafka 核心设计原理Kafka 设计架构Message System -> Streaming Platform (但业界现在仍以Message 为主 )特点 低延迟高吞吐水平扩展 (支持在线扩展)顺序性多场景 (
转载 2024-04-20 16:11:49
36阅读
一.Topic级别参数Topic的优先级:如果同时设置Topic级别参数和全局Broker参数,那么Topic级别优
原创 2022-03-30 21:44:31
46阅读
一.Broker 端参数Broke存储信息配置log.dirs:非常重要,指定Broker需要使用的若干文件目录路径,没有默认值
原创 2022-03-29 22:32:11
70阅读
  想象一个场景,你的一个创建订单的操作,在订单创建完成之后,需要触发一系列其他的操作,比如进行用户订单数据的统计、给用户发送短信、给用户发送邮件等等,就像这样: Kafka核心源码解读 createOrder(...){ ... statOrderData(...); sendSMS(); sendEmail(); } 代码这样写似乎没什么问题,可是过了一段时间,你给系统引进了一个用
转载 2021-06-12 22:06:14
192阅读
2评论
Kafka是2010年12月份开源的项目,采用Scala语言编写,使用了多种效率优化机制,整体架构比较新颖(push/pull),更适合异构集群。 设计目标: (1) 数据在磁盘上的存取代价为O(1) (2) 高吞吐率,在普通的服务器上每秒也能处理几十万条消息 (3) 分布式架构,能够对消息分区 (
转载 2017-07-06 13:08:00
126阅读
2评论
本文介绍Kafka核心之Producer。
原创 2023-06-01 15:34:11
232阅读
小知识,大挑战!本文正在参与「程序员必备小知识」创作活动 本文已参与 「掘力星计划」 ,赢取创作大礼包,挑战创作激励金。 Kafka 概述 特征 发布订阅基于消息队列 实时的方式对事件进行响应 分布式
原创 2022-04-12 15:37:20
182阅读
Topic :消息根据Topic进行归类Producer:发送消息者Consumer:消息接受者broker:每个kafka实例(server)Zookeeper:依赖集群保存meta信息。
原创 2022-03-24 09:54:02
85阅读
作者:京东零售 张继1,概念Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统(kafka2.8.0版本之后接触了对zk的依赖,使用自己的kRaft做集群管理,新增内部主体@metadata存储元数据信息),它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop
原创 10月前
146阅读
想象一个场景,你的一个创建订单的操作,在订单创建完成之后,需要触发一系列其他的操作,比如进行用户订单数据的统计、给用户发送短信、给用户发送邮件等等,就像这样:Kafka核心源码解读createOrder(...){  ...  statOrderData(...);  sendSMS();  sendEmail();}代码这样写似乎没什么问题,可是过了一段时间,你给系统引进了一个用户行为分析服务,
原创 2021-05-06 00:29:26
498阅读
本文介绍Kafka核心之Consumer
原创 2023-06-04 08:02:30
144阅读
小知识,大挑战!本文正在参与「程序员必备小知识」创作活动 本文已参与 「掘力星计划」 ,赢取创作大礼包,挑战创作激励金。 Kafka 核心概念 生产者 (Producer) 生产者(Producer)
原创 2022-04-12 15:34:43
106阅读
1. message 消息Flume中传递数据的单位:EventStorm中传递数据的单位:TupleKafka中传递数据的单位:Message数据存储和通信的基本单位每个生产者可以向一个Topic发布一些message如果消费者订阅相关Topic的数据,数据发布后,新添加的message被广播给消费者2. producer 生产者向broker发送消息通过zk定位到所有的broker(只需要向一
原创 2023-10-17 10:13:44
69阅读
Topic :消息根据Topic进行归类Producer:发送消息者Consumer:消息接受者broker:每个kafka实例(server)Zookeeper:依赖集群保存meta信息。
原创 2021-07-07 11:16:19
129阅读
一  、broker级静态参数1 log.dirs          数据保存路径在线上生产环境中一定要为log.dirs配置多个路径,比如/home/kafka1,/home/kafka2,/home/kafka3这样。如果有条件的话你最好保证这些目录挂载到不同的物理磁盘上。这样做有两个好处:a)提升读写性能:&nb
转载 2024-04-26 18:53:01
5阅读
  • 1
  • 2
  • 3
  • 4
  • 5