诞生的场景背景Kafka 作为一款明星级产品，能够彻底满足海量数据场景下高吞吐、高并发需求，在短短几年内，已经被阿里、腾讯、百度、字节跳动、Netflix、Twitter 等超一线大厂视为技术核心。然而，技术的世界从没有“三十年河东三十年河西”的说法，夸张地比喻一下：很多技术经常是今天诞生、明天爆火、后天淘汰。Kafka 被誉为消息传递系统之王，它全面具备：高吞吐量、低延迟、容错、持久性、可伸缩性
转载
2024-05-29 09:17:37
37阅读
本文作者是 David Kjerrumgaard，目前任职于 Splunk，Apache Pulsar 和 Apache NiFi 项目贡献者。译者为 Sijia@StreamNative。关于 Apache PulsarApache Pulsar 是 Apache 软件基金会顶级项目，是下一代云原生分布式消息流平台，集消息、存储、轻量化函数式计算为一体，采用计算与存储分离架构设计，支持多租户、持
转载
2024-02-09 16:02:57
104阅读
该产品由原始观测数据（0 级）通过数据编辑（如位重新调整和添加轨道信息）生成。它是重建的、未经处理的信号数据，带有辐射和几何
原创
2024-06-18 14:25:45
95阅读
ALSA 学习笔记ALSA 学习笔记 因为项目用的kernel为2.6.17，所以以下分析都是基于2.6.17版本，在这个版本里，没有asoc等。 &
转载
2024-08-15 15:13:33
84阅读
The global 25m PALSAR/PALSAR-2 mosaic is a seamless global SAR image created
原创
2022-05-26 01:37:26
332阅读
ALOS_PALSAR数据介绍
原创
2022-10-09 14:23:56
1082阅读
ALOS_PALSAR_12.5m分辨率DEM数据下载1. ALOS_PALSAR数据介绍2. (12.5m分辨率)DEM下载流程2.1 数据下载网站2.2
原创
2022-10-09 14:22:22
1808阅读
2020 年双十一交易峰值达到 58.3 W笔/秒，消息中间件 RocketMQ 继续数年 0 故障丝般顺滑地完美支持了整个集团大促的各类业务平稳。今年双十一大促中，消息中间件 RocketMQ 发生了以下几个方面的变化：云原生化实践。完成运维层面的云原生化改造，实现 Kubernetes 化。性能优化。消息过滤优化交易集群性能提升 30%。全新的消费模型。对于延迟敏感业务提供新的消费模式，降低因
转载
2024-01-15 21:56:10
62阅读
kafka学习之监控与对接flumekafka和flume的对接kafkaSource,kafkaSink,kafkaChannel组件描述1) KafkaSource
用于从kafka中读取数据.
KafkaSource对于flume来讲是一个source的角色. 对于Kafka来讲，是一个消费者的角色.
2) KafkaSink
用于往Kafka中写数据
Kafk
转载
2024-03-27 16:39:10
142阅读
目录 一、简介二、术语介绍2.1 producter 2.2 consumer2.3 Topic2.4 partition2.5 broker2.6 leader2.7 Follower2.8 replica三 使用场景3.1 削峰3.2 异步3.3 解耦3.4 大数据业务四 kafk
转载
2024-06-05 01:03:53
123阅读
FlinkSql 1.11 读写 Kafka 简单测试。FlinkSql 读 Kafkaimport org.apache.flink.streaming.api.scala._import org.apache.flink.table.api.EnvironmentSettingsimport org.apache.flink.table.api.bridge.scala.StreamTableEnvironmentimport org.apache.flink.types.Row.
原创
2021-08-31 13:48:02
1248阅读
文件下载Java 8ZooKeeper 3.6.3Kafka 3.0.0下载到本地。使用Xftp或其他工具上传到虚拟机。Java解压：[root@M
原创
2022-11-10 00:04:31
393阅读
KafKa搭建1.上传压缩包2.解压，配置环境变量（master、node1、node2）#解压tar -xvf kafka_2.11-1.0.0.tgz -C /usr/local/soft/• 1• 2#配置环境变量
vim /etc/profile
#追加以下内容
#kafka
export KAFKA_HOME=/usr/local/soft/kafka_2.11-1.0.0
export
原创
精选
2021-10-24 15:59:37
1477阅读
点赞
Kafka导航【Kafka】
原创
2024-05-10 14:29:53
55阅读
本文主要讲解 Kafka 是什么、Kafka 的架构包括工作流程和存储机制，以及生产者和消费者。最终大家会掌握 Kafka 中最重要的概念，分别是 Broker、Producer、Consumer、Consumer Group、Topic、Partition、Replica、Leader、Follower，这是学会和理解 Kafka 的基础和必备内容。定义Kafka 是一个分布式的基于发布/订阅模
转载
2024-06-02 10:12:52
160阅读
点赞
1评论
在现实业务中，Kafka经常会遇到的一个集成场景就是，从数据库获取数据，因为关系数据库是一个非常丰富的事件源。数据库中的现有数据以及对该数据的任何更改都可以流式传输到Kafka主题中，在这里这些事件可用于驱动应用，也可以流式传输到其它数据存储（比如搜索引擎或者缓存）用于分析等。实现这个需求有很多种做法，但是在本文中，会聚焦其中的一个解决方案，即Kafka连接器中的JDBC连接器，讲述如何进行配置
转载
2024-08-07 08:24:14
639阅读
标题: flink-connector中kafka和upsertkafka的介绍 日期: 2021-08-03 16:46:43 标签: [flink, kafka, upsert kafka, 实时数仓] 分类: 数据仓库今天来说下flink sql中常用到的connector：kafka，它承接了实时的消息数据，进行处理，当然，这些消息的特点有可能不一样，怎样处理，得到实时的结果，提供给分析、
转载
2024-03-16 10:35:19
506阅读
Kafka高吞吐的实现顺序读写零拷贝topic分区批量发送数据压缩 顺序读写kafka的消息是不断追加到文件中的，这个特点使得kafka可以充分利用磁盘的顺序读写性能，什么是顺序读写，顺序读写不需要磁盘磁头来回的寻道，，只需要很少的扇区寻找时间，所以速度远大于随机读写（hbase底层就是随机读写）零拷贝利用java中的nio，摒弃了用户客户端第三方的内存，实现了通道对拷。 这里要提及一些文件系统
转载
2024-03-31 19:40:00
161阅读
kafka概述1.1定义Kafka传统定义：Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。发布/订阅：消息的发布者不会将消息直接发送给特定的订阅者，而是将发布的消息分为不同的类别，订阅者只接收感兴趣的消息。Kafka****最 新定义 ： Kafka是 一个开源的 分 布式事件流平台 （Event Streaming Platfor
转载
2024-04-01 09:48:06
62阅读
前段时间leader让我选择一个东西深入研究下，我选择了Kafka，学习中以书籍为主，也在网上找了很多参考文献，其实Kafka主要就是网络通行和数据存储，更像是一个数据库，客户端的行为就是提交数据和获取数据，经过了一个月的陆陆续续的学历和文档整理，这次做一次整合怪，把总体的学习分享出来。下一步准备抽时间研究kafka源码。内容非常滴多，有兴趣的同学可以收藏起来慢慢看。一 kafka摘要Kafka摘
转载
2024-05-22 09:36:07
194阅读
