本文是《Flink的DataSource三部曲》系列的第一篇，该系列旨在通过实战学习和了解Flink的DataSource，为以后的深入学习打好基础，由以下三部分组成：直接API：即本篇，除了准备环境和工程，还学习了StreamExecutionEnvironment提供的用来创建数据来的API；内置connector：StreamExecutionEnvironment的addSource方法，
转载
2024-03-29 10:19:19
59阅读
一、概念Kafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以 实时的处理大量数据以满足各种需求场景：比如基于hadoop的批处理系统、低延迟 的实时系统、storm/Spark流式处理引擎，web/nginx日志、访问日志，消息服务 等等，用scala语言编写，Li
转载
2024-03-22 08:23:16
69阅读
首先明确一点，RocketMQ 是基于发布订阅模型的消息中间件。所谓的发布订阅就是说，consumer 订阅了 broker 上的某个 topic，当 producer 发布消息到 broker 上的该 topic 时，consumer 就能收到该条消息。之前我们讲过 consumer group 的概念，即消费同一类消息的多个 consumer 实例组成一个消费者组，也可以称为一个 consum
转载
2024-06-27 09:02:54
199阅读
Kafka 介绍官方网址采用生产者消费者模型,具有高性能（单节点支持上千个客户端，百兆/s吞吐量）、持久性（消息直接持久化在普通磁盘上且性能好)、分布式（数据副本冗余、流量负载均衡、可扩展）、灵活性（消息长时间持久化+Client维护消费状态）的特点Kafka优势解耦与缓冲: 例如使用SparkStream时,于flume采集后的数据传输,解决了大量数据导致SparkStream崩溃的问题,flu
转载
2024-06-05 14:09:50
145阅读
一、Catalog定义 Catalog 提供了元数据信息，例如数据库、表、分区、视图以及数据库或其他外部系统中存储的函数和信息。数据处理最关键的方面之一是管理元数据。 元数据可以是临时的，例如临时表、或者通过 TableEnvironment 注册的 UDF。 元数据也可以是持久化的二、Catalog在F
转载
2024-03-19 01:44:46
40阅读
KafkaApache kafka 是一个分布式消息系统，能作为生产者消费者问题连接的框架。1. Kafka的特性 1）高吞吐/低延迟：kafka每秒可以处理几十万条消息，它的延迟最低只有几毫秒 2）可扩展性：kafka集群支持热扩展 3）持久性/可靠性：消息被持久化到本地磁盘，并且支持数据备份 4）容错性：允许集群中节点失败（若副本数量为n,则允许n-1个节点失败） 5）高并发：支持数千个客户端
转载
2024-02-03 13:56:10
60阅读
目录测试用sourceJDBCsource读取 Kafka数据常见的Source可以分为大概4类：1、基于本地集合的 source2、基于文件的 source3、基于网络套接字的 source4、自定义的 source 常见的有 Apache kafka、Amazon Kinesis Streams、RabbitMQ、Twitter Streaming API、Apache NiFi 等，当然你也
转载
2024-04-23 06:44:54
74阅读
自定义flink-kafka-connector背景：消费特定开始和结束位置的kafka数据，需求是执行flink任务消费完特定位置数据后，任务自行停止。但批任务并不支持消费kafka数据，而流任务不会自行停止，因此需要自定义kafka连接器。flink1.14版本中，DataStream Connectors 有一个属性setBounded,可以设定消费的结束位置，但Table API目前并不支
转载
2023-10-27 16:36:53
320阅读
Flink 版本： 1.15.0问题在社区看到以下问题：请教个问题哈，sink 到 kafka，采用默认的分区器，是不是每个并行度都会与kafka的partition维护一个连接
比如 10 个并行度，3个 partition，那么维护的连接数总共为 10*3 个
？ 是的
还是一个taskManager建立一个生产者 一个生产者对应多个分区
一个taskManager里面多个slot共
转载
2024-02-21 14:12:26
35阅读
Flink对接KafKa消费分词统计Demo1. 环境准备环境需要：KafKa_2.12(1.0.0以上)Java_1.8(java 8/11)Flink1.1 KafKa通过Apache KafKa官网下载KafKa，目前版本最新为KafKa_2.12-2.60，KafKa安装包内已包含Zookeeper下载完成后在本地解压可以看到文件夹KafKa_2.12-2.60 KafKa目录
转载
2024-03-27 16:31:15
267阅读
简介阿里巴巴基于Java语言开发的分布式消息中间件。RocketMQ是Mateq3.0之后的开源版本。Metaq最早源于Kafka，早期借鉴了Kafka很多优秀的设计。RocketMQ的使用场景应用解耦：系统的耦合性越高，容错性就越低。以电商应用为例，用户创建订单后，如果耦合调用库存系统、物流系统、支付系统，任何一个子系统出了故障或者因为升级等原因暂时不可用，都会造成下单操作异常，影响用户使用体验
转载
2024-06-09 19:12:17
142阅读
Flink是一个开源流处理框架，注意它是一个处理计算框架，类似Spark框架，Flink在数据摄取方面非常准确，在保持状态的同时能轻松地从故障中恢复。Flink内置引擎是一个分布式流数据流引擎，支持 流处理和批处理 ，支持和使用现有存储和部署基础架构的能力，它支持多个特定于域的库，如用于机器学习的FLinkML、用于图形分析的Gelly、用于复杂事件处理的SQL和FlinkC
转载
2024-08-07 09:54:33
86阅读
顺序保证难点本文主要分析 CDC 业务场景中任务级顺序保证，技术选型为：debezium、kafka、flink，其构成了顺序保证中至关重要的每一环，应该充分考虑、分析各组件的对于顺序的支持。首先 debezium 作为采集组件，其分别为 schema topic 和 data topic 提供了不同的时间字段，如下图 schema topic 中提供了事件时间，data topic 中提供了事件
转载
2023-07-11 17:26:09
377阅读
Kafka介绍kafka背景一、 什么是kafka1.1 kafka基本术语1.2 kafka特性1.3 kafka使用场景1.4 kafka的topic为什么要分区？二、Kafka安装2.1 kafak启动2.2 kafka常见命令三、SpringBoot+Kafka3.1 依赖引入3.2 kafka配置3.3 生产者config3.4 消费者config3.5 注册topic并发送消息3.6
转载
2023-08-06 11:40:59
222阅读
Kafka官网：Apache KafkaKafka作用：削峰，蓄水池，离线处理（例：日志数据采集：flume->kafka->hdfs），实时处理（例：数据传输到kafka->对接flink、sparkstreaming）顺序保证： Kafka可以保证同一个分区里的消息是有序的。考虑一种情况，如果retries为非零整数，同时max.in.flight.requests.per.
转载
2024-03-21 08:49:13
0阅读
背景： flink1.8 实现暂停消费kafka 并能接受到通知，继续消费kafka需求描述：实现思路类1：package org.apache.flink.streaming.connectors.kafka.internal;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.cli
转载
2024-03-16 11:58:25
556阅读
1.Flink 消费者精确到一次语义 a.setStartFromGroupOffsets()【默认消费策略】 默认读取上次保存的offset信息 如果是应用第一次启动，读取不到上次的offset信息，则会根据这个参数auto.offset.reset的值来进行消费数据 
目录一，代码部分1，配置kafka2，消费kafka和处理数据3，配置hdfs信息以及落盘3.1 配置滚动落盘信息。3.2 配置分桶策略二，需要增加的依赖三，遇到的问题： 一，代码部分1，配置kafkafinal StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
转载
2024-02-23 07:05:45
535阅读
背景最近项目中使用Flink消费kafka消息，并将消费的消息存储到mysql中，看似一个很简单的需求，在网上也有很多flink消费kafka的例子，但看了一圈也没看到能解决重复消费的问题的文章，于是在flink官网中搜索此类场景的处理方式，发现官网也没有实现flink到mysql的Exactly-Once例子，但是官网却有类似的例子来解决端到端的仅一次消费问题。这个现成的例子就是FlinkKaf
转载
2024-03-22 09:08:18
2382阅读
由于最近公司的实时数据处理引擎再向Flink迁移，所以专门设计、总结了一篇“基于Flink的实时数据消费应用/功能质量保障方法”。欢迎大家一起分享探讨在大数据方面的测试方法和经验。什么是Flink？Apache Flink是由Apache软件基金会开发的开源流处理框架，其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和流水线方式执行任意流数据程序，Flink的流水线运行
