前言社区在Flink 1.12版本通过FLIP-146提出了增强Flink SQL DynamicTableSource/Sink接口的动议，其中的一个主要工作就是让它们支持独立设置并行度。很多Sink都已经可以配置sink.parallelism参数(见FLINK-19937)，但Source还没动静。这是因为Source一直以来有两种并行的标准，一是传统的流式SourceFunction与批式
转载
2023-08-18 16:47:18
120阅读
目录1、CDC 简介1.1、什么是CDC1.2、CDC的种类1.3、Flink-CDC2、Flink CDC 网址3、运行原理5、简要安装6、开发案例7、扩展 1、CDC 简介1.1、什么是CDCCDC 是 Change Data Capture（变更数据获取）的简称。核心思想是，监测并捕获数据库的变动（包括数据或数据表的插入、更新以及删除等），将这些变更按发生的顺序完整记录下来，写入到消息中间
转载
2023-09-03 20:45:34
175阅读
目录1 自定义的数据源函数_读取1.1 应用场景：1.2 自定义连接器实现1.3 自定义连接器实现注意事项2 SourceFunction和ParallSourceFunction中定义了有两个方法2.1 Run()2.2 Cancel()2.3 代码示例3 自定义函数读取Mysql数据源3.1 代码示例 1 自定义的数据源函数_读取1.1 应用场景： 我将读取到的kafka的数据和mysql
转载
2023-07-14 17:07:51
152阅读
前言本文是两个月前参加黑马比赛时写了一半的，为了避免烂尾，今天补全发出来。Flink CDC经过长时间的发展，目前无疑是实现数据源端Pipeline的最简单直接的方式。而在1.0时代，因为存在一些主要的缺点，它还不能称得上是production-ready，这些缺点有：Debezium底层需要通过全局锁来保证全量和增量数据的一致性，对线上业务影响大；全量快照阶段只能单线程读取，大表同步非常耗时；全
转载
2023-08-28 22:07:18
326阅读
一、可行性分析Flink是一款分布式的计算引擎，它可以用来做批处理，即处理静态的数据集、历史的数据集；也可以用来做流处理，即实时地处理一些实时数据流，实时地产生数据的结果。既然是一个实时计算平台，这里主要用到他的流处理能力。他被称之为继storm、sparkStreaming 之后的第三代流处理引擎。对于应用Flink的开发者来说关系的是数据源是什么，做什么处理，数据落到哪里去。这是一个通用的数据
转载
2023-07-14 17:14:33
669阅读
相信从事大数据开发的人员，越来越多的人从事实时计算方向，flink技术就显示十分重要，说该技术重要，不仅仅是因为它的流式计算，更多的是和其他技术的整合比较强大，在开发过程中，除了写入消息中间件等场景，有的时候也需要写入传统的数据库，如Oracle或者MySql。我们习惯于连接关系型数据库的时候采用一些连接池如c3p0，在传统的业务开发或者数据量不是很大的时候，是没有问题的，但是在大数据量的情况，这
转载
2023-08-30 18:56:08
219阅读
摘要：本文将介绍如何将 MySQL 中的数据，通过 Binlog + Canal 的形式导入到 Kafka 中，继而被 Flink 消费的案例。内容包括：背景介绍环境介绍部署 TiDB Cluster部署 Zookeeper 环境部署 Kafka部署 Flink部署 MySQL部署 Canal配置数据流向一、背景介绍为了能够快速的验证整套流程的功能性，所有的组件都以单机的形式部署。如果手上的物理资
转载
2024-08-23 12:58:11
55阅读
背景适用于配置化操作流，无需终止流式程序实现配置，并且以广播流的形式在流式程序中使用；实现MySQL_Source配置信息动态定时更新；实现MySQL_Source广播流，此处使用最常用的keyby广播流KeyedBroadcastProcessFunction；摘要关键字MySQL_Source、Flink广播流；设计MyJdbcSource日常创建一个继承源富函数的类；初始化单连接；配置更新时
转载
2023-07-26 10:52:02
96阅读
作者：孙金城
摘要：本文为 Flink 生产环境应用中的疑问剖析，Flink 无法实时写入 MySQL 是初学者常见问题之一，由社区同学罗鹏程提出，Apache Flink PMC 孙金城（金竹）老师分享该问题的解决方案及分析思路。主要分为以下四部分：
问题描述解决思路原因剖析举一反三Tips：更多生产环境问题交流及反馈请订阅 Flink 中文邮件列表～问题描述Flink 1.10 使用
转载
2024-08-09 23:16:26
83阅读
一、DataSource1、Flink 做为一款流式计算框架，它可用来做批处理，即处理静态的数据集、历史的数据集；也可以用来做流处理，即实时的处理些实时数据流，实时的产生数据流结果，只要数据源源不断的过来，Flink 就能够一直计算下去，这个 Data Sources 就是数据的来源地。 2、Flink 中你可以使用 StreamExecutionEnvironm
转载
2023-11-08 18:16:18
192阅读
本文主要分享 Flink connector 相关内容，分为以下三个部分的内容：第一部分会首先介绍一下 Flink Connector 有哪些。第二部分会重点介绍在生产环境中经常使用的 kafka connector 的基本的原理以及使用方法。第三部分答疑，对社区反馈的问题进行答疑。一.Flink Streaming ConnectorFlink 是新一代流批统一的计算引擎，它需要从不同的第三方存
转载
2023-10-18 16:37:25
135阅读
前言 接着上次写剩下的查询继续学习。Flink SQL 查询环境准备：# 1. 先启动 hadoop
myhadoop start
# 2. 不需要启动 flink 只启动yarn-session即可
/opt/module/flink-1.17.0/bin/yarn-session.sh -d
# 3. 启动 flink sql 的环境 sq
转载
2024-08-23 22:53:14
72阅读
最近flink已经变得比较流行了，所以大家要了解flink并且使用flink。现在最流行的实时计算应该就是flink了，它具有了流计算和批处理功能。它可以处理有界数据和无界数据，也就是可以处理永远生产的数据。具体的细节我们不讨论，我们直接搭建一个flink功能。总体的思路是source -> transform -> sink，即从source获取相应的数据来源，然后进行数据转换，
转载
2023-07-06 16:03:57
346阅读
Flink SQL 通过jdbc连接表的DDL语句create table deal_mysql(
tenant_id String,
shop_id String,
pay_amt decimal(19, 2),
pay_qty double,
sku_code String,
category_code_b string,
write_time timestamp,
dt Date,
prim
转载
2023-09-18 00:06:31
185阅读
随着互联网飞速发展，企业业务种类会越来越多，业务数据量会越来越大，当发展到一定规模时，传统的数据存储结构逐渐无法满足企业需求，实时数据仓库就变成了一个必要的基础服务。以维表 Join 为例，数据在业务数据源中以范式表的形式存储，在分析时需要做大量的 Join 操作，降低性能。如果在数据清洗导入过程中就能流式的完成 Join，那么分析时就无需再次 Join，从而提升查询性能。
 
转载
2024-06-06 13:20:48
47阅读
flink Data Sink 介绍(六)首先 Sink 的意思是：大概可以猜到了吧！Data sink 有点把数据存储下来(落库)的意思。如上图，Source 就是数据的来源，中间的 Compute 其实就是 Flink 干的事情，可以做一系列的操作，操作完后就把计算后的数据结果 Sink 到某个地方。(可以是 MySQL、ElasticSearch、Kafka、Cassa
转载
2024-02-02 19:50:56
114阅读
Flink Cdc开源的地址为:https://github.com/ververica/flink-cdc-connectorsFlink Cdc接受binlog日志用的：dbzuimdbzuim接受mysql binlog使用的是: https://github.com/shyiko/mysql-binlog-connector-javaMySQL Cdc ConnectorFlink sql
转载
2023-08-22 21:01:56
166阅读
常用命令1. 解析 binlog 排查问题如果只是解析出来查看，可以加 --base64-output=decode-rows 不显示行格式的内容：mysqlbinlog --no-defaults -vv --base64-output=decode-rows mysql-bin.0002012. 解析指定 GTID 的事务用来分析某个事务做了什么：mysqlbinlog --no-defaul
转载
2024-07-04 10:47:04
106阅读
对于异步 I/O 操作的需求在与外部系统交互（用数据库中的数据扩充流数据）的时候，需要考虑与外部系统的通信延迟对整个流处理应用的影响。简单地访问外部数据库的数据，比如使用 MapFunction，通常意味着同步交互： MapFunction 向数据库发送一个请求然后一直等待，直到收到响应。在许多情况下，等待占据了函数运行的大部分时间。与数据库异步交互是指一个并行函数实例可以并发地处理多个请求和接收
转载
2023-09-04 15:34:40
194阅读
目录Flink-CDC简介MySQL开启binlog日志文件DataStream方式应用FlinkSQL方式应用自定义反序列化器Flink-SQLClient方式应用同步Kafka同步MySQL同步Oracle同步PG同步MongoDB操作Hive同步Hive维表炸裂函数使用 Flink-CDC简介官网地址 https://ververica.github.io/flink-cdc-connec
