flink安装、部署、测试下载flink安装包flink下载地址https://archive.apache.org/dist/flink/flink-1.5.0/因为例子不需要hadoop，下载flink-1.5.0-bin-scala_2.11.tgz即可上传至机器的/opt目录下解压tar -zxf flink-1.5.0-bin-scala_2.11.tgz -C ../opt/配置mas
转载
2024-07-04 16:33:12
101阅读
本文为翻译flink作者之一Fabian Hueske的文章
原文：https://www.ververica.com/blog/how-apache-flink-manages-kafka-consumer-offsets
在Flink Friday Tip这集中，我们通过一步步的样例解释了Apache Flink是如何协作Apache Kafk
转载
2024-03-18 00:01:58
69阅读
引语 消费者需要自己保留一个offset，从kafka 获取消息时，只拉去当前offset 以后的消息。 kafka offset的管理方式分为两种保存offset和不保存offset，一般保存offset采用的是外部存储保护，这都要根据具体的业务情况来定。使用外部存储保存,我们可把offset保存到Checkpoint， Hbase， Zookeeper， Kafka，接下来我们就来offs
转载
2024-03-17 00:48:09
208阅读
StreamTableEnvironment用于流计算场景，流计算的对象是DataStream。相比 TableEnvironment，StreamTableEnvironment 提供了 DataStream 和 Table 之间相互转换的接口，如果用户的程序除了使用 Table API & SQL 编写外，还需要使用到 DataStream API，则需要使用 StreamTableE
转载
2024-02-19 11:16:40
61阅读
Flinkkafkasource&sink源码解析吴鹏Flink中文社区摘要：本文基于Flink1.9.0和Kafka2.3版本，对FlinkKafkasource和sink端的源码进行解析，主要内容分为以下两部分：1.Flink-kafka-source源码解析*流程概述*非checkpoint模式offset的提交*checkpoint模式下offset的提交*指定offset消费2.
原创
2021-02-06 21:40:24
419阅读
Flink的FlinkKafkaConsumer、FlinkKafkaProducer，在消费、生成kafka数据的时候，不能指定key，又时候，我们又需要这个key。valkafkaSource=newFlinkKafkaConsumer[ObjectNode]("kafka_demo",newJsonNodeDeserializationSchema(),Common.getProp)va
原创
2021-02-08 17:44:26
2943阅读
Flinkkafkasource&sink源码解析吴鹏Flink中文社区摘要：本文基于Flink1.9.0和Kafka2.3版本，对FlinkKafkasource和sink端的源码进行解析，主要内容分为以下两部分：1.Flink-kafka-source源码解析*流程概述*非checkpoint模式offset的提交*checkpoint模式下offset的提交*指定offset消费2.
原创
2021-02-06 09:59:12
353阅读
Flinkkafkasource&sink源码解析吴鹏Flink中文社区摘要：本文基于Flink1.9.0和Kafka2.3版本，对FlinkKafkasource和sink端的源码进行解析，主要内容分为以下两部分：1.Flink-kafka-source源码解析*流程概述*非checkpoint模式offset的提交*checkpoint模式下offset的提交*指定offset消费2.
原创
2021-02-06 09:58:54
214阅读
Apache Flink是一种流处理和批处理的混合引擎，它提供了一套丰富的APIs，以满足不同的数据处理需求。在本文中，我们主要讨论Flink中的三个核心机制：窗口（Windows）、水位线（Watermarks）和定时器（Timers）。1. 窗口在流处理应用中，一种常见的需求是计算某个时间范围内的数据，这种时间范围就是所谓的窗口。根据实际需求，Flink提供了各种类型的窗口，例如滚动窗口与滑动
摘要：类似于Hive UDF，Flink SQL提供了丰富的函数类型来自定义函数，从而为Flink SQL统计分析复杂的数据格式提供了重要手段。1 Flink SQL自定义函数分类说到UDF函数，通过HiveSQL的人会想到UDF、UDAF、UDTF，在Flink Table API/SQL中没有可以提这几个概念，函数划分的会细一些，但是它们跟UDF、UDAF、UDTF有对应的关系。2 Flink
转载
2023-07-14 10:21:19
150阅读
FlinkSQL(1.12)一、基本语法1.1、建表语法create table 表名 (
字段名 字段类型，
...
) with (
连接器配置
)1.2、时间语义1.2.1、事件时间使用：在设置完字段后最后一行进行指定。格式：watermark for 某时间字段名 AS 某时间字段名 - INTERVAL '某数字' SECOND1.2.2、处理时间使用：在设置完字段后最后一行进行指定。格
转载
2024-01-21 02:46:58
144阅读
# Flink SQL写入MySQL Sink实现教程
## 1. 概述
本文将介绍如何使用Flink SQL将数据写入MySQL Sink。Flink是一个流处理框架，它提供了强大的SQL支持，可以通过SQL语句对流数据进行处理和分析。MySQL是一个常用的关系型数据库，可以用来存储和查询数据。通过将Flink和MySQL结合起来，我们可以实现实时的数据写入和查询功能。
## 2. 整体流
原创
2023-08-21 03:34:15
551阅读
文章目录双流关联大状态问题解决方案SQL 变更状态恢复问题解决方案FlinkSQL 调试繁琐问题解决方案SQL 作业异常定位问题解决方案 双流关联大状态问题首先是双流关联的大状态问题，FlinkSQL 的双流关联会保留左右流的历史数据来互相关联，需要关联的时间间隔越长，保存的历史数据就会越多，状态也就会越大。比如，要关联订单的下单事件和退款事件，并保证计算结果的正确性，需要考虑这两个事件发生的间
转载
2023-08-18 16:46:26
223阅读
文章目录flink table & sql 基本API使用1 maven 依赖引用2 API2.1 创建表执行环境2.2 创建表2.3 表查询2.4 输出表2.5 表和流得相互转换2.5.1 将表（Table）转换成流（DataStream）2.5.2 将流（DataStream）转换成表（Table）2.4 SQL开窗滚动查询案例 flink table & sql 基本API
转载
2024-06-01 19:35:04
75阅读
实践如何将flink数据集sink到kafka
推荐
原创
2022-03-24 06:27:32
1448阅读
1评论
Flink 没有类似于 spark 中 foreach 方法，让用户进行迭代的操作。虽有对外
原创
2022-10-04 22:04:45
628阅读
package utils import java.net.{InetAddress, InetSocketAddress} import java.sql.{Connection, DriverManager, Port java.util.Properties import...
【代码】flink:通过Sink把数据写入kafka。
原创
2024-03-21 15:28:48
56阅读
下面将分析这两个流程是如何衔接起来的。 这里最重要的就是 userFunction.run(ctx);，这个 userFunction 就是在上面初始化的时候传入的 FlinkKafkaConsumer 对象，也就是说这里实际调用了 FlinkKafkaConsumer 中的 …
转载
2022-05-23 21:19:10
283阅读
摘要：本文基于 Flink 1.9.0 和 Kafka 2.3 版本，对 Flink kafka 端到端 Exactly-Once 进行分析及 notifyCheckpointComplete 顺序，主要内容分为以下两部分：1.Flink-kafka 两阶段提交源码分析TwoPhaseCommitSinkFunction 分析2.Flink 中 notifyCheckpointCompl
转载
2024-04-23 10:32:35
49阅读
