在Flink中，同一个算子可能存在若干个不同的并行实例，计算过程可能不在同一个Slot中进行，不同算子之间更是如此，因此不同算子的计算数据之间不能像Java数组之间一样互相访问，而广播变量Broadcast便是解决这种情况的。如下代码所示：val env = ExecutionEnvironment.getExecutionEnvironment
val ds1 = env.fromEle
转载
2024-02-20 14:54:20
82阅读
大数据技术与架构点击右侧关注，大数据开发领域最强公众号！暴走大数据点击右侧关注，暴走大数据！前言在实时计算作业中，往往需要动态改变一些配置，举几个栗子：实时日志ETL服务，需要在日志的格...
原创
2021-06-10 19:55:51
402阅读
大数据技术与架构点击右侧关注，大数据开发领域最强公众号！暴走大数据点击右侧关注，暴走大数据！前言在实时计算作业中，往往需要动态改变一些配置，举几个栗子：实时日志ETL服务，需要在日志的格...
原创
2021-06-10 19:55:50
388阅读
Flink/Spark 如何实现动态更新作业配置由于实时场景对可用性十分敏感，实时作业通常需要避免频繁重启，因此动态加载作业配置（变量）是实时计算里十分常见的需求，比如通常复杂事件处理 (CEP) 的规则或者在线机器学习的模型。尽管常见，实现起来却并没有那么简单，其中最难点在于如何确保节点状态在变更期间的一致性。目前来说一般有两种实现方式：轮询拉取方式，即作业算子定时检测在外部系统的配置是否有变更
转载
2024-04-18 11:13:31
188阅读
Table API 和 SQL，本质上还是基于关系型表的操作方式；而关系型表、关系代数，以及SQL 本身，一般是有界的，更适合批处理的场景。这就导致在进行流处理的过程中，理解会稍微复杂一些，需要引入一些特殊概念。 文章目录流处理和关系代数（表，及 SQL）的区别动态表（Dynamic Tables）流式持续查询的过程将流转换成表（Table）持续查询（Continuous Query）将动态表转换
转载
2024-03-16 01:33:08
86阅读
前言本案例是一个专注于flink动态规则计算的项目，核心技术组件涉及flink、hbase、clickhouse、drools等 项目可根据各类个性化需求进行二次开发后，直接用于实时运营，实时风控、交通监控等场景的线上生产画像标签体系用户基本属性标签用户订单属性标签用户退换货属性标签用户购物车属性标签用户活跃属性标签用户偏好属性标签用户基本属性标签用户属性指标主要根据业务数据来源（业务系统中的用户
转载
2024-05-27 17:12:08
133阅读
由于实时场景对可用性十分敏感，实时作业通常需要避免频繁重启，因此动态加载作业配置（变量）是实时计算里十分常见的需求，比如通常复杂事件处理 (CEP) 的规则或者在线机器学...
转载
2021-06-10 20:16:45
892阅读
由于实时场景对可用性十分敏感，实时作业通常需要避免频繁重启，因此动态加载作业配置（变量）是实时计算里十分常见的需求，比如通常复杂事件处理 (CEP) 的规则或者在线机器学...
转载
2021-06-10 19:53:53
452阅读
摘要：本篇内容整理自美团数据平台工程师冯斐、王非凡在 Flink Forward Asia 2021 生产实践专场的演讲。主要内容包括：相关背景大作业部署优化Checkpoint 跨机房副本状态稳定性相关优化未来规划一、相关背景美团 Flink 的应用场景覆盖了社区定义的三种场景：应用比较多的是数据管道场景，比如数仓 ODS 层数据的实时接入，或跨数据源的实时数据同步；比较典型的应用场景是数据分析
转载
2024-04-23 09:39:53
140阅读
需求背景Flink实时任务的开发过程中，有一个常见的场景需要动态更新一些配置信息，这些信息可能在文件中，也可能是数据库中。对于批处理任务而言这非常简单，可我们在实时任务的执行过程中，该如何实现呢，其实也非常简单。源码阅读在Flink中，DataStream也有Broadcast（广播）的能力，通过将数据流广播，可以把我们需要读取的的配置数据广播到所有的下游task中，实现共享配置信息的能力，方便下
转载
2023-07-11 17:29:17
195阅读
文章目录1、基础环境2、开发环境2.1、pom.xml2.2、log4j.properties2.3、测试用的代码2.3.1、Flink执行环境工具2.3.2、Kafka工具2.3.3、测试Flink读写Kafka2.3.4、测试FlinkSQL读写Kafka2.4、打包后上传到服务器3、生产环境3.1、Flink安装3.2、Flink on YARN下3种模式3.2.1、Session-Clu
转载
2024-03-07 21:44:23
181阅读
1. 首先客户需要在消息通知服务（SMN）中提前创建一个【主题】，并将客户指定的邮箱或者手机号添加到主题订阅中。这时候指定的邮箱或者手机会收到请求订阅的通知，点击链接确认订阅即可。2. 创建Flink SQL作业，编写作业SQL完成后，配置【运行参数】。2.1 配置作业的【CU数量】、【管理单元】与【最大并行数】，依据如下公式：CU数量 = 管理单元 + (算子总并行数 / 单TM Slot数)
转载
2024-04-18 08:42:58
49阅读
本人自己录的视频，讲解 Flink 整和 Apollo，动态更新作业配置，无需重启作业！在上一篇讲解 Flink 与 Nacos 整合的视频 中，讲过了常见的几种更新配置的方法，最常使用的可能就是通过广播流的方式，相信看完上个视频的，估计对整合 Nacos 做动态更新配置应该问题不大，zhisheng 我也觉得稍微简单，尤其 Nacos 搭建安装也比较简单。不知道大家公司有没有使用 Nacos 呢
转载
2024-05-24 19:32:01
11阅读
前言：版权说明：本专栏是作者在日常工作期间对技术的不断深入研究后的沉淀，辛苦码字总结而成。严禁转载，严禁作为商业用途转发。欢迎同行加入大数据技术群QQ：427560730版本号：Flink1.10.0在使用Flink流式计算时，代码功能实现重要的同时，后期的可维护性一样很重要。作者在开发过程中就遇见过这样一个场景：如果实时计算过程中，我源表突然增加一个字段怎么办，难道Flink程序要改代码重启吗，
转载
2023-10-31 21:27:16
82阅读
19.BroadcastState-动态更新规则配置 19.1.需求 19.2.数据 19.3.代码步骤 19.4.代码实现19.BroadcastState-动态更新规则配置-看懂19.1.需求在开发过程中，如果遇到需要下发/广播配置、规则等低吞吐事件流到下游所有task时，就可以使用Broadcast State。Broadcast State是Flink 1.5引入的新特性。下游的task接
转载
2024-03-17 10:49:55
212阅读
资源配置调优Flink 性能调优的第一步，就是为任务分配合适的资源，在一定范围内，增加资源的分配与性能的提升是成正比的，实现了最优的资源配置后，在此基础上再考虑进行后面论述的性能调优策略。 提交方式主要是 yarn-per-job，资源的分配在使用脚本提交 Flink 任务时进行指定。内存设置生产资源配置：bin/flink run \
-t yarn-per-job \
-d \
-p 5 \
转载
2024-01-27 23:33:40
157阅读
1. 广播变量1.1 介绍在Flink中，同一个算子可能存在若干个不同的并行实例，计算过程可能不在同一个Slot中进行，不同算子之间更是如此，因此不同算子的计算数据之间不能像Java数组之间一样互相访问，而广播变量Broadcast便是解决这种情况的. 在 flink 中,针对某一个算子需要使用公共变量的情况下,就可以把对应的数据给 广播出去，这样在所有的节点中都可以使用了注意点：广播变量中封装的
转载
2024-03-20 12:16:48
207阅读
序言本次主要是弄清楚.批流统一 的处理方式,因为它是使用SQL来操作批流计算的.所以它怎么设置算子并行度?如何设置窗口?如何处理流式数据?等等 有很多疑问.我还是觉得直接使用流计算的API更好.流批一体API最终也是转换成流式计算,最主要的是使用sql来设置算子或者窗口,并不直观. 本身就是转换流操作,我们可以知接使用流.另外,在1.12版本说的是流批一体并不成熟,现在到了1.17虽然没说不成熟,
转载
2024-05-22 13:07:23
90阅读
本人自己录的视频，讲解 Flink 整和 Nacos，动态更新作业配置，无需重启作业！我们知道 Flink 作业的配置一般都是通过在作业启动的时候通过参数传递的，或者通过读取配置文件的参数，在作业启动后初始化了之后如果再想更新作业的配置一般有两种解决方法：改变启动参数或者改变配置文件，重启作业，让作业能够读取到修改后的配置通过读取配置流（需要自定义 Source 读取配置），然后流和流连接起来这两
转载
2024-03-25 12:32:23
237阅读
大家好，本文为 Flink Weekly 的第二十三期，由蒋晓峰、李本超共同整理及 Review。本期主要内容包括：近期社区开发进展、邮件问题答疑、Flink 最新社区动态及技术文章推荐等。 Flink 社区近期开发最新动态将从 Release、DEV、FLIP、Discuss…
原创
2022-11-23 15:27:22
113阅读
