前言 Apache Flink 一个高性能的分布式数据处理引擎，它用于对无界和有界数据流进行有状态计算，它被设计在所有常见的集群环境中运行，以内存执行速度和任意规模来执行计算。 相信过多的我不需要做什么介绍，本系列将以flink整体架构，资源管理与作业调度，
转载
2024-02-23 17:52:27
50阅读
# Flink 与 MySQL 的死锁问题解决方案
在数据处理场景中，Apache Flink 作为一个流处理框架常常与关系型数据库（如 MySQL）配合使用。但在高并发的情况下，可能会遇到死锁问题。本文将指导你如何在 Flink 作业中处理 MySQL 的死锁问题，确保数据的一致性和可靠性。
## 整体流程
首先，让我们简要梳理一下发生死锁问题的一般流程，下面是一个步骤表格，用于帮助理解整
一、二、常见问题排查1、数据反压 背压(Backpressure)机制排查点击JobName点击某个算子点击Backpressure查看，状态为HIGH时，则存在数据反压问题注：若流程为A->B->C->D->E->F ，BCDEF出现反压(即这里status为high)，则表示A处理流程导致 B->C->D->E->F 相继慢查看背压：当DA
转载
2024-03-21 14:56:17
289阅读
作者：Fabian Hueske 译者：云邪（Jark）在 Apache Flink 社区中被经常问及的一件事是：如何规划和计算一个 Flink 集群的大小（或者说如何确定一个 Flink 作业所需的资源）。确定集群的大小很显然是决定于多种因素的，例如应用场景，应用的规模，以及特定的服务等级协议（SLA）。另外应用程序中的 checkpoint 类型（增量 vs 全量）和 Flink 作业处理是连
转载
2023-10-31 12:35:38
88阅读
# 解决yarn提交flink AM资源不足的问题
## 引言
在使用Apache Flink时，我们通常会遇到yarn提交flink ApplicationMaster（AM）资源不足的问题。这个问题通常是由于yarn默认分配给AM的资源不够导致的。本文将介绍如何解决yarn提交flink AM资源不足的问题，并提供代码示例。
## 问题分析
当我们使用yarn提交flink任务时，ya
原创
2024-06-12 05:52:14
182阅读
1 背景合规要求将数据库中的敏感用户信息脱敏，账号中心和账户中心的数据库都有明文手机号。2 解决思路分两部分看，存量数据和增量数据，其中增量数据要先处理。
增量数据，可以通过 Getter、Setter 来实现加解密。另外 Dao（Repository）可能包含 findByPhone 的查询，需要调整为先根据密文查询，如果结果为空，那么根据再明文查询一遍。
存量数据，需要加密数据库中存量的明文手
转载
2023-07-23 22:11:30
25阅读
前言多线程是java的比较重要的特性之一，现在记录一个使用多线程解决实际问题的栗子背景假设有一个模型服务，它的功能是通过输入的手机号来计算分数。例如支付宝的芝麻分。现在我有一个很大的客户手机号集合，数据量集是百万级别的。产品的要求是用尽可能短的时间将客户手机号集合中的每一个手机号都要匹配出分数。可行性分析假设模型服务成功处理一笔交易的时间是50ms，如果使用传统单线程的方式，每秒最多处理20笔交易
转载
2023-10-04 16:04:42
215阅读
# SparkSQL跑批简介
在大数据处理领域，SparkSQL是Apache Spark中的一个组件，它使得用户能够以结构化数据为基础，使用SQL语言进行数据分析。SparkSQL的核心是支持大规模的数据处理能力，能够有效地处理海量数据。同时，SparkSQL结合了Spark的分布式计算能力，使得数据查询和分析变得高效。
## SparkSQL的工作原理
SparkSQL工作在Spark核
一、各个时间可用值如下：
秒 0-59 , - * /
分 0-59 , - * /
小时 0-23 , - * /
日 1-31 , - * ? / L W C
月 1-12 or JAN-DEC , - * /
周几 1-7 or SUN-SAT , - * ? / L C #
年 (可选字段) empty, 1970-2099 , - * /
二、可用
转载
2023-10-06 19:13:16
142阅读
在现代软件开发中，“跑批”是一种通过预设的脚本或程序在后台定期处理大量数据的机制。其中，使用 Java 语言进行跑批处理已成为许多企业的首选方案。然而，在实际应用过程中，开发者常常会遇到各种技术难题。接下来，我将复盘记录处理“跑批 Java”过程的方式，详细阐述解决方案，并展开对环境准备、集成步骤等方面的详细分析。
## 环境准备
在开始跑批处理之前，首先需要准备好开发环境，并安装必要的依赖。
# 如何实现“python 跑批”
## 流程图:
```mermaid
flowchart TD;
A(开始)-->B(准备数据);
B-->C(加载数据);
C-->D(数据处理);
D-->E(保存结果);
E-->F(结束);
```
## 步骤:
| 步骤 | 描述 |
|------|----------|
| 1 | 准备
原创
2024-04-23 03:41:08
37阅读
收到业务告警邮件，某个跑批未执行成功。结果是生产上跑批到某个时间点时，突然所有跑批都断批了，查看日志quartz也没有了调度日志，spring-batch也没有报错日志排查了： 一、查看最后一次跑批内容、最后一条日志内容（info级别），考虑到无影响 二、查看uat是否有此现象，uat正常，对比生产、uat项目配置文件（包都是一样的，uat、
转载
2023-09-18 14:12:31
219阅读
随着大数据时代的发展、海量数据的实时处理和多样业务的数据计算需求激增，传统的批处理方式和早期的流式处理框架也有自身的局限性，难以在延迟性、吞吐量、容错能力，以及使用便捷性等方面满足业务日益苛刻的要求。在这种形势下，Flink 以其独特的天然流式计算特性和更为先进的架构设计，极大地改善了以前的流式处理框架所存在的问题。越来越多的国内公司开始用 Flink 来做实时数据处理，其中阿里巴巴率先将 Fli
Job与JobDetail是Quartz用来定义具体任务的，而Trigger则是用来定义任务如何执行的。Quartz提供了Trigger接口来定义公共属性，使用TriggerBuilder能够建立具体类型的Trigger；最多见的两种Trigger分别是SimpleTrigger、CronTrigger。javaTrigger的公共属性：key，该属性是为了标识Trigger的。startTime
转载
2023-07-24 15:32:22
98阅读
Oracle生产中跑批存储过程或函数失效原因分析以及解决方案:报错信息:原因分析:1.当我们编译存储过程或函数时,该过程或函数引用的所有Oracle对象都将记录在数据字典中。该过程就依赖于这些存储的对象。我们可以看到在数据字典中显示了标志为非法的有编译错误的子程序。同样,如果一个DDL操作运行在其所相关的对象上时，存储子程序也将是非法的。当对象变更时，其相关的对象就会变成非法对象。如果
转载
2023-12-21 23:20:42
132阅读
摘要：SPL实现了更优算法，性能远远超过存储过程，能显著提高单机计算效率，非常适合跑批计算。
华为云社区《Java开源专业计算引擎：跑批真的这么难吗？》，作者： Java李杨勇。业务系统产生的明细数据通常要经过加工处理，按照一定逻辑计算成需要的结果，用以支持企业的经营活动。这类数据加工任务一般会有很多个，需要批量完成计算，在银行和保险行业常常被称为跑批，其它像石油、电力等行业也经常会有跑批
转载
2024-04-30 16:54:53
54阅读
批处理（Batch Processing）是将一系列命令或程序按顺序组合在一起，在一个批处理文件中批量执行。在计算机中，批处理可以让计算机自动完成重复性的任务，例如打印文档、备份数据、定时运行程序等。在Java中，批处理可以使用Java语言中的ProcessBuilder类来实现。ProcessBuilder类允许Java程序启动并执行外部进程，并且还可以将输出重定向为Java程序的输入流。批处理
转载
2023-10-04 20:24:55
224阅读
业务迅速发展带来了跑批数据量的急剧增加。单机处理跑批数据已不能满足需要，另考虑到企业处理数据的扩展能力，多机跑批势在必行。多机跑批是指将跑批任务分发到多台服务器上执行，多机跑批的前提是”数据分片”。elasticJob通过JobShardingStrategy支持分片跑批。 跑批配置需要做如下修改：
转载
2018-07-01 10:36:00
660阅读
2评论
# 如何实现“mysql创建跑批”
## 1. 流程图
```mermaid
flowchart TD
A[准备数据表] --> B[编写SQL语句]
B --> C[创建定时任务]
```
## 2. 状态图
```mermaid
stateDiagram
[*] --> 操作数据表
操作数据表 --> 编写SQL语句
编写SQL语句 --> 创建
原创
2024-04-14 03:20:45
50阅读
# HIVE跑批工具科普文章
HIVE是一个基于Hadoop的数据仓库工具，主要用于数据的提取、存储和分析。随着大数据技术的不断发展，HIVE已成为许多企业进行大数据分析的首选工具之一。本篇文章将深入探讨HIVE的跑批工具，带您了解如何使用HIVE进行批量数据处理，并通过示例代码帮助您更好地掌握相关知识。
## 什么是HIVE？
HIVE是一个数据仓库工具，它将结构化数据存储在Hadoop分
