flink Savepoint 和 Checkpoint 使用checkpoint 应用定时触发，用于保存状态，会过期 内部应用失败重启的时候使用，特点是作业容错自动恢复，轻量，自动周期管理savepoint 用户手动执行，是指向Checkpoint的指针，不会过期 在升级的情况下使用，特点关注状态数据可以移植性，状态数据生成和恢复成本高，用户手动管理注意：为了能够在作业的不同版本之间以及 Fli
转载
2024-02-22 10:13:50
78阅读
闲扯最近Spark2.3正式发布，流处理不再试Beta版，Spark的Structure Streaming几乎是拥有了Flink的所有功能，生态社区做得好就是不一样，Flink该加把劲了…引言Exactly-once是一个经常提到的语义，也是程序开发中，需要尽可能做到的一个理想状态。这种语义其实放在分布式程序中有很多种理解，比如读取数据源Exactly-once，Process过程Exactly
转载
2024-03-21 15:40:51
125阅读
# 使用 Apache Flink 从 MySQL 抽取数据的指南
Apache Flink 是一个强大的流处理框架，可以用于实时数据流的处理。本篇文章将教你如何使用 Flink 从 MySQL 数据库抽取数据。我们将提供一系列步骤和代码示例，帮助你快速入门。
## 流程概览
在开始之前，让我们先看一下 Flink 从 MySQL 抽取数据的基本流程：
| 步骤 | 描述
原创
2024-10-22 04:12:09
70阅读
Flink算子基本转换算子：将会作用在数据流中的每一条单独的数据上。KeyedStream转换算子：在数据有key的情况下，对数据应用转换算子。多流转换算子：合并多条流为一条流或者将一条流分割为多条流。分布式转换算子：将重新组织流里面的事件。基本转换算子基本转换算子可以将一个event中的内容转换.是一个流到另外一个流,包括Map,flatMap,filter三个转换算子.功能就不详谈了.键控流转
转载
2023-12-27 21:55:53
56阅读
1.概述 Apache Doris（原百度 Palo ）是一款 基于大规模并行处理技术的分布式 SQL 数据仓库 ，由百度在 2017 年开源，2018 年 8 月进入 Apache 孵化器。 Apache Doris 是一个现代化的 MPP 分析型数据库产品。仅需亚秒级响应时间即可获得查询结果，有效地支持实时数据分析。Apache Doris 的分布式架构非常简洁，易于运维，
转载
2024-03-21 08:59:26
67阅读
大数据课程之Flink第一章 Flink简介1、初识Flink Apache Flink是一个框架和分布式处理引擎，用于对无界和有界数据流进行有状态计算。Flink被设计在所有常见的集群环境中运行，以内存执行速度和任意规模来执行计算。 Flink起源于Stratosphere项目，Stratosphere是在2010~2014年由3
Flink 提供了 Print SQL Connector 可以让我们非常方便的把数据打印到标准输出.有助于我们测试 SQL 任务,检验数据的正确性.但是在生产环境中,上游的数据量是非常大的,如果直接把数据输出的话,可能会把标准输出文件打满,造成页面卡死的情况,反而不利于我们观测数据,所以我们可以对 Print SQL Connector 进行简单的改造,加一个随机取样的参数控制数据输出.直接把
转载
2024-02-28 10:51:10
43阅读
#### 1.1 普通实时计算与实时数仓比较 普通的实时计算优先考虑时效性，所以从数据源采集经过实时计算直接得到结果。如此做时效性更好，但是弊端是由于计算过程中的中间结果没有沉淀下来，所以当面对大量实时需求的时候，计算的复用性较差，开发成本随着需求增加直线上升。实时数仓基于一定的数据仓库理念，对数据处理流程进行规划、分层，目的是提高数据的复用性。 #
转载
2023-09-22 12:53:21
109阅读
# 使用 Apache Flink 抽取 MongoDB 数据的指南
Apache Flink 是一种强大的流处理框架，而 MongoDB 是一款流行的 NoSQL 数据库。本指南将向您展示如何使用 Flink 从 MongoDB 中抽取数据，我们将一步步讲解实现这个过程。
## 实现流程
首先，让我们看看整个过程的概览。下面的表格展示了实现“从 MongoDB 中抽取数据”的主要步骤：
在大数据时代，处理海量的实时数据已成为许多企业的迫切需求。在这个背景中，Apache Flink 作为一种流处理引擎，为我们提供了便捷的工具来实现高效的数据处理。然而，当我们面临需要并行从 MySQL 数据库抽取数据的任务时，技术的复杂性、数据的一致性和性能的需求，往往成为了我们面临的初始技术痛点。
### 初始技术痛点
我们意识到在进行 MySQL 数据的抽取时，会遭遇几个主要问题：
- 数据
# Flink CDC 抽取 MongoDB
## 引言
随着大数据时代的到来，越来越多的企业开始关注数据的实时处理和分析能力。而 Flink 作为一个流式大数据处理框架，因其高性能、低延迟和易用性而受到广泛关注。在实时数据处理过程中，CDC（Change Data Capture）技术非常重要，它能够实现对数据源变化的实时捕获和处理。本文将介绍如何使用 Flink CDC 抽取 MongoD
原创
2023-11-12 13:07:45
96阅读
在Apache Flink中，ValueStateDescriptor 是用于定义状态的一种数据结构，它允许你为每个键（key）存储一个值（value）。状态是 Flink 流处理模型的核心概念之一，它允许你在任务失败和恢复时保持数据的一致性。
ValueStateDescriptor 的主要特性：键控状态（Keyed State）：
ValueStateDescriptor&
Flink处理类型的方式比较特殊，包括它自己的类型描述，一般类型抽取和类型序列化框架。该文档描述这些概念并解释其机理。 Java API和Scala API处理类型信息的方式有根本性的区别，所以本文描述的问题仅与其中一种API相关一、Flink中对类型的处理一般处理类型时，我们并不干涉，而是让编程语言和序列化框架来自动处理类型。与之相反的，Flink想要尽可能掌握进出用户函数的数据类型的
转载
2023-07-11 17:44:57
89阅读
# Flink 批任务抽取 MySQL 数据库
## 引言
Flink 是一个流式计算框架，但它也支持批处理任务。批处理任务是一种离线计算模式，适用于大规模数据的批量处理。在实际应用中，我们经常需要将数据库中的数据进行离线分析和处理，而 MySQL 是一种常见的关系型数据库。本文将介绍如何使用 Flink 批任务从 MySQL 数据库中抽取数据，并进行相应的计算和分析。
## 前提条件
在
原创
2024-01-29 08:14:53
221阅读
# 从MySQL数据库中抽取数据使用Flink
Flink是一个流式计算框架，可以用于实时数据处理和分析。在实际应用中，我们经常需要从数据库中抽取数据进行处理。本文将介绍如何使用Flink链接MySQL数据库，并从中抽取数据的方法。
## 链接MySQL数据库
在使用Flink链接MySQL数据库之前，我们需要添加相应的依赖。在`pom.xml`文件中添加以下依赖：
```xml
原创
2024-06-07 04:48:14
82阅读
1、Flink 运行时的组件1.1 Flink 运行时的组件 1.2 作业管理器（JobManager）• 控制一个应用程序执行的主进程，也就是说，每个应用程序都会被一个不同的 JobManager 所控制执行。• JobManager 会先接收到要执行的应用程序，这个应用程序会包括：➢ 作业图 （JobGraph）、➢ 逻辑数据流图（logical dataflow graph）➢
转载
2024-10-18 14:42:13
128阅读
Transformation数据源读入数据之后，我们就可以使用各种转换算子，将一个或多个DataStream转换为新的DataStream，如上图所示。一个Flink程序的核心，其实就是所有的转换操作，它们决定了处理的业务逻辑。我们可以针对一条流进行转换处理，也可以进行分流、合流等多流转换操作，从而组合成复杂的数据流拓扑。但是我们在使用诸如 map,flatMap,filter 时都需要传入一个参
转载
2023-11-02 01:09:07
63阅读
摘要Flink一般常用的集群模式有 flink on yarn 和standalone模式。 yarn模式需要搭建hadoop集群，该模式主要依靠hadoop的yarn资源调度来实现flink的高可用，达到资源的充分利用和合理分配。一般用于生产环境。 standalone模式主要利用flink自带的分布式集群来提交任务，该模式的优点是不借助其他外部组件，缺点是资源不足需要手动处理。 本文主要以 s
转载
2023-12-14 11:05:21
360阅读
# 如何实现 Flink CDC 抽取 MySQL 基础使用
## 整体流程
下面是实现 Flink CDC 抽取 MySQL 的基础使用的整体流程：
```mermaid
erDiagram
Flink -->|CDC| MySQL
```
1. 安装 Flink
2. 创建 Flink 项目
3. 导入 Flink CDC 依赖
4. 配置 MySQL 数据源
5. 实现 CD
原创
2024-05-05 03:52:00
42阅读
为什么要从时间维度讲呢？T+0的是数据实时抽取实时计算，T+1的是数据批量抽取批量计算，Flink似乎把这两种功能都融合在一起了，只不过抽取部分更强调流式，当然现在对于批量抽取和流式抽取讨论上，将流式抽取如果有begin和end阶段，那么与批量抽取所得到的结果是一致的。个人认为这种方式，给数据抽取后的数据计算/数据分析有了更大的灵活性。如下图所示：左边的方式是现阶段的方式，虽然各有用途，但发现数据
转载
2023-10-23 23:24:06
93阅读
