还是一样，要先引入依赖，在pom.xml<dependency>
<groupId>org.apache.
flink</groupId>
<artifactId>
flink-table-planner_2.12</artifactId>
<version>1.10.1</version>
&
转载
2024-02-11 14:35:12
40阅读
# 从 Flink 的 SQL 中将数据发送到 Kafka ，然后再将 Kafka 中的数据写入到 StarRocks 中
## 整体流程
| 步骤 | 操作 |
| --- | --- |
| 1 | 在 Flink SQL 中定义数据流，将数据发送到 Kafka |
| 2 | 创建 Kafka 生产者，从 Kafka 中读取数据 |
| 3 | 将读取的数据写入 StarRocks 数据
原创
2024-05-23 10:21:44
445阅读
# 实现 Flink SQL Kafka MySQL Demo
## 1. 简介
本文将介绍如何使用 Apache Flink 和 Kafka 和 MySQL 实现一个简单的实时数据处理示例。首先，我们将使用 Flink SQL 从 Kafka 主题中读取数据，然后将处理后的数据写入 MySQL 数据库中。
## 2. 整体流程
下面是实现该示例的整体流程：
```flow
st=>st
原创
2023-08-10 12:13:59
174阅读
最近因为疫情的原因，偷了好长时间的懒，现在终于开始继续看Flink的SQL了————————————————电脑上的Flink项目早就升级到了1.10了，最近还在看官网新的文档，趁着周末，体验一下新版本的SQLAPI（踩一下坑）。直接从之前的云邪大佬的Flink的SQL样例开始（pom已经提前整理好了）。简单回忆一下内容，就是从kafka接收用户行为，根据时间分组，求PV和UV，然后输出到mysq
原创
2021-02-08 10:16:53
456阅读
flink安装、部署、测试下载flink安装包flink下载地址https://archive.apache.org/dist/flink/flink-1.5.0/因为例子不需要hadoop，下载flink-1.5.0-bin-scala_2.11.tgz即可上传至机器的/opt目录下解压tar -zxf flink-1.5.0-bin-scala_2.11.tgz -C ../opt/配置mas
转载
2024-07-04 16:33:12
101阅读
前言碎语昨天博主写了《windows环境下flink入门demo实例》实现了官方提供的最简单的单词计数功能，今天升级下，将数据源从socket流换成生产级的消息队列kafka来完成一样的单词计数功能。本文实现的重点主要有两个部分，一是kafka环境的搭建，二是如何使用官方提供的flink-connector-kafka_2.12来消费kafka消息，其他的逻辑部分和上文类似。
进入正
转载
2024-02-05 10:25:31
398阅读
前言 上述讲到，成功将一个文件里的内容使用SQL进行了一解析（快速入门Flink SQL —— 介绍及入门）本篇文章主要会跟大家分享如何连接kafka，MySQL，作为输入流和数出的操作。一、将kafka作为输入流 &nb
转载
2023-10-05 16:30:08
183阅读
在实际生产中，我们经常会有这样的需求，需要以原始数据流作为基础，然后关联大量的外部表来补充一些属性。例如，我们在订单数据中，希望能得到订单收货人所在省的名称，一般来说订单中会记录一个省的 ID，那么需要根据 ID 去查询外部的维度表补充省名称属性。在 Flink 流式计算中，我们的一些维度属性一般存储在 MySQL/HBase/Redis 中，这些维表数据存在定时更新，需要我们根据业务进行关联。根
转载
2023-07-11 17:31:54
476阅读
# Flink SQL读取Kafka写Hive
## 简介
Apache Flink是一个开源的流处理框架，可以实现流式数据的实时计算和流转换。Flink提供了Flink SQL来支持使用SQL语句进行流处理和批处理。本文将介绍如何使用Flink SQL读取Kafka数据，然后将数据写入Hive表中。
## 准备工作
在开始之前，需要安装以下软件：
- Apache Flink
- Apach
原创
2023-08-11 10:02:13
482阅读
# 使用 Flink SQL 将 Kafka 数据存入 Hive 的完整指南
## 介绍
Apache Flink 是一个强大的流处理框架，而 Apache Kafka 则是一个高吞吐量的分布式消息队列。将 Kafka 中的数据通过 Flink SQL 处理后存入 Hive 数据仓库，是大数据应用中的一个常见操作。在本篇文章中，我们将逐步教会你如何实现这一功能。
## 整体流程概述
在开始
kafka事务使用和编程示例一、概述 Kafka事务特性是指一系列的生产者生产消息和消费者提交偏移量的操作在一个事务中，或者说是一个原子操作，生产消息和提交偏移量同时成功或者失败。注意：kafka事务和DB事务。在理解消息的事务时，一直处于一个错误理解是，把操作db的业务逻辑跟操作消息当成是一个事务，如下所示：void kakfa_in_tranction(){
// 1.kafa的操作：读
转载
2024-03-26 10:02:15
245阅读
一. 背景数据准实时复制（CDC）是目前行内实时数据需求大量使用的技术，随着国产化的需求，我们也逐步考虑基于开源产品进行准实时数据同步工具的相关开发，逐步实现对商业产品的替代。我们评估了几种开源产品，canal,debezium,flink CDC等产品。作了如下的对比：组件CanalDebeziumFlink开源方阿里redhatflink社区+阿里开发语言JavaJavaJ
转载
2023-10-08 22:08:48
1058阅读
Flume 概述Flume 是 Hadoop 生态圈子中的一个重要组件，在上一课时中提过，它是一个分布式的、高可靠的、高可用的日志采集工具。Flume 具有基于流式数据的简单灵活的架构，同时兼具高可靠性、高可用机制和故障转移机制。当我们使用 Flume 收集数据的速度超过下游的写入速度时，Flume 会自动做调整，使得数据的采集和推送能够平稳进行。Flume 支持多路径采集、多管道数据接入和多管道
转载
2024-03-26 04:51:44
57阅读
一，背景公司需要用到flink和kafka来处理大数据，对于一个没有接触过这两个东西的40岁程序员，决定自学一下，用了两天的时间终于实现了flink和kafka的对接，目标就是要向kafka输入 "时间戳,温度,设备ID"，然后在flink里面按照时间戳分组，再按照设备ID计算的在一个时间段内的温度平均值。 二，运行环境window 10, kafka 2.1.1, flink 1.7.
转载
2024-03-01 15:52:11
308阅读
目的最近会不定期抽空整理flink的相关知识，整理的逻辑大纲就是下面自己画的学习框架图。如果有大佬发现下面知识框架有问题也欢迎指出。因为FlinkKafkaConsumer 是flink自己对kafka的数据读取进行管理的中间件，与kafka自带的进度管理方式稍有不同，而kafka又是flink最常用的resource和sink之一。这里对FlinkKafkaConsumer的管理机制进行学习记录
转载
2024-04-23 11:46:31
81阅读
本文是《Flink的sink实战》系列的第二篇，《Flink的sink实战之一：初探》对sink有了基本的了解，本章来体验将数据sink到kafka的操作；版本和环境准备本次实战的环境和版本如下：JDK：1.8.0_211Flink：1.9.2Maven：3.6.0操作系统：macOS Catalina 10.15.3 (MacBook Pro 13-inch, 2018)IDEA：2018.3.
转载
2024-03-21 11:25:15
83阅读
目录记录一次流处理引擎选择的过程1、Spark Streaming2、Kafka Streaming3、Flink最后 记录一次流处理引擎选择的过程先描述下项目需求，要处理的消息来源为RabbitMQ的队列A，队列A的数据是10万个点位（物联网采集点）数据每秒一次推送产生的，现在的需求是：要新增一些虚拟计算点位，点位建立规则是已有物理点位的计算表达式，比如V001为P001+2*P002。每个计
转载
2023-07-11 16:58:28
118阅读
目录1. CDC简介1.1. 什么是CDC1.2. CDC的种类1.3. Flink-CDC2. 基于DataStream方式的FlinkCDC应用2.1. 导入依赖2.2. 编写代码2.2.1. 主类-从业务库中获取数据并写入到kafka中2.2.2. 自定义反序列化器2.2.3. 各方法参数详解3. FlinkSQL方式的应用1. CDC简介1.1. 什么是CDC Change Da
1. pom文件依赖<properties>
<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
<maven.compiler.source>1.8</maven.compiler.source>
<maven.co
转载
2024-03-15 08:45:10
213阅读
Flink提供了Exactly once特性，是依赖于带有barrier的分布式快照+可部分重发的数据源功能实现的。而分布式快照中，就保存了operator的状态信息。 Flink的失败恢复依赖于 检查点机制 + 可部分重发的数据源。 检查点机制机制：checkpoint定期触发，产生快照，快照中记录了：当前检查点开始时数据源（例如Kafka）中消息的offset。记
转载
2024-02-28 19:55:23
34阅读
