此文对照哔哩哔哩up主：遇见狂神说的ssm系列 SSM整合目录一、搭建环境1.1在MySql数据库中建立相应数据库和表并插入数据1.2基本环境搭建1.2.1新建一个Maven项目 ssmbuild，添加web支持1.2.2导入相关的pom依赖1.2.3.建立项目结构1.3MyBatis层1.3.1 编写Book实体类1.3.2 编写Mapper接口1.3.3 编写Mapper对应xml1.3.4
一、介绍Flink是分布式大数据处理框架，那么网络通信就离不开了，从目前来看，几乎所有的开源的大型软件，尤其是Java的，基本已经不再倾向于自己写底层网络通信，毕竟有很多可以使用的Rpc网络通信框架可以来完善使用，Flink也是如此，它是基本Akka Rpc这款Rpc通信框架的。二、分析1、服务端先看一下测试代码的最基础的通信代码（RpcEndPointTest.java）：public inte
转载
2024-03-19 19:45:11
30阅读
DEMOFlink RPC 众所周知底层是Akka，我先来写一个RPC 的用例RPC Gatewaypublic interface HelloGateway extends RpcGateway {
CompletableFuture<String> hello();
}RPC Endpoint也就是服务端执行的public class HelloRpcEndpoint
转载
2024-03-08 10:37:10
38阅读
Apache Flink是新一代的分布式流式数据处理框架，它统一的处理引擎既可以处理批数据(batch data)也可以处理流式数据(streaming data)。在实际场景中，Flink利用Apache Kafka作为上下游的输入输出十分常见，本文将给出一个可运行的实际例子来集成两者。目录一、目标二、环境准备三、创建Flink Streaming工程四、增加kafka和kafka-
转载
2024-07-01 19:51:00
139阅读
主要抽象Flink RPC 框架主要抽象了RpcService,RpcEndpoint,RpcGateway,RpcServer这几个接口，具体实现可以采用多种方式，比如：akka,nettyRpcService我理解为RPC框架的引擎，可以用来启动、停止、连接一个RpcEndpoint，以及执行某些异步任务或者周期性调度任务。主要方法:
connect:连接到一个RpcEndpoint,返回一个
转载
2023-12-10 10:34:31
65阅读
flink中的rpc框架使用的akka。在本节并不详细讲述akka，而是就flink中rpc来讲述akka的部分内容。本节，我从AkkaRpcActor.handleRpcInvocation方法讲起。 看过hadoop、yarn、hive、hbase、presto的rpc框架，感觉flink的通信框架是最容易让人绕晕的。虽然之前也看过一点spark中akka的通信，但现在早已忘得一干二净。
转载
2024-02-08 14:51:49
85阅读
我的IDEA版本为2018.3.4，不同的IDEA版本操作相差无几，请参照下文开始使用Gitee插件吧！ IDEA版本安装Gitee插件【File】-【Settings】-【Plugins】，查看gitee插件并安装 安装Gitee插件安装完成后，重启IDEA 重启IDEA添加Gitee账户【File】-【Settings】-【Version Control】-【Gi
转载
2023-06-14 23:19:36
74阅读
前言安装插件配置插件选择版本添加配置文件在项目中应用checkstyle插件具体使用前言当我们想给flink贡献自己的代码的时候，就需要把代码下载下来，然后导入自己的IDE，其中有一个很重要的环节就是对代码规范的检查，也就是flink的checkstyle，如果我们只是靠在用maven编译的时候的出错信息来对flink进行调试，那么就太费事了，所以我们可以利用flink的checks
转载
2024-06-22 21:53:07
191阅读
介绍 Apache Flink 是一个开源的、统一的流处理和批处理框架。与这些框架中的任何一个一样，开始使用它可能是一个挑战。即使有一个很好的入门或一个伟大的（和免费的）实践培训，也总是有关于如何开始、如何调试问题或如何在 IDE 中启动项目的问题。在本文中，我总结了自从开始使用 Flink 以来我一直在写的一些笔记。如果 Flink 对你来说是新的东西，那么它很容易遵循。如果你已经是一个有经验
转载
2024-06-02 17:08:30
221阅读
一.
IDEA开发环境1.pom文件设置 <properties>
<maven.compiler.source>1.8</maven.compiler.source>
<maven.compiler.target>1.8</maven.compiler.target>
<enc
转载
2024-04-23 14:39:10
138阅读
对于熟悉Maven操作的读者来说，可以象上一节讲的那样，先在命令行用Maven命令快速生成Flink基本程序框架，然后导入到IDE中进一步开发。如果读者更熟悉IDE（例如，IntelliJ IDEA）的话，那么可以直接在IntelliJ IDEA中开发Maven程序。通过结合使用IntelliJ IDEA集成开发工具和Maven项目构建工具，我们可以方便快速地开发Flink项目。一、在Intell
转载
2024-05-08 12:17:37
430阅读
文章目录一、介绍二、环境准备与实验1、环境2、启动步骤3、实验过程三、遇到过的坑四、参考资料 一、介绍hudi最新的0.9版本经过众人千呼万唤，终于在9月份出来了。hudi可以兼容在hadoop基础之上存储海量数据，不仅可以进行批处理，还可以在数据湖上进行流处理，即离线与实时结合。并且同时提供了2种原生语义：1）Update/Delete记录：即通过hudi可以更新和删除表中记录，同时还提供写操
转载
2023-07-14 17:13:23
291阅读
1评论
目录一、组件下载二、Batch模式实施步骤：2.1 启动flink-sql客户端2.2 创建表2.3插入数据2.4 根据主键更新数据三、stream模式实现步骤：3.1 创建表3.2 从批模式写入一条数据3.3 隔几秒后在流模式可以读取到一条新增的数据四.Hive 同步4.1 hudi编译：4.2. Hive 环境准备1.启动hive元数据2.在 Hive 服务器导入 Hudi
转载
2023-07-18 13:15:55
348阅读
我是Lake，专注大数据技术、程序员经验、互联网科技见解分享，如果你觉得这篇文章对你有帮助的话，欢迎你点赞转发或者关注我，你的一个小小的鼓励，就是我前进的最大动力。最近在做 Flink SQL 任务方面的开发，有这样一种情况，用户自己上传自定义的 UDF Jar 包，这里你可以理解为是用户自己定义的函数 Jar 包，然后在写的 Flink SQL 任务的时候，需要能够用到 Jar 包中定义的 UD
转载
2023-08-04 13:28:08
154阅读
我的博客：兰陵笑笑生,欢迎浏览博客！ 上一章 SpringBoot入门实践(四)-RESTFUL API 最佳设计当中,我们介绍了在SpringBoot项目中如何规范的使用RESTful风格的API，。本章简单介绍一下常用的开源日志框架。前言 日志是程序设计中很重要的一部分，当然在我刚接触编程的时候，是不怎么在意的，正好有空归纳总结一下。 在JDK1.4版本之后才有JDK Logger，不过JD
# Java 整合 Flink
## 引言
Flink 是一个开源的流处理和批处理框架，能够处理大规模的实时和历史数据。它具有高吞吐量、低延迟、容错性和可扩展性等特点，被广泛应用于各类大数据场景。本文将介绍如何使用 Java 语言整合 Flink 框架，并提供一些代码示例。
## Flink 基本概念
在开始整合 Flink 之前，我们先了解一些 Flink 的基本概念。
- **Dat
原创
2023-10-03 09:37:47
124阅读
Apache Flume介绍概述运行机制Flume采集系统结构图简单结构复杂结构Flume安装部署 介绍在一个完整的离线大数据处理系统中，除了hdfs+mapreduce+hive组成分析系统的核心之外，还需要数据采集、结果数据导出、任务调度等不可或缺的辅助系统，而这些辅助工具在hadoop生态体系中都有便捷的开源框架概述Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采
一、搭建环境 jdk10.0.2 Mysql8 tomcat9 maven3.5.4 idea2018.1.4二、框架整合 1、使用idea创建一个maven项目，如下所示： 在main目录下分别创建java目录和resource目录，项目目录结构如下图： 其中java目录放置java文件，resource目录放置配置文件。 2、项目结构搭建以后，使用maven引入依赖，pom.
转载
2024-03-15 10:12:33
33阅读
1.新建一个maven项目1.创建一个叫做MyFirstSsm的项目
2.打开pom.xml文件
导入jar和配置资源扫描（如下）<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.
转载
2024-03-09 22:29:57
26阅读
Kafka 和 Flink 是当前流行的两个开源项目，分别用于消息传递和流处理。在实际项目中，通常需要将 Kafka 作为数据源接入到 Flink 中实现实时数据处理。接下来我会详细介绍如何实现“Kafka 整合 Flink”，希望能帮助你快速上手。
### 整合流程
下面是整合 Kafka 和 Flink 的整体流程，可以帮助你更好地理解整个过程。
| 步骤 | 描述
原创
2024-05-21 10:45:40
122阅读
