Apache Flink是由Apache软件基金会开发的开源流处理框架,其核心是用Java和Scala
一、构建Flink程序构建一个Flink程序有两种方式# 方式一:构建 maven 工程,
一、Flink运行时各个组件介绍二、Flink任务提交的流程三、Flink任务调度原理一、Flink运行时各个组件介绍Flink 运行时架构主要包括四个不同的组件,它们会在运行流处理应用程序时协同工作:作业管理器(JobManager)、资源管理器(R....
在之前的文章中有提到过,一个flink应用程序开发的步骤大致为五个步骤:构建执行环境、获取数据源、操作数据源、输出到外部系统、触发程序执行。由这五个模块组成了一个flink任务,接下来围绕着每个模块对应的API进行梳理。
构建一个Flink程序有两种方式 方式一:构建 maven 工程,导入流式应用依赖包 <!-- 基础依赖 --> <dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-java</artifactId> <version>${flink.version}</version> <scope>provided</scope> </dependency> <!-- DataStream --> <dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-streaming-java_2.11</artifactId> <version>1.11.3</version> <scope>provided</scope> </dependency>方式二:基础环境构建直接使用快捷命令【推荐在Mac或者Linux上使用】
Apache Flink是由Apache软件基金会开发的开源流处理框架,其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和流水线方式执行任意流数据程序,Flink的流水线运行时系统可以执行批处理和流处理程序。此外,Flink的运行时本身也支持迭代算法的执行。
Flink 运行时架构主要包括四个不同的组件,它们会在运行流处理应用程序时协同工作:作业管理器(JobManager)、资源管理器(ResourceManager)、任务管理器(TaskManager),以及分发器(Dispatcher)。因为 Flink 是用 Java 和 Scala 实现的,所以所有组件都会运行在Java 虚拟机上。接下来对各个组件的功能进行简单介绍i。
Copyright © 2005-2025 51CTO.COM 版权所有 京ICP证060544号