文章目录Spark SQL一、Spark SQL概述1.什么是DataFrame2.什么是DataSet二、Spark SQL编程1.DataFrame读取json文件1.1 创建DataFrame1.2 SQL风格语法 [重点]1.3 DSL风格语法1.4 RDD转换为DataFrame[重要]1.5 DataFrame转换为RDD2.DataSet2.1 创建DataSet2.2 RDD转换
转载
2023-08-11 00:04:51
108阅读
Yarn-Cluster 模式任务流程一、任务提交流程执行脚本提交任务，实际是启动一个 SparkSubmit 的 JVM 进程SparkSubmit 类中的 main 方法 反射调用 YarnClusterApplication 的 main 方法创建客户端YarnClusterApplication 在客户端创建 yarnClient，向 ResourceManager 提交用户的应用程序RM
转载
2023-08-11 17:04:01
206阅读
文章目录1. Spark任务调度概述2. Spark通信机制3. 任务调度过程3.1 Spark Stage 级调度3.2 Spark Task 级调度3.2.1 调度策略3.2.2 本地化调度3.2.3 失败重试与黑名单机制 1. Spark任务调度概述当Driver任务启动之后，Driver则会根据用户程序逻辑准备任务，并根据Executor资源情况逐步分发任务。 一个Spark应用程序包括
转载
2023-10-05 16:09:20
105阅读
spark任务运行的源码分析在整个spark任务的编写、提交、执行分三个部分：① 编写程序和提交任务到集群中 ②sparkContext的初始化③触发action算子中的runJob方法，执行任务(1)编程程序并提交到集群：①编程spark程序的代码②打成jar包到集群中运行③使用spark-submit命令提交任务在提交任务时，需要指定 --class 程序的入口（有main方法的类），1） s
转载
2024-05-31 23:50:37
32阅读
概述Spark Application在遇到action算子时，SparkContext会生成Job，并将构成DAG图将给DAG Scheduler解析成Stage。Stage有两种： ShuffleMapStage 这种Stage是以Shuffle为输出边界 其输入边界可以是从外部获取数据，也可以是另一个ShuffleMapStage的输出 其输出可以是另一个Stage的开始 Shuf
转载
2023-10-05 16:25:28
140阅读
standalone模式下:提交spark-submit任务，会先在client端启动driver，driver就是我们写的spark程序，driver进程启动后,首先会构建sparkcontext，sparkcontext主要包含两部分：DAGScheduler和 TaskScheduler,然后TaskScheduler会寻找集群资源管理器(Master/Worker)的Ma
转载
2023-10-25 13:24:53
189阅读
Spark 作为一个基于内存的分布式计算引擎，其内存管理模块在整个系统中扮演着非常重要的角色。理解 Spark 内存管理的基本原理，有助于更好地开发 Spark 应用程序和进行性能调优。本文旨在梳理出 Spark 内存管理的脉络，抛砖引玉，引出读者对这个话题的深入探讨。本文中阐述的原理基于 Spark 2.1 版本，阅读本文需要读者有一定的 Spark 和 Java 基础，了解 RDD、Shuf
转载
2023-08-30 22:52:09
50阅读
先上图： 每一个过程的任务数，对应一个inputSplit1, Partition输入可能以多个文件的形式存储在HDFS上，每个File都包含了很多块，称为Block。当Spark读取这些文件作为输入时，会根据具体数据格式对应的InputFormat进行解析，一般是将若干个Block合并成一个输入分片，称为InputSplit，注意InputSplit不能跨越文件。随后将为这些输入分片生
转载
2023-06-19 12:43:12
191阅读
Client 提交应用，Master节点启动DriverDriver向Cluster Manager申请资源，并构建Application的运行环境，即启动SparkContextSparkContext向ClusterManager申请Executor资源，Worker会先实例化ExecutorRunner对象，在ExecutorRunner启动中会创建进程生成器ProcessBuilder，然
转载
2023-08-26 16:37:22
138阅读
（一）任务（作业）调度任务调度相关的3个概念：job、stage、task。Job：根据用的的spark逻辑任务。以action方法为界，遇到一个action 方法，则触发一个job。Stage：stage是job的子集。以宽依赖（shuffle）为界。遇到遇到一个shuffle，做一次划分。Task：task是stage的子集。以并行度（分区数）为区分。分区数多少个，就多少个task。 
转载
2023-07-02 21:34:44
78阅读
Spark任务调度TaskScheduler调度入口：（1） CoarseGrainedSchedulerBackend 在启动时会创建DriverEndPoint. 而DriverEndPoint中存在一定时任务，每隔一定时间（spark.scheduler.revive.interval, 默认为1s）进行一次调度（给自身
转载
2023-08-22 15:40:21
136阅读
以yarn-cluster(顺带说下client模式)为例，包名org.apache.spark用oas代替，org.apache.hadoop用oah代替。org.apache.spark.deploy.yarn用sdy代替。org.apache.hadoop.yarn.client.api用hyca代替。常用类如下：私有类：sdy.ApplicationMaster；sdy.ExecutorR
转载
2023-09-21 12:23:11
353阅读
Spark 文章目录122.12.2 等作业运行完再关闭Spark Streaming每隔batchDuration的时间会把源源不断的流数据分割成一批有限数据集，然后计算这些数据，我们可以从Spark提供的监控页面看到当前batch是否执行完成，当作业执行完，我们就可以手动执行kill命令来强制关闭这个Streaming作业。这种方式的缺点就是得盯着监控页面，然后决定关不关闭，很不灵活
转载
2024-01-24 21:43:47
190阅读
RDD任务切分中间分为：Application、Job、Stage和TaskApplication：初始化一个SparkContext即生成一个Application；Job：一个Action算子就会生成一个Job；Stage：Stage等于宽依赖(ShuffleDependency)的个数加1；Task：一个Stage阶段中，最后一个RDD的分区个数就是Task的个数。注意：Applic
转载
2023-06-11 15:30:44
110阅读
主线程:步骤1: 客户端向资源管理器master发送注册和申请资源的请求,master负责任务资源的分配,这是spark集群的老大 步骤2: Master收到申请资源的请求后,向指定的worker节点发送请求,然后worker节点会开启对应的executor的进程 步骤3: Executor进程会向driver发送注册请求,然后申请要计算的task 步骤4: 在driver的内部会执行一些操作,最
转载
2023-08-08 11:55:46
103阅读
在执行Spark 的应用程序时，Spark 集群会启动 Driver 和 Executor 两种 JVM 进程，前者为主控进程，负责创建 Spark 上下文，提交 Spark 作业（Job），并将作业转化为计算任务（Task），在各个 Executor 进程间协调任务的调度，后者负责在工作节点上执行具体的计算任务，并将结果返回给 Driver，同时为需要持久化的 RDD 提供存储功能。由于 Dri
转载
2023-08-26 09:50:36
63阅读
1、Stage任务划分DAG有向无环图：DAG（Directed Acyclic Graph）有向无环图是由点和线组成的拓扑图形，该图形具有方向，不会闭环。原始的RDD通过一系列的转换就形成了DAG，根据RDD之间的依赖关系的不同将DAG划分成不同的Stage，对于窄依赖，partition的转换处理在Stage中完成计算。对于宽依赖，由于有Shuffle的存在，只能在parent RDD处理完成
转载
2023-07-03 17:22:59
404阅读
spark executor的个数和并行任务的个数合理的core，memory比例以及并行度是能显著提升spark执行效率。也是spark优化的一个重点spark executor 数量指定spark executor 数量的公式executor_num = spark.cores.max/spark.executor.cores参数说明：spark.cores.max 是指你的spark程序需要
转载
2023-08-05 02:37:58
144阅读
Spark任务提交全流程的源码的类调用时序图 spark-submit时序图
本篇博客主要是Spark任务提交到执行的全流程中的第一部分：从spark-submit.sh脚本调用到Executor被启动起来并注册到Driver的源码解析。1、spark-submit.sh的脚本中在spark-submit.sh的脚本中可以看到来启动SparkSubmit对象。exec
转载
2023-08-04 21:17:44
103阅读
Tasks数决定因素 在Spark 中 我们知道会将一个任务划分为多个stage ，划分stage的依据就是是否为宽依赖（存在shuffle）,每个stage 的并行度取决于一个stage 最后一个算子，因为一个任务的调用是从最后一个算子向前执行的.所以一个任务的task 数主要看一个stage最后的一个rdd的分区数。这里主要用一个列子说明计算过程分区数是怎么确定的：rdd.map(...).r
转载
2023-06-19 10:03:07
95阅读
