1 固定执行计划的不足在不开启 Adaptive Execution 之前，执行计划一旦确定，即使发现后续执行计划可以优化，也不可更改。如下图所示，SortMergJoin 的 Shuffle Write 结束后，发现 Join 一方的 Shuffle 输出只有 46.9KB，仍然继续执行 SortMergeJoin 此时完全可将 SortMergeJoin 变更为 BroadcastJoin 从
转载
2023-11-27 21:18:04
181阅读
# SparkSQL Merge Into实现步骤
## 1. 概述
在SparkSQL中，"merge into"语法用于将源数据合并到目标数据中，可以根据条件来判断是否进行插入、更新或删除操作。本文将向你介绍如何使用SparkSQL的"merge into"语法来实现数据合并。
## 2. 实现步骤
下面是实现SparkSQL Merge Into的步骤，使用表格展示：
| 步骤 |
原创
2023-11-17 08:31:59
614阅读
背景最近在做Spark 3.1 升级 Spark 3.5的过程中，遇到了一批SQL在运行的过程中 Driver OOM的情况，排查到是AQE开启导致的问题，再次分析记录一下，顺便了解一下Spark中指标的事件处理情况结论SQLAppStatusListener 类在内存中存放着 一个整个SQL查询链的所有stage以及stage的指标信息，在AQE中 一个job会被拆分成很多job，甚至几百上千的
转载
2024-06-26 16:03:56
88阅读
MERGE INTO是Oracle 9i以后才出现的新的功能。
那这个功能是什么呢？简单来说，就是：“有则更新，无则插入”, 用来合并UPDATE和INSERT语句.
通过MERGE语句，根据一张表或子查询的连接条件对另外一张表进行查询，
连接条件匹配上的进行UPDATE，无法匹配的执行INSERT。这个语法仅需要一次全表扫描就完成了全部工作，执行效率要高于INSERT＋UPDATE。语法：1
转载
2023-07-18 15:26:36
650阅读
一. spark-sql
1.in 不支持子查询 eg. select * from src where key in(select key from test);
支持查询个数 eg. select * from src where key in(1,2,3,4,5);
in 40000个 耗时25.766秒
in 80000个 耗时78.827秒
2.union all/union
不支持顶层
转载
2023-09-15 16:03:13
895阅读
前言Apache Spark在6月份分布了3.0.0版本，增加了许多性能优化方面的新特性。作为大数据分析的重要引擎，在SQL查询优化方面的新特性值得期待和使用。Spark在SQL查询方面的性能优化主要分为四个方向七个方面：开发交互方向新的Explain格式所有join支持hints动态优化自适应查询执行动态分区裁剪Catalyst提升增强嵌套列的裁剪和下推增强聚合的代码生成基础设施更新支持新的Sc
转载
2023-08-08 10:50:28
190阅读
# 实现“mysql merge实现merge into”教程
## 流程图
```mermaid
flowchart TD
A(准备工作) --> B(创建临时表)
B --> C(合并数据)
C --> D(删除临时表)
D --> E(结束)
```
## 类图
```mermaid
classDiagram
Merge {
+ m
原创
2024-05-27 04:05:00
308阅读
目录一、概述二、Spark-SQL脚本 正文
回到顶部一、概述SparkSQL 的元数据的状态有两种：1、in_memory,用完了元数据也就丢了2、hive , 通过hive去保存的，也就是说，hive的元数据存在哪儿，它的元数据也就存在哪儿。 换句话说，SparkSQL的数据仓库在建立在Hive之上实现的。我们要用SparkSQL去构建数据仓库的时候，必须依赖于Hive
转载
2023-05-30 11:16:59
210阅读
Spark SQL学习笔记Spark SQL学习笔记设计到很多代码操作，所以就放在github, https://github.com/yangtong123/RoadOfStudySpark/blob/master/src/com/spark/sql/Readme.md其中包括了对Spark2.0的新特性的介绍，包括SparkSession, DataSet等
转载
2023-06-05 10:45:47
170阅读
文章目录第1章 Spark SQL概述1.1 什么是Spark SQL1.2 Spark SQL的特点1.2.1 易整合1.2.2 统一的数据访问方式1.2.3 兼容Hive1.2.4 标准的数据连接1.3 什么是DataFrame1.4 什么是DataSet第2章 Spark SQL编程2.1 SparkSession新的起始点2.2 DataFrame2.2.1 创建DataFrame2.2
转载
2023-09-18 21:50:25
125阅读
1、概念 Spark SQL是一个用来处理结构化数据的Spark组件。 优点： ①SparkSQL是一个SQL解析引擎，将SQL解析成特殊的RDD（DataFrame），然后在Spark集群中运行 ②SparkSQL是用来处理结构化数据的（先将非结构化的数据转换成结构化数据） ③SparkSQL支持两种编程API 1.SQL方式
转载
2023-05-29 10:12:48
239阅读
概述 SparkSql将RDD封装成一个DataFrame对象，这个对象类似于关系型数据库中的表。 创建DataFrame对象DataFrame就相当于数据库的一张表。它是个只读的表，不能在运算过程再往里加元素。 RDD.toDF("列名")
scala> val rdd = sc.parallelize(List(1,2,3,4,5,6))
rdd: org.apache.sp
转载
2023-08-29 17:06:09
91阅读
介绍用户一方面需要关系型操作，另一方面需要过程式的操作，shark只能进行关系型操作。Spark SQL可以将两者结合起来。Spark SQL由两个重要组成部分 DataFrame API 将关系型的处理与过程型处理结合起来，可以对外部数据源和Spark内建的分布式集合进行关系型操作压缩的列式存储，而不是Java/Scala对象Catalyst 提供了一整套性能分析、计划、运行时代码生成等的框架非
转载
2024-06-04 08:13:31
160阅读
揭秘Spark SQL和DataFrame的本质1、Spark SQL与DataFrame 2、DataFrame与RDD 3、企业级最佳实践 一、SparkSQL与DataFrame 1、SparkSQL之所以是除了SparkCore以外最大的和最受关注的组件，原因是 a)处理一切存储介质和各种格式的数据（同时可以方便的扩展Spake SQL的功能来支持更多类型的数据，例如Kudu）
转载
2024-02-25 10:51:55
87阅读
文章目录前言一、SparkSession1、SparkSession介绍2、SparkSession构建3、sql与dsl实现词频统计4、spark开发形式发展二、DataFrame1、dataframe概述2、dataframe编程3、dataframe函数4、Catalyst 优化器5、spark读写外部数据源1、从本地文件系统加载JSON格式数据，保存为Parquet格式：2、加载文本数据
转载
2023-09-04 12:08:40
260阅读
Spark SQL实现原理-逻辑计划优化规则：ColumnPruning（列裁剪）规则该逻辑计划优化规则，尝试从逻辑计划中去掉不需要的列，从而减少读取数据的量。列裁剪效果列裁剪规则会在多种情况下生效，下面通过几个例子来理解该优化规则的行为：排序并进行列裁剪当有groupBy等聚合操作时，会把不需要的列在读取数据时去掉，以减少数据的读取量。case class Person(id: Long, na
转载
2023-09-25 04:50:48
73阅读
Spark SQL是spark套件中一个模板，它将数据的计算任务通过SQL的形式转换成了RDD的计算，类似于Hive通过SQL的形式将数据的计算任务转换成了MapReduce。Spark SQL的特点： 1、和Spark Core的无缝集成，可以在写整个RDD应用的时候，配置Spark SQL来完成逻辑实现。 2、统一的数据访问方式，Spark SQL提供标准化的SQL查询。 3、Hive的继承，
转载
2023-09-19 06:37:19
113阅读
首先我们来看看为什么会冲突，git冲突的原因很简单，就是两个分支当中对同一处代码进行了不同的改动。于是git会困惑，不知道在merge的时候究竟应该怎么做，于是就会出现冲突。实战光说不练没有意义，让我们来实际操作一下。我们首先创建一个一个test.txt文件，在其中写入一行test。git add并且git commit。 接着我们checkout -b创建一个新的分支，在这个分支当中
转载
2024-04-17 09:19:04
167阅读
Spark sql实现自定义函数 文章目录一、为什么要自定义function？二、实现自定义的函数三、测试效果总结 一、为什么要自定义function？有小伙伴可能会疑问：Spark Sql提供了编写UDF和UDAF的接口扩展，为什么还有开发自定义函数呢？虽然Spark SQL 提供了UDF和UDAF，但是当我们想要实现 原生函数一样的功能比如:语义参数 ，可变参数等 功能时候，UDF和UDAF就
转载
2023-06-19 10:29:50
277阅读
Spark SQL是构建在Spark RDD之上一款ETL（Extract Transformation Load）工具（类似Hive-1.x-构建在MapReduce之上）。同Spark RDD 不同地方在于Spark SQL的API可以给Spark计算引擎提供更多的信息（计算数据结构、转换算子），Spark计算引擎可以根据SparkSQL提供的信息优化底层计算任务。目前为止Spark SQL提
转载
2024-06-07 20:30:53
76阅读
