Spark是内存当中的计算框架，集群中的任何资源都会让它处于瓶颈，CPU、内存、网络带宽。通常，内存足够的情况之下，网络带宽是瓶颈，这时我们就需要进行一些调优，比如用一种序列化的方式来存储RDD来减少内存使用，下面介绍两种方式：数据序列化和内存调优。
1、数据序列化
（1） Spark默认是使用Java的ObjectO
转载
2023-09-22 10:32:22
80阅读
# Spark AE: 科普文章
spark ae是什么？Apache Spark的一个重要功能，通常指的是Spark的“高级引擎”，其应用场景多种多样，能够在大数据处理、流处理和机器学习等领域发挥重要作用。以下是对spark ae的详细探讨。
### 背景定位
在大数据时代，数据处理的规模和复杂度日益增加。Apache Spark因其高效的内存计算和易用的API而成为热门的分布式数据处理框架。最初，Spark是作为Hadoo
1. 写在前面之前零散的写了一些spark在某一块的性能优化，比如sparkstreaming的性能优化，参数优化，sparkSQL的优化。本篇博文针对spark一些基本的核心优化做一个介绍分享，当然这里的介绍适合rdd,sparkstreaming,sparkSQL等。当然个人认为不管什么样的优化方案和方式都只是为了提供一个优化参考。具体实际的业务中，优化还是得看具体的实际的情况。还是引用某位大
转载
2023-06-19 12:49:09
289阅读
Spark效率优化Join相关spark conf 中加入一些参数，会加速shuffle过程，这里根据数据量实际大小可以调节下面一些参数，实践中会对于大数据量JOIN能加速20%以上spark.default.parallelism 是控制每个stage的默认stage数量，一般是对RDD有效，而参数spark.sql.shuffle.partitions是控制spark sql的shuffle分
转载
2023-07-28 10:37:26
113阅读
Spark--优化总结：优化方向RDD/代码调优1.尽可能复用RDD2.保证对一个RDD执行多次算子操作时，这个RDD本身仅仅被计算一次。3.尽量避免使用shuffle类算子4.使用高性能的算子5.广播变量参数调优1.num-executors →==executors数量==2.executor-memory→==executors内存==3.executor-cores→==executor
转载
2024-06-21 10:26:24
167阅读
一、代码优化1.在数据统计的时候选择高性能算子。例如Dataframe使用foreachPartitions将数据写入数据库，不要每个record都去拿一次数据库连接。通常写法是每个partition拿一次数据库连接。/**
* 将统计结果写入MySQL中
* 代码优化：
* 在进行数据库操作的时候，不要每个record都去操作一次数据库
转载
2023-08-21 14:52:02
149阅读
Spark已经成为了越来越流行、越来越受欢迎的计算平台之一。Spark的功能涵盖了大数据领域的离线批处理、SQL类处理、流式/实时计算、机器学习、图计算等各种不同类型的计算操作，应用范围与前景非常广泛。Spark开发出高性能的大数据计算作业，并不是那么简单的。如果没有对Spark作业进行合理的调优，Spark作业的执行速度可能会很慢，这样就完全体现不出Spark作为一种快速大数据计算引擎的
转载
2023-09-26 09:41:12
146阅读
spark优化可以从三个方面入手：1、spark运行环境：存储与计算资源2、优化RDD操作的使用方法3、参数调优1、运行环境的优化：spark参数设置有三种方法，1、集群配置；2、提交命令设置；3、程序中设置优先级是 3>2>1 （意思是如果都设置了，就执行3中的设置）1)、防止不必要的jar包上传与分发（当提交任务时，spark程序会将程序jar包和spar
转载
2023-08-25 13:32:27
76阅读
shuffle调优是spark调优的重中之重，在讲解shuffle调优之前，我们首先明确一个概念，什么是shuffle操作？问题：什么是shuffle？答案：每个Spark作业启动运行的时候，首先Driver进程会将我们编写的Spark作业代码分拆为多个stage，每个stage执行一部分代码片段，并为每个stage创建一批Task，然后将这些Task分配到各个Executor进程中执行。一个st
转载
2024-07-21 17:06:33
43阅读
由于Spark的计算本质是基于内存的，所以Spark性能程序的性能可能因为集群中的任何因素出现瓶颈：CPU、网络带宽、或者是内存。如果内存能够容纳得下所有的数据，那么网络传输和通信就会导致性能出现瓶颈。但是如果内存比较紧张，不足以放下所有的数据（比如在针对10亿以上的数据量进行计算时），还是需要对内存的使用进行性能优化的，比如说使用一些手段来减少内存的消耗。Spark性能优化，其实主要就是在于对内
转载
2023-10-27 15:08:24
91阅读
Task优化：建议开启spark.speculation（慢任务推导，当检测的慢任务时，会同步开启相同的新任务，谁先完成就认定该任务完成）。reduceByKey会首先reduce locally。例如在进行join操作的时候，形如(k1,v1) join (k1,v2) => (k1,v3) 此时就可以进行pipeline，但是(o1) join (o2) => (o3) ，此时就会
转载
2023-06-11 15:31:49
328阅读
以下是Shffule过程中的一些主要参数，这里详细讲解了各个参数的功能、默认值以及基于实践经验给出的调优建议。spark.shuffle.file.buffer 1、默认值：32k 参数说明：该参数用于设置shuffle write task的BufferedOutputStream的buffer缓冲大小。将数据写到磁盘文件之前，会先写入buffer缓冲中，待缓冲写满之后，才会溢写到磁盘。
转载
2023-11-26 23:14:29
72阅读
本文分为四个部分，基本涵盖了所有Spark优化的点，面试和实际工作中必备。《Spark性能优化：开发调优篇》《Spark性能优化：资源调优篇》《Spark性能优化：数据倾斜调优篇》《Spark性能优化：shuffle调优篇》Spark性能优化：开发调优篇 在大数据计算领域，Spark已经成为了越来越流行、越来越受欢迎的计算平台之一。Spark的功能涵盖了大数据领域的离线批处理、SQL类处理、流式/
转载
2023-12-27 22:49:07
142阅读
# Spark性能优化指南
## 一、流程概述
在优化Spark应用程序时，我们通常需要遵循以下步骤：
| 步骤 | 描述 |
|------|------|
| 1 | 查看Spark作业的执行计划 |
| 2 | 根据执行计划进行性能分析 |
| 3 | 优化数据读取和写入 |
| 4 | 避免Shuffle操作 |
| 5 | 调整资源配置 |
| 6 | 使用缓存和持久化 |
##
原创
2024-04-12 06:09:19
19阅读
概述：
小文件定义： 文件大小明显小于hdfs 块大小 目前为128M的文件，目前判定标准为10M以下为小文件。
小文件危害：存储小浪费namenode的内存，影响hdfs的读写性能，计算影响 maptask读文件的效率。
查数据量：
这个是通过每天解析fsimage 的信息，然后记录的hive 表里面进行分析。
select db_nm,table_nm,task_id,task_nm,tas
原创
2024-07-02 14:35:43
52阅读
1.优化? Why? How? When? What?“spark 应用程序也需要优化？”，很多人可能会有这个疑问，“不是已经有代码生成器，执行优化器，pipeline 什么的了的吗？”。是的，spark 的确是有一些列强大的内置工具，让你的代码在执行时更快。但是，如果一切都依赖于工具，框架来做的话，我想那只能说明两个问题：你对这个框架仅仅是知其然，而非知其所以然；看来你也只是照葫芦画瓢而已，没了
转载
2023-08-15 22:06:55
403阅读
代码调优spark调优对多次使用的RDD进行持久化如何选择一种最合适的持久化策略对多次使用的RDD进行持久化如何选择一种最合适的持久化策略使用高性能的算子1. 使用reduceByKey/aggregateByKey替代groupByKeyreduceByKey/aggregateByKey替代groupByKey计算同一组内最大值以及平均值2. 使用mapPartitions替代普通map T
转载
2023-11-15 15:01:03
108阅读
