常规性能调优一、最优资源配置二、RDD 优化2.1 RDD 复用2.2 RDD 持久化2.3 RDD 尽可能早的 filter 操作三、广播大变量四、Kryo 序列化五、调节本地化等待时长 一、最优资源配置Spark 性能调优的第一步，就是为任务分配更多的资源，在一定范围内，增加资源的分配与性能的提升是成正比的，实现了最优的资源配置后，在此基础上再考虑进行后面论述的性能调优策略。资源的分配在使用
转载
2023-09-20 21:28:37
71阅读
spark job中绝大多数task执行得非常快，但个别task执行缓慢。或者原本线上运行的job是正常，但在某天由于特殊原因报出OOM的异常，观察发现是因为代码本身造成的。
转载
2023-05-30 12:20:39
71阅读
Spark Streaming入门概述应用场景集成Spark生态系统的使用Spark Streaming发展史 词频统计使用spark-submit执行使用spark-shell执行工作原理 概述Spark Streaming是核心Spark API的扩展，可实现实时数据流的可伸缩，高吞吐量，容错流处理。数据可以从像卡夫卡，室壁运动，或TCP套接字许多来源摄入，并且可以使用与像高级别功能表达复杂
转载
2023-08-08 12:24:44
66阅读
Spark调用集群的计算/存储资源来处理数据，是大规模的数据处理/机器学习绕不开的一个话题。Spark提供获得数据（如RDD and DataFrame）以及数据分析（如MLLib）的工具。我个人主要是在公司里折腾深度学习模型，所以没有用不上MLLib中提供的工具。虽然说看databricks就知道这东西肯定很多人有用的。RDD和DataFrame恰好是历史上的先后，我们也就照历史线写一下：Spa
转载
2023-06-13 15:38:25
131阅读
当前流行的数据流计算平台是twitter的storm，yahoo的s4等， 这些流计算平台采用record-at-a-time模型： 记录流式达到计算节点， 计算节点依据当前记录进行一定计算，更新节点内部状态，最后输出新记录给下游计算节点。 record-at-a-time模型存在如下问题： • 故障处理不足。 有复制和数据回放两种容错方式， 但是这两种方式各有不足。 复制方法消耗两
转载
2024-02-03 08:39:57
25阅读
一、小文件管理 之指定分区数1、配置 spark.sql.shuffle.partitions，适用场景spark.sql()合并分区spark.conf.set("spark.sql.shuffle.partitions", 5) #后面的数字是你希望的分区数这样配置后，通过spark.sql()执行后写出的数据分区数就是你要求的个数，如这里5。2、配置 coale
转载
2023-09-25 10:32:17
251阅读
概述spark stream是对spark核心api的扩展，其有着很好的扩展性，很高的吞吐量以及容错性的动态数据的流式处理过程。数据可以来自不同的数据源，例如Kafka, Flume, Twitter, ZeroMQ, Kinesis, or TCP sockets，一些具有高级功能的复杂的算法，例如map,reduce,join andwindow，可以使用这些算法来进行数据的处理。最
转载
2023-11-07 15:45:02
75阅读
2021SC@SDUSC目录 2021SC@SDUSCSpark Graph 简介Spark GraphX总体设计属性图Graph的基本结构Spark Graph 简介 2010年，Google提出了适合复杂机器学习的分布式图计算Pregel框架。同年，CMU的Select实验室提出了GraphLab框架，Graph Lab是面向机器学习的流处理并行框架。Grap
转载
2023-11-27 19:51:06
75阅读
Spark简介 Spark是基于内存的分布式批处理系统，它把任务拆分，然后分配到多个的CPU上进行处理，处理数据时产生的中间产物（计算结果）存放在内存中，减少了对磁盘的I/O操作，大大的提升了数据的处理速度，在数据处理和数据挖掘方面比较占优势。Spark应用场景数据处理(Data Processing)：可以用来快速处理数据，兼具容错性和可扩展性。迭代计算(Iterati
转载
2023-06-10 20:57:47
384阅读
一、Spark 基础知识1.1 Spark 简介 Spark是专为大规模数据处理而设计的快速通用的计算引擎，可用它来完成各种各样的运算，包括 SQL 查询、文本处理、机器学习等。1.2 核心概念介绍Spark常用术语介绍Application: Spark的应用程序，包含一个Driver program和若干ExecutorSparkContex
转载
2023-08-13 23:03:10
190阅读
<dependency>
<groupId>org.apache.
spark</groupId>
<artifactId>
spark-core_2.11</artifactId>
<version>2.3.3</version>
</dependency>
转载
2023-10-17 21:28:22
57阅读
Spark Streaming的流数据处理和分析 Spark读写Kafka一、流是什么二、Spark Streaming1、简介2、流数据处理框架3、内部工作流程三、StreamingContext Spark Streaming读kafa数据1、创建2、入门 Spark Streaming读kafa数据示例无状态流处理有状态流处理四、Spark Streaming 写数据到kafka对Kafk
转载
2023-11-09 14:52:30
70阅读
map 就是对一个RDD的各个元素都施加处理，得到一个新的RDD 的过程 [training@localhost ~]$ cat names.txtYear,First Name,County,Sex,Count2012,DOMINIC,CAYUGA,M,62012,ADDISON,ONONDAGA
转载
2017-09-24 21:01:00
591阅读
2评论
Spark框架下，除了支持批处理和流处理，也提供图计算功能，而图计算功能主要由Spark GraphX来提供。而近些年来说，图计算在大数据领域，也得到越来越多的应用。今天的大数据开发学习分享，我们就来讲讲Spark GraphX图计算入门。 关于图计算 关于图计算，其实是不能单单从字面上去理解。所谓的图计算的“图（Graph）”，其实是指的一种网络，是一种适合表现事物之间关联关系的数据
转载
2023-09-27 18:17:22
115阅读
随着图像分类（image classification）和对象检测（object detection）的深度学习框架的最新进展，开发者对 Apache Spark 中标准图像处理的需求变得越来越大。图像处理和预处理有其特定的挑战 - 比如，图像有不同的格式（例如，jpeg，png等），大小和颜色，并且没有简单的方法来测试正确性。图像数据源通过给我们提供可以编码的标准表示，并通过特定图像的细节进行抽
转载
2023-08-29 13:30:09
577阅读
一、GraphX介绍 Spark GraphX是一个分布式图处理框架，它是基于Spark平台提供对图计算和图挖掘简洁易用的而丰富的接口，极大的方便了对分布式图处理的需求。 众所周知，社交网络中人与人之间有很多关系链，例如Twitter、Facebook、微博和微信等，这些都是大数据产生的地方都需要图计算，
转载
2023-10-26 11:57:00
5阅读
企业大数据平台的搭建，往往需要根据实际的企业数据处理需求来做，这是毋庸置疑的。但是随着企业数据源的持续更新，大数据平台框架也需要与时俱进，不断进行优化。以Spark计算框架为例，Spark调优应该怎么做呢？下面为大家分享一些Spark框架数据处理调优的思路。 Spark作为大数据处理框架，典型的优势就是实时计算，包括流式处理Spark Streaming等，在面对不同阶段的数据处理时
转载
2023-08-09 12:39:51
45阅读
Spark简单介绍Spark是一个基于内存的快速、通用、可扩展的大数据分析计算引擎,由Scala开发。Java,scala,python,R和SQL都可以访问SparkAPI。背景： Matei Zaharia开发，作为加州大学伯克利分校博士论文的一部分，spark第一个版本于2012年发布。2013年Spark代码库被捐赠给Apacha Software Foundation,并成为其旗舰项目。
spark 流媒体处理批数据处理与流数据处理批数据流处理Spark Streaming结构化流数据处理 批数据处理与流数据处理如果我们把数据看作是一个巨大的海洋，我们可以把批数据当做一桶水，只不过桶有着不同的大小，对应的数据也有着不同的数据集大小。而流数据可以当做是一条水管，不断地从海洋中抽取数据。批数据顾名思义，批数据是指在一段时间内组合在一起的一组记录，用于后续的处理和分析。因为这些记录是在
转载
2024-02-11 21:18:22
51阅读
目录Flink前言1、flink和spark本质的区别2、流处理和批处理3、无界流和有界流4、实时计算需要考虑的问题Flink简介1、什么是Flink2、Flink的特征3、Blink--基于Flink开发的一个分支4、Flink技术栈5、Flink APIs6、数据流编程模型7、Flink的代码结构Flink前言Flink和spark的功能很相似，spark能做的flink也能做，flink能做
转载
2023-11-29 06:11:28
974阅读
