文章目录一、RDD血缘关系二、RDD 依赖关系1.窄依赖2.宽依赖3.RDD的阶段划分4.RDD任务划分三、RDD持久化1.RDD Cache 缓存2.RDD CheckPoint 检查点四、RDD 分区器五、RDD 文件读取与保存 一、RDD血缘关系RDD不会保存数据；RDD为了提供容错性，会将RDD间的关系保存下来 一旦出现错误，可以根据血缘关系从新计算二、RDD 依赖关系1.窄依赖上游RD
转载
2023-09-03 15:50:32
66阅读
# 教你如何实现“Spark RDD的API文档”
作为一名刚入行的开发者，你可能对如何实现“Spark RDD的API文档”感到困惑。不用担心，这篇文章将为你提供详细的指导，帮助你快速上手。
## 流程图
首先，让我们用流程图来展示实现Spark RDD API文档的整体流程：
```mermaid
flowchart TD
A[开始] --> B[了解Spark RDD]
原创
2024-07-21 09:56:08
20阅读
2.2 RDD:计算 transform->action2.2.1 aggregatex = sc.parallelize([2,3,4], (aggreg...
原创
2023-07-31 10:45:21
54阅读
数据倾斜概念什么是数据倾斜 大数据下大部分框架的处理原理都是参考mapreduce的思想：分而治之和移动计算，即提前将计算程序生成好然后发送到不同的节点起jvm进程执行任务，每个任务处理一小部分数据，最终将每个任务的处理结果汇总，完成一次计算。
如果在分配任务的时候，数据分配不均，导致一个任务要处理的数据量远远大于其他任务，那么整个作业一直在等待这个任务完成，而其他机器的资源完全没利用起来，
转载
2023-08-29 16:24:26
40阅读
第1章 RDD 概念1.1 RDD 为什么会产生 RDD：Resilient Distributed Dataset 弹性分布式数据集 RDD 是 Spark 的基石，是实现 Spark 数据处理的核心抽象。那么 RDD 为什么会产生呢？ Hadoop 的 MapReduce 是一种基于数据集的工作模式，面向数据，这种工作模式一般是从存储上加载数据集，然后操作数据集，最后写入物理存储设备。
原创
2021-06-02 18:14:13
1114阅读
一、RDD 的创建1）通过 RDD 的集合数据结构，创建 RDDsc.parallelize(List(1,2,3),2) 其中第二个参数代表的是整个数据，分为 2 个 partition，默认情况会讲数据集进行平分，注意不是两个副本2）通过文件来读取sc.textFile("file.txt")
sc.sequenceFile("file.txt") sequeceFile 是 HDFS 一些数
转载
2024-07-31 10:25:58
100阅读
学习spark最基本的概念就时RDD(Resilient Distributed Datasets弹性分布式数据集)RDD五大特性我画了一个丑丑的图，这里我们将RDD图形化一下，更容易理解在RDD源码里面，它规定了五大特性：A list of partitions向图中一样由一系列分区组成，分割分区在不同节点之上A function for computing each split每个分片都有函数
转载
2023-08-08 08:39:21
82阅读
Spark中最核心的概念为RDD（Resilient Distributed DataSets）中文为：弹性分布式数据集，RDD为对分布式内存对象的 抽象它表示一个被分区不可变且能并行操作的数据集；RDD为可序列化的、可缓存到内存对RDD进行操作过后还可以存到内存中，下次操作直接把内存中RDD作为输入，避免了Hadoop MapReduce的大IO操作；RDD生成 Spark所要处理的任何数据都
转载
2023-10-18 13:50:42
69阅读
Spark–RDD属性和特点 文章目录Spark--RDD属性和特点1.1 什么是RDD1.2 RDD的属性1.3 RDD特点1.3.1 分区1.3.2 只读1.3.3 依赖1.3.4 缓存1.3.5 CheckPoint1.4 RDD相关概念关系 1.1 什么是RDDRDD（Resilient Distributed Dataset）叫做分布式数据集，是Spark中最基本的数据抽象。代码中是一个
转载
2024-04-08 22:56:32
48阅读
什么是RDDRDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD具有数据流模型的特点：自动容错、位置感知性调度和可伸缩性。RDD允许用户在执行多个查询时显式地将工作集缓存在内存中，后续的查询能够重用工作集，这极大地提升了查询速度。RDD包含5个特征： 1、一个分区的列表
转载
2024-04-29 17:01:25
35阅读
Spark的核心思想是RDD，以及对RDD的操作（transformation/action）。本篇简单介绍这些基本概念，以有利于理解Spark的原理。 (一) RDD(resilient distributed dataset)RDD的基本概念 RDD是AMPLAB提出的一种概念，类似与分布式内存，但又不完全一致（关于RDD与分布式内存的区别可参考paper）。 RDD在Spark
转载
2024-06-04 08:10:32
61阅读
RDDRDD弹性分布式数据集，spark最基本的数据抽象，代表一个不可变，可分区，里面元素可并行计算的集合。
具有数据流模型的特点：自动容错，位置感知性调度和可伸缩性。
RDD允许用户在执行多个查询时，显示地将工作集缓存在内存中，后续的查询能重用工作集，这极大提高查询速度
特点：一系列的分区，每一个函数作用于每个分区，RDD之间是一系列依赖，如果是k-v类型的RDD，会有一个分区器，分区器就是决定
转载
2024-07-08 10:50:06
14阅读
SparkRDD简介/常用算子/依赖/缓存RDD简介RDD（Resilient Distributed Dataset）叫做分布式数据集，是Spark中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD是一个类RDD的属性1.一个列表，存储存取每个Partition的优先位置（preferred location）。对于一个HDFS文件来说，这个列表保存的就是每个Par
转载
2023-09-06 13:28:19
52阅读
1. Spark SQL概述1.1 什么是Spark SQLSpark SQL是Spark用来处理结构化数据的一个模块，它提供了两个编程抽象分别叫做DataFrame和DataSet，它们用于作为分布式SQL查询引擎。从下图可以查看RDD、DataFrames与DataSet的关系。1.2 为什么要学习Spark SQLHive，它是将Hive SQL转换成MapReduce，然后提交到集群上执行
转载
2023-08-08 21:13:40
165阅读
1.什么是RDD？RDD(Resilient Distributed Datasets,弹性分布式数据集)，是Spark最为核心的概念，RDD是一个只读的有属性的数据集。属性用来描述当前数据集的状态，数据集是由数据的分区（partition）组成，并（由block）映射成真实数据。RDD属性包括名称、分区类型、父RDD指针、数据本地化、数据依赖关系等。RDD是理解Apache Spark 工作原理
转载
2024-02-02 10:18:39
35阅读
Spark-RDD操作什么是RDD怎么理解RDD创建RDD的3种方式读取数据并产生RDD读取普通文本数据读取json格式的数据读取CSV，TSV格式的数据读取sequenceFile格式的数据读取object格式的数据读取HDFS中的数据读取MySQL数据库中的数据保存RDD的数据到外部存储保存成普通文件保存成json文件保存成CSV，TSV格式文件保存成sequenceFIle文件保存成Obj
转载
2024-06-29 08:21:48
41阅读
概要决策树及其集合是分类和回归的机器学习任务的流行方法。决策树被广泛使用，因为它们易于解释，可以处理分类特征，扩展到多类分类环境，不需要特征缩放，并且能够捕捉非线性和特征的相互作用。树的组合算法，如随机森林和提升算法，是分类和回归任务中表现最好的。
在这里就不过多介绍决策树的具体原理了，这篇文章主要介绍Spark的决策树的API。下面，主要讲解了Spark的决策树的参数调节的技巧：使用技巧我们在讲
原创
2023-03-07 09:40:15
94阅读
与许多专有的大数据处理平台不同，Spark建立在统一抽象的RDD之上，使得它可以以基本一致的方式应对不同的大数据处理场景，包括MapReduce，Streaming，SQL，Machine Learning以及Graph等。这即Matei Zaharia所谓的“设计一个通用的编程抽象（Unified Programming Abstraction）。这正是Spark这朵小火花让人着迷的地方。
转载
2023-11-30 17:32:15
92阅读
目录一、对比MapReduce与Spark的主要区别二、Spark技术栈三、架构设计1、运行架构2、Spark架构核心组件及其作用3、提交流程四、核心API五、RDD是什么，有哪些特点六、RDD的特性七、RDD常用的创建方式八、RDD常用的算子：转换、动作九、基于RDD的应用程序开发十、shuffle机制十一、累加器（可自定义） 一、对比MapReduce与Spark的主要区别易用性：Spark
转载
2024-05-15 13:50:26
30阅读
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、基本概念1.RDD的生成2.RDD的存储3.Dependency4.Transformation和Action4.1 Transformation操作可以分为如下几种类型：4.1.1 视RDD的元素为简单元素。4.1.2 视RDD的元素为Key-Value对:4.2 Action操作可以分为如下几种：5.shuffl
转载
2023-11-14 09:26:59
105阅读
