1、transformation 操作
map(func): 对调用 map 的 RDD 数据集中的每个 element 都使用 func，然后返回一个新的 RDD，这个返回的数据集是分布式的数据集。
filter(func): 对调用 filter 的 RDD 数据集中的每个元素都使用 func，然后返回一个包含使 func 为 true 的元素构成的 RDD。
flatMap(func): 和
转载
2023-08-10 12:36:00
303阅读
三者概念RDD(Resilient Distributed DataSet)弹性分布式数据集，是Spark中最基本的数据处理模型。在代码中是抽象类，代表一个弹性的、不可变、可分区、里面的元素可并行计算的集合。弹性存储的弹性：内存与磁盘的自动切换；容错的弹性：数据丢失可以自动恢复；计算的弹性：计算出错重试机制；分片的弹性：可按需重新分片不可变RDD封装了计算逻辑不可改变，只能通过产生新的RDD并在新
转载
2024-04-10 17:53:40
33阅读
Apache Spark以一种快速的步伐发展，包括其变化和编程API的添加。最引起混乱的变化之一大概是数据的表示（使用哪种数据集，例如 RDD, DataFrame, DataSet）。Spark 1.0使用RDD API但是在过去12个月里，两个新的可供选择的且不相容的API也被推出。Spark 1.3推出了完全不同的DataFrame API和最近在Spark 1.6发行版推出了Dataset
转载
2024-05-09 13:20:40
70阅读
一、DataFrame和DataSetDataFrame是一个分布式数据容器，除了记录数据以外，还记录数据的结构信息。Dataset是一个由特定领域的对象组成强类型（typedrel）集合，可以使用函数（DSL）或关系运算（SQL）进行并行的转换操作。Dataset可以认为是DataFrame的一个特例，并且Dataset和DataFrame都是懒加载的，只有触发行动算子才会执行操作。二、创建sp
转载
2023-12-14 10:29:32
72阅读
列的选择select来个例子边看边说：1. scala> val df = spark.createDataset(Seq(
2. ("aaa", 1, 2), ("bbb", 3, 4), ("ccc", 3, 5), ("bbb", 4, 6))
3. ).toDF("key1","key2","key3")
4. df: org.apache.spark.sql.DataFrame =
转载
2023-11-04 10:09:04
401阅读
hadoop中的shuffle存在map任务和reduce任务之间，而spark中的shuffle过程存在stage之间。shuffle操作分为两种，分别是写操作和读操作。shuffle的写操作包括两种，分别是基于哈希的shuffle操作和基于排序的shuffle写操作。在spark1.2版本之前，采用基于哈希的shuffle操作，1.2版本之后采用基于排序的shuffle写操作。 基于哈希的sh
转载
2023-08-10 11:27:24
39阅读
RDD(弹性分布式数据集)RDD（Resilient Distributed Dataset）叫做分布式数据集，是 Spark 中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD 具有数据流模型的特点： 自动容错、位置感知性调度和可伸缩性。RDD 允许用户在执行多个查询时显式地将工作集缓 存在内存中，后续的查询能够重用工作集，这极大地提升了查询速度。可以从三个方面来理
转载
2024-03-30 20:50:13
80阅读
大数据-SparkSQL（三）DataSet概述DataSet是什么DataSet是分布式的数据集合，Dataset提供了强类型支持，也是在RDD的每行数据加了类型约束。Dat
转载
2023-07-14 15:22:02
301阅读
一、spark常用算子1、Transformations转换算子 1.概念： Transformations类算子是一类算子（函数）叫做转换算子，如map,flatMap,reduceByKey等。Transformations算子是延迟执行，也叫懒加载执行。 &nbs
转载
2023-08-31 21:48:25
129阅读
RDD(Resilient Distributed Dataset)叫做弹性分布式数据集，是 Spark 中最基本的数据处理模型。代码中是一个抽象类，它代表一个弹性的、不可变、可分区、里面的元素可并行 计算的集合。而DataFrame和DataSet分别是Spark1.3版本和1.6版本开始支持的数据集类型。它们之间彼此依赖也可以互相转换，分别应用在不同的场景下。RDDRDD是Spark计算的基础
转载
2024-02-20 12:50:45
25阅读
Spark提供了三种主要的与数据相关的API：RDD、DataFrame、DatasetRDD (Spark1.0) —> Dataframe(Spark1.3) —> Dataset(Spark1.6)imageRDDRDD是Spark提供的最主要的一个抽象概念（Resilient Distributed Dataset），它是一个element的collection，分区化的位于集
转载
2023-06-19 06:26:21
284阅读
# 理解 Spark Dataset 中的连接操作
在大数据处理中，Apache Spark 是一个强大的工具，能够高效地处理大量数据。在 Spark 中，Dataset 是一种强类型的分布式数据集，它允许我们使用 Spark 的大部分功能。在使用 Dataset 进行数据分析和变换时，连接（Join）操作是很常见的，但有时候我们需要了解如何处理的是“除了 Join 的其他操作”。本文将帮助刚入
目录4. Dataset 的特点4.1 Dataset 是什么?4.2 即使使用 Dataset 的命令式 API, 执行计划也依然会被优化4.3 Dataset 的底层是什么?4.4 可以获取 Dataset 对应的 RDD 表示5. DataFrame 的作用和常见操作5.1 DataFrame 
转载
2024-02-03 09:45:00
64阅读
概述本文讲述spark sql中的dataset的组成部分，并对其创建过程进行分析。Dataset要点我们可以总结出dataset的一些要点，如下：和关系型数据表一样，Dataset是强类型的。数据集的行的集合，被称为Dataframe。和RDD一样，Dataset的操作分为两类：转换(transformations)和行动(action)。和RDD一样，Dataset是lazy的，也就是说当执行
转载
2024-04-17 10:40:10
57阅读
定义class Dataset[T](sparkSession: SparkSession, queryExecution: QueryExecution, encoder: Encoder[T])
extends Serializable数据集是特定于域的对象的强类型集合，可以使用函数或关系操作并行转换这些对象。每个数据集还有一个称为DataFrame的非类型化视图，它是Row的数据集。数据集上
转载
2023-07-14 15:46:32
155阅读
introdataset和operationSpark对数据集合的基本抽象叫做Dataset。Dataset可以从文件直接创建，也可以从其他dataset经过transform变换而来。具体变换操作比如：textFile.map(line => line.split(" ").size).reduce((a, b) => if (a > b) a else b)这个transfo
转载
2024-03-04 22:52:24
37阅读
一、map算子将处理的数据源的数据逐条进行映射转换，这里的转换可以是类型的转换，也可以是值的转换。 map的参数为一个函数。在map转换后，分区是不变的。例子：将每个分区的数据都乘以2def main(args: Array[String]): Unit = {
val sparkConf = new SparkConf().setMaster("local[*]").setAppName
转载
2023-07-14 15:20:29
80阅读
Spark的Java和Scala API的使用 文章目录Spark的Java和Scala API的使用实验环境实验内容实验步骤1.点击"命令行终端"，打开新窗口2.启动Scala的Shell3.弹性分布式数据集RDD4.RDD的创建方法RDD编程Scala API5.Transformation转换常用的Transformation6.Action动作常用的Action熟悉API的操作7.练习18
转载
2023-07-14 15:45:52
93阅读
对于开发来说，最具吸引力的是一组API可以使其提高生产力，易于使用，直观和富有表现力。 Apache Spark对开发人员的吸引力在于它对大量数据集操作十分简易，并且跨语言（Scala，Java，Python和R）.本文主要讲解Apache Spark 2.0中RDD，DataFrame和Dataset三种API；它们各自适合的使用场景；它们的性能和优化；列举使用DataFrame和Dataset
转载
2023-06-30 19:58:20
225阅读
spark生态系统中，Spark Core，包括各种Spark的各种核心组件，它们能够对内存和硬盘进行操作，或者调用CPU进行计算。 spark core定义了RDD、DataFrame和DataSet spark最初只有RDD，DataFrame在Spark 1.3中被首次发布，DataSet在Spark1.6版本中被加入。 RDD是什么？ RDD：Spark的核心概念是RDD
转载
2024-01-18 22:48:56
67阅读
