1、transformation 操作
map(func): 对调用 map 的 RDD 数据集中的每个 element 都使用 func，然后返回一个新的 RDD，这个返回的数据集是分布式的数据集。
filter(func): 对调用 filter 的 RDD 数据集中的每个元素都使用 func，然后返回一个包含使 func 为 true 的元素构成的 RDD。
flatMap(func): 和
转载
2023-08-10 12:36:00
303阅读
三者概念RDD(Resilient Distributed DataSet)弹性分布式数据集，是Spark中最基本的数据处理模型。在代码中是抽象类，代表一个弹性的、不可变、可分区、里面的元素可并行计算的集合。弹性存储的弹性：内存与磁盘的自动切换；容错的弹性：数据丢失可以自动恢复；计算的弹性：计算出错重试机制；分片的弹性：可按需重新分片不可变RDD封装了计算逻辑不可改变，只能通过产生新的RDD并在新
转载
2024-04-10 17:53:40
33阅读
Apache Spark以一种快速的步伐发展，包括其变化和编程API的添加。最引起混乱的变化之一大概是数据的表示（使用哪种数据集，例如 RDD, DataFrame, DataSet）。Spark 1.0使用RDD API但是在过去12个月里，两个新的可供选择的且不相容的API也被推出。Spark 1.3推出了完全不同的DataFrame API和最近在Spark 1.6发行版推出了Dataset
转载
2024-05-09 13:20:40
70阅读
一、DataFrame和DataSetDataFrame是一个分布式数据容器，除了记录数据以外，还记录数据的结构信息。Dataset是一个由特定领域的对象组成强类型（typedrel）集合，可以使用函数（DSL）或关系运算（SQL）进行并行的转换操作。Dataset可以认为是DataFrame的一个特例，并且Dataset和DataFrame都是懒加载的，只有触发行动算子才会执行操作。二、创建sp
转载
2023-12-14 10:29:32
72阅读
列的选择select来个例子边看边说：1. scala> val df = spark.createDataset(Seq(
2. ("aaa", 1, 2), ("bbb", 3, 4), ("ccc", 3, 5), ("bbb", 4, 6))
3. ).toDF("key1","key2","key3")
4. df: org.apache.spark.sql.DataFrame =
转载
2023-11-04 10:09:04
401阅读
hadoop中的shuffle存在map任务和reduce任务之间，而spark中的shuffle过程存在stage之间。shuffle操作分为两种，分别是写操作和读操作。shuffle的写操作包括两种，分别是基于哈希的shuffle操作和基于排序的shuffle写操作。在spark1.2版本之前，采用基于哈希的shuffle操作，1.2版本之后采用基于排序的shuffle写操作。 基于哈希的sh
转载
2023-08-10 11:27:24
39阅读
大数据-SparkSQL（三）DataSet概述DataSet是什么DataSet是分布式的数据集合，Dataset提供了强类型支持，也是在RDD的每行数据加了类型约束。Dat
转载
2023-07-14 15:22:02
301阅读
RDD(弹性分布式数据集)RDD（Resilient Distributed Dataset）叫做分布式数据集，是 Spark 中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD 具有数据流模型的特点： 自动容错、位置感知性调度和可伸缩性。RDD 允许用户在执行多个查询时显式地将工作集缓 存在内存中，后续的查询能够重用工作集，这极大地提升了查询速度。可以从三个方面来理
转载
2024-03-30 20:50:13
80阅读
RDD(Resilient Distributed Dataset)叫做弹性分布式数据集，是 Spark 中最基本的数据处理模型。代码中是一个抽象类，它代表一个弹性的、不可变、可分区、里面的元素可并行 计算的集合。而DataFrame和DataSet分别是Spark1.3版本和1.6版本开始支持的数据集类型。它们之间彼此依赖也可以互相转换，分别应用在不同的场景下。RDDRDD是Spark计算的基础
转载
2024-02-20 12:50:45
25阅读
# 理解 Spark Dataset 中的连接操作
在大数据处理中，Apache Spark 是一个强大的工具，能够高效地处理大量数据。在 Spark 中，Dataset 是一种强类型的分布式数据集，它允许我们使用 Spark 的大部分功能。在使用 Dataset 进行数据分析和变换时，连接（Join）操作是很常见的，但有时候我们需要了解如何处理的是“除了 Join 的其他操作”。本文将帮助刚入
Spark提供了三种主要的与数据相关的API：RDD、DataFrame、DatasetRDD (Spark1.0) —> Dataframe(Spark1.3) —> Dataset(Spark1.6)imageRDDRDD是Spark提供的最主要的一个抽象概念（Resilient Distributed Dataset），它是一个element的collection，分区化的位于集
转载
2023-06-19 06:26:21
284阅读
一、spark常用算子1、Transformations转换算子 1.概念： Transformations类算子是一类算子（函数）叫做转换算子，如map,flatMap,reduceByKey等。Transformations算子是延迟执行，也叫懒加载执行。 &nbs
转载
2023-08-31 21:48:25
129阅读
目录4. Dataset 的特点4.1 Dataset 是什么?4.2 即使使用 Dataset 的命令式 API, 执行计划也依然会被优化4.3 Dataset 的底层是什么?4.4 可以获取 Dataset 对应的 RDD 表示5. DataFrame 的作用和常见操作5.1 DataFrame 
转载
2024-02-03 09:45:00
64阅读
概述本文讲述spark sql中的dataset的组成部分，并对其创建过程进行分析。Dataset要点我们可以总结出dataset的一些要点，如下：和关系型数据表一样，Dataset是强类型的。数据集的行的集合，被称为Dataframe。和RDD一样，Dataset的操作分为两类：转换(transformations)和行动(action)。和RDD一样，Dataset是lazy的，也就是说当执行
转载
2024-04-17 10:40:10
54阅读
定义class Dataset[T](sparkSession: SparkSession, queryExecution: QueryExecution, encoder: Encoder[T])
extends Serializable数据集是特定于域的对象的强类型集合，可以使用函数或关系操作并行转换这些对象。每个数据集还有一个称为DataFrame的非类型化视图，它是Row的数据集。数据集上
转载
2023-07-14 15:46:32
155阅读
对于开发来说，最具吸引力的是一组API可以使其提高生产力，易于使用，直观和富有表现力。 Apache Spark对开发人员的吸引力在于它对大量数据集操作十分简易，并且跨语言（Scala，Java，Python和R）.本文主要讲解Apache Spark 2.0中RDD，DataFrame和Dataset三种API；它们各自适合的使用场景；它们的性能和优化；列举使用DataFrame和Dataset
转载
2023-06-30 19:58:20
225阅读
Spark的Java和Scala API的使用 文章目录Spark的Java和Scala API的使用实验环境实验内容实验步骤1.点击"命令行终端"，打开新窗口2.启动Scala的Shell3.弹性分布式数据集RDD4.RDD的创建方法RDD编程Scala API5.Transformation转换常用的Transformation6.Action动作常用的Action熟悉API的操作7.练习18
转载
2023-07-14 15:45:52
93阅读
一、map算子将处理的数据源的数据逐条进行映射转换，这里的转换可以是类型的转换，也可以是值的转换。 map的参数为一个函数。在map转换后，分区是不变的。例子：将每个分区的数据都乘以2def main(args: Array[String]): Unit = {
val sparkConf = new SparkConf().setMaster("local[*]").setAppName
转载
2023-07-14 15:20:29
80阅读
introdataset和operationSpark对数据集合的基本抽象叫做Dataset。Dataset可以从文件直接创建，也可以从其他dataset经过transform变换而来。具体变换操作比如：textFile.map(line => line.split(" ").size).reduce((a, b) => if (a > b) a else b)这个transfo
转载
2024-03-04 22:52:24
37阅读
通过Dataset API，我们可以直接在数据上执行关系型操作，这一功能主要是借助了Spark SQL的一些核心功能。本文主要分析Dataset API和Spark SQL模块之间的关联关系 一、Dataset初始化 Dataset类有两个构造参数，SparkSession和LogicalPlan
转载
2024-03-10 15:30:48
103阅读
