1. Spark与Scala的版本问题官网会给出Maven Repository上可以查到2. RDD(Resilent Distributed DataSet)一组Partition，每个分片都被一个计算任务处理，未指定的话默认是程序分配的CPU core的数目计算每个Paritition的函数每个Partition上的数据都有一个函数进行计算RDD之间的依赖关系Rdd每次转换会生成
转载
2023-07-30 15:45:52
132阅读
RDD 介绍 RDD，全称Resilient Distributed Datasets（弹性分布式数据集）
转载
2019-08-16 22:03:00
118阅读
2评论
DStream 操作和RDD的操作很类似，分为 Transformations 转换和 Output Operations 输出两种，此外转换操作中还有一些比较复杂的算子，如：updateStateByKey(),transform()以及各种 Window 相关算子。1、无状态转换操作 无状态转换操作就是把简单的RDD转换操作应用到每个批次上，也就是转换DStream上的每一个RDD，
转载
2023-07-16 22:08:49
156阅读
一、Spark包括什么spark的核心是Spark Core，其中上面的Spark Sql对接的是Hive等结构化查询，Spark Streaming是对接的流式计算，后面的那两个也是主要用在科学任务中，但是他们的基础都是spark core，而Spark core的核心就是RDD操作，RDD的操作重要的就是算子，也就是说，掌握了算子基本上就掌握了spark的基础。二、RDD1、是什么？ 
第1章 RDD 概念1.1 RDD 为什么会产生 RDD：Resilient Distributed Dataset 弹性分布式数据集 RDD 是 Spark 的基石，是实现 Spark 数据处理的核心抽象。那么 RDD 为什么会产生呢？ Hadoop 的 MapReduce 是一种基于数据集的工作模式，面向数据，这种工作模式一般是从存储上加载数据集，然后操作数据集，最后写入物理存储设备。
原创
2021-06-02 18:14:13
1114阅读
与许多专有的大数据处理平台不同，Spark建立在统一抽象的RDD之上，使得它可以以基本一致的方式应对不同的大数据处理场景，包括MapReduce，Streaming，SQL，Machine Learning以及Graph等。这即Matei Zaharia所谓的“设计一个通用的编程抽象（Unified Programming Abstraction）。这正是Spark这朵小火花让人着迷的地方。要理解
转载
2023-10-14 17:13:46
89阅读
spark基础与java api介绍http://www.cnblogs.com/tovin/p/3832405.html textFile: 可将本地文件或HDFS文件转换成RDD，读取本地文件需要各节点上都存在，或者通过网络共享该文件 JavaRDD lines =
原创
2021-09-02 16:40:31
492阅读
只需将具体的应用逻辑表达为一系列转换处理，不同RDD之间的转换操作形成依赖关系，可以实现管道化，从而避免了中间结果的存储，大大降低了数据复制、磁盘IO和序列化开销。 一个RDD就是一个分布式对象集合，本质上是一个只读的分区记录集合，每个RDD可以分成多个分区，每个分区就是一个数据集片段，并且一个RDD的不同分区可以被保存到集群中不同的节点上，从而可以在集群中的不同节点上进行并行计算。 RDD提
转载
2023-12-14 10:15:45
0阅读
1：什么是Spark的RDD？？？
RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD具有数据流模型的特点：自动容错、位置感知性调度和可伸缩性。RDD允许用户在执行多个查询时显式地将工作集缓存在内存中，后续的查询能够重用工作集，这极大地提升了查询速度。
2：RDD
转载
2018-02-23 18:25:00
159阅读
1.RDD介绍： RDD，弹性分布式数据集，即分布式的元素集合。在spark中，对所有数据的操作不外乎是创建RDD、转化已有的RDD以及调用RDD操作进行求值。在这一切的背后，Spark会自动将RDD中的数据分发到集群中，并将操作并行化。 Spark中的RDD就是一个不可变的分布式对象集合。每个RD
转载
2019-08-16 20:21:00
142阅读
2评论
spark基础与java api介绍http://www.cnblogs.com/tovin/p/3832405.html textFile: 可将本地文件或HDFS文件转换成RDD，读取本地文件需要各节点上都存在，或者通过网络共享该文件 JavaRDD lines =
原创
2021-09-02 17:16:57
547阅读
# 实现Java Stream Python RDD的步骤
## 简介
Java Stream和Python RDD是两种不同的数据处理方式，用于对大规模数据进行处理和分析。Java Stream是Java 8引入的一种处理集合数据的流式API，Python RDD是Apache Spark提供的一种用于分布式计算的数据处理抽象。本文将详细介绍如何实现Java Stream和Python RDD
原创
2023-10-08 04:24:59
41阅读
一 RDD依赖关系1 LineageRDD只支持粗粒度转换，即在大量记录上执行的单个操作。将创建RDD的一系列Lineage
原创
2022-11-11 10:37:09
77阅读
只需将具体的应用逻辑表达为一系列转换处理，不同RDD之间的转换操作形成依赖关系，可以实现管道化，从而避免了中间结果的存储，大大降低了数据复制、磁盘IO和序列化开销。 一个RDD就是一个分布式对象集合，本质上是一个只读的分区记录集合，每个RDD可以分成多个分区，每个分区就是一个数据集片段，并且一个RDD的不同分区可以被保存到集群中不同的节点上，从而可以在集群中的不同节点上进行并行计算。 RDD提
转载
2023-12-14 10:23:23
107阅读
Spark RDD详解在Spark学习之路——2.核心组件、概念中我们已经对RDD进行了比较细致的介绍，但是对RDD在Saprk内部起到的作用、还有RDD和其他组件之间的关系没有明确描述，下面我们就以编程的视角，详细地了解一下RDD的设计和运行原理。一、总述RDD是Spark的数据抽象，一个RDD是一个只读的分布式数据集，可以通过转换操作在转换过程中对RDD进行各种变换。一个复杂的Spark应用程
转载
2024-02-14 22:38:21
78阅读
一、键值对RDD的创建 1.从文件中加载 2.通过并行集合（数组）创建RDD 二、常用的键值对RDD转换操作 1.reduceByKey(func) 功能：使用func函数合并具有相同键的值 2.groupByKey() 功能：对具有相同键的值进行分组 3.keys 4.values 5.sortB
转载
2019-11-07 14:38:00
149阅读
2评论
一.RDD是什么 RDD是Spark提供的核心抽象，全称为Resillient Distributed Dataset，即弹性分布式数据集。 在spark的源码里面我们可以看到，rdd是被abstract所修饰的，他是一个抽象类，它代表一个不可变，可分区，里面的元素可并行计算的集合。 而在spark的工作流程中，RDD的主要作用是对数据进行结构的转换，在对RDD的方法源码中可以看到，方法传参
转载
2023-07-28 21:13:54
739阅读
RDD的特性二 ： RDD的缓存一、RDD缓存的意义首先让我们来看一个小案例查看数据
原创
2022-08-12 10:16:06
191阅读
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、基本概念1.RDD的生成2.RDD的存储3.Dependency4.Transformation和Action4.1 Transformation操作可以分为如下几种类型：4.1.1 视RDD的元素为简单元素。4.1.2 视RDD的元素为Key-Value对:4.2 Action操作可以分为如下几种：5.shuffl
转载
2023-11-14 09:26:59
105阅读
1.流批对比Spark Streaming类似于Apache Storm，用于流式数据的处理。根据其官方文档介绍，Spark Streaming有高吞吐量和容错能力强等特点.2.输入位置和输出位置和Spark基于RDD的概念很相似，Spark Streaming使用离散化流(discretized stream)作为抽象表示，叫作DStream。DStream 是随时间推移而收到的数据的序列。在内
转载
2023-12-10 10:39:12
46阅读
