第二篇介绍一下Spark的基本数据抽象——RDD，RDD来自伯克利的一篇论文，也就是http://www.cs.berkeley.edu/~matei/papers/2012/nsdi_spark.pdf 下面就选取一些主要的特性进行介绍：一、什么是RDD RDD(Resilient Distributed Datasets)即弹性分布式数据集，RDD提供了一种高度受限的共享内存模型，即RDD
转载
2024-07-26 12:14:52
46阅读
前言项目的后端工作已经差不多基本完成，这几天主要的工作都是在修复之前遗留下来的bug，并且优化代码的设计，在项目开始的时候，就想着基于Spark来进行推荐系统的设计，后来在项目开展的过程中，发现了Mohout这个推荐引擎，这个引擎的调用非常简单，可以自动的构建模型，计算相似度，然后进行推荐，也可以方面的扩展到Hadoop集群上，所以开始就是用Mohout实现了基于用户的协同过滤推荐，和基于物品的协
转载
2024-02-02 11:33:46
68阅读
5.加载，然后保存数据
工程师希望发现更多的输出格式来适合下游的消费者。数据科学家可能关注数据已经存在的格式。
5.1动机
Spark提供了一个各种各样输入输出数据源的操作。
文件格式与文件系统
文件格式：text、JSON、SequenceFIles、protocol buffers
文件系统：NFS、HDFS、S3
通过SparkS
# Spark SQL IDE 报红——问题解析与解决方案
Spark SQL 是 Apache Spark 中用于处理结构化数据的模块。随着大数据的发展，越来越多的开发者选择使用 Spark SQL 来执行数据分析和处理任务。然而，在开发过程中，特别是在集成 IDE 的环境下，可能会遇到各种各样的问题，其中“报红”现象尤为常见。今天，我们将分析这个问题，并提供解决方案。
## 一、什么是“报
原创
2024-10-12 05:59:43
38阅读
通过Spark Connector，我们可以使用Spark来快速读取StarRocks中存储的数据。Spark Connector在使用上和咱们之前介绍的Flink Connector Source类似，二者都具备并行读取StarRocks的BE节点数据的能力，相对于jdbc的方式大大提高了数据读取效率。Spark Connector目前只能用来读取数据，Sink部分需要咱们自己基于Stream
转载
2023-09-15 10:03:04
124阅读
# 用 Spark 进行数据处理与可视化
Apache Spark 是一个开源的分布式计算框架，它广泛应用于大数据处理、数据分析和机器学习等领域。由于其高效性和灵活性，Spark 已成为数据科学家和工程师进行数据处理的重要工具之一。本文将介绍如何使用 Spark 进行数据处理，并结合数据可视化技术，展示数据分析结果。
## Spark 概述
Spark 支持多种编程语言，包括 Scala、J
原创
2024-09-25 08:16:05
21阅读
前言：Spark的运行模式指的是Spark应用程序以怎样的方式运行，单节本地点运行还是多节点集群运行，自己进行资源调度管理还是依靠别人进行调度管理。Spark提供了多种多样，灵活多变的部署模式。一、部署模式这是spark官方给出的master的配置选项，也从另一个侧面说明了spark的不同部署和运行模式。 Spark部署模式总体来讲可以分为以下几种：Local：这种模式一般用在本地ID
转载
2023-11-27 14:05:17
47阅读
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、基本概念1.RDD的生成2.RDD的存储3.Dependency4.Transformation和Action4.1 Transformation操作可以分为如下几种类型：4.1.1 视RDD的元素为简单元素。4.1.2 视RDD的元素为Key-Value对:4.2 Action操作可以分为如下几种：5.shuffl
转载
2023-11-14 09:26:59
105阅读
窄依赖所谓窄依赖就是说子RDD中的每个分区（partition）只依赖于父RDD中有限个数的partition。在API中解释如下： 窄依赖在代码中有两种具体实现，一种是一对一的依赖：OneToOneDependency，从其getparent方法中不难看出，子RDD只依赖于父 RDD相同ID的Partition。另外一种是范围的依赖，RangeDependency，它仅仅被org.apache
转载
2023-06-11 15:26:05
137阅读
1.1 什么是Spark SQL Spark SQL是Spark用来处理结构化数据的一个模块，它提供了一个编程抽象叫做DataFrame并且作为分布式SQL查询引擎的作用 它是将Hive SQL转换成MapReduce然后提交到集群上执行，大大简化了编写MapReduce的程序的复杂性，由于MapReduce这种计算模型执行效率比较慢。所有S
转载
2023-07-11 20:00:57
108阅读
是什么 SparkSql 是Spark提供的 高级模块，用于处理结构化数据，开发人员可以使用HiveQL 和SQL语言 实现基于RDD的大数据分析， 底层基于RDD进行操作，是一种特殊的RDD，DataFrameRDD类型 1. 将SQL查询与Spark无缝混合，可以使用SQL或者Da
转载
2023-08-10 20:44:14
114阅读
一、Spark包括什么spark的核心是Spark Core，其中上面的Spark Sql对接的是Hive等结构化查询，Spark Streaming是对接的流式计算，后面的那两个也是主要用在科学任务中，但是他们的基础都是spark core，而Spark core的核心就是RDD操作，RDD的操作重要的就是算子，也就是说，掌握了算子基本上就掌握了spark的基础。二、RDD1、是什么？ 
弹性分布式数据集（RDD）不仅仅是一组不可变的JVM(Java虚拟机) 对象的分布集，可以让你执行高速运算，而且是Apark Spark的核心。顾名思义，该数据集是分布式的。基于某个关键字，该数据集被划分成多块，同时分发到执行结点。这样做可以使得此类数据集能够执行高速执行运算。另外，RDD将跟踪（记入日志）应用于每个块的所有转换，以加快计算速度，并在发生错误和部分数据丢失时提供回退。在这种情况...
原创
2021-08-04 13:56:33
192阅读
RDD是“Resilient Distributed Dataset”的缩写，从全称就可以了解到RDD的一些典型特性。Resilient（弹性）：RDD之间会形成有向无，数据库等。
原创
2024-04-30 14:59:51
316阅读
弹性分布式数据集（RDD）不仅仅是一组不可变的JVM(Java虚拟机) 对象的分布集，可以让你执行高速运算，而且是Apark Spark的核心。顾名思义，该数据集是分布式的。基于某个关键字，该数据集被划分成多块，同时分发到执行结点。这样做可以使得此类数据集能够执行高速执行运算。另外，RDD将跟踪（记入日志）应用于每个块的所有转换，以加快计算速度，并在发生错误和部分数据丢失时提供回退。在这种情况...
原创
2022-03-15 14:06:34
172阅读
RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是 Spark 中最基本的数据处理模型。代码中是一个抽象类，它代表一个弹性的、不可变、可分区、里面的元素可并行计算的集合。
原创
2023-06-10 00:35:02
90阅读
原因1:优秀的数据模型和丰富的计算抽象Spark出现之前，已经有了非常成熟的计算系统MapReduce，并提供高级API(map/reduce)，在集群中运行计算，提供容错，从而实现分布式计算。虽然MapReduce提供了数据访问和计算的抽象，但是数据的重用只是简单地将中间数据写入一个稳定的文件系统(比如HDFS)，所以会产生数据复制备份、磁盘I/O和数据序列化，所以在多个计算中遇到需要重用中间结
Spark 标签生成(Java和Scala的两种实现)气温数据多重聚合[Scala]实现聚合气温数据。聚合出Max,Min.AVG/**
* 气温数据聚合应用
*/
object TempAggDemo{
def main(args:Array[String]):Unit={
//配置一下
val conf=new SparkConf()
conf.setAppNa
说明：版本：IDEA2019.3.3 + spark-2.0.0 + scala-2.11.8 + win10 一，准备 1，打开 Plugins Configure -> Plugins 2，安装 scala 插件搜索 scala 然后点击 Install 安装。如果不想在线安装，也可以在 官网 下载后再
转载
2023-05-18 11:18:42
357阅读
刚开始配置时因为各种依赖jar包问题导致环境老是有问题，花费了两三天，特此记录下，方便后来学习使用。本文使用Idea2020开发工具开发第一个spark程序。使用的编程语言是scala。注意：* JDK版本要和hadoop集群里的一样* scala版本要和spark里指定的一致* hadoop版本要和spark里指定的一致打开idea，首先安装Scala插件。file->sett
转载
2023-06-30 17:21:14
226阅读
