最近工作有需要用到PySpark，而自己对这方面还不太熟悉。有鉴于此，很有必要系统性的梳理下PySpark的基本语法和特性，以供以后参考。1.Spark简介Apache Spark是一个开源、强大的的分布式查询和处理引擎，最初由Matei Zaharia在UC Berkeley读博期间开发的[1]。最早的Spark版本于2012年发布，后来被捐赠给Apache SoftwareFoundation
转载
2023-11-27 12:57:36
59阅读
# PyTorch: CPU计算与GPU计算的比较
在深度学习的领域，选择合适的计算设备对于模型的训练速度、性能和效率至关重要。PyTorch作为一个流行的深度学习框架，支持CPU和GPU计算。本文将通过代码示例与图示的方式，比较CPU和GPU计算的优劣。
## 1. CPU与GPU的基本概念
CPU（中央处理器）擅长执行复杂的计算任务，适合处理各种通用计算。但是，GPU（图形处理单元）则被
原创
2024-09-06 04:27:59
497阅读
Spark Streaming流式处理1. Spark Streaming介绍1.1 Spark Streaming概述1.1.1什么是Spark Streaming Spark Streaming类似于Apache Storm，用于流式数据的处理。根据其官方文档介绍，Spark Streaming有高吞吐量和容错能力强等特点。
文章目录一、概述1）Spark特点2）Spark适用场景二、Spark核心组件三、Spark专业术语详解1）Application：Spark应用程序2）Driver：驱动程序3）Cluster Manager：资源管理器4）Executor：执行器5）Worker：计算节点6）RDD：弹性分布式数据集7）窄依赖8）宽依赖9）DAG：有向无环图10）DAGScheduler：有向无环图调度器11
转载
2023-09-05 10:08:41
101阅读
所有RDD行动算子如下：aggregate、collect、count、first、foreach、reduce、take、takeOrdered、takeSample、saveAsObjectFile、saveAsTextFile具体解释和例子1. aggregate 概念 1.将每个分区里面的元素进行聚合，然后用combine函数将每个分区的结果和初始值(zeroValue)进行combine
转载
2023-11-26 21:03:35
84阅读
一、Spark概述1.1. 什么是SparkSpark是一种快速、通用、可扩展的大数据分析引擎，2009年诞生于加州大学伯克利分校AMPLab，2010年开源，2013年6月成为Apache孵化项目，2014年2月成为Apache顶级项目。目前，Spark生态系统已经发展成为一个包含多个子项目的集合，其中包含SparkSQL、Spark Streaming、GraphX、MLlib等子项
转载
2023-09-08 15:16:51
103阅读
本章导读RDD作为Spark对各种数据计算模型的统一抽象，被用于迭代计算过程以及任务输出结果的缓存读写。在所有MapReduce框架中，shuffle是连接map任务和reduce任务的桥梁。map任务的中间输出要作为reduce任务的输入，就必须经过shuffle，shuffle的性能优劣直接决定了整个计算引擎的性能和吞吐量。相比于Hadoop的MapReduce，我们可以看到Spark提供多种
转载
2024-08-14 18:54:57
64阅读
SparkSpark 是什么?Apache Spark™是用于大规模数据处理的快速和通用引擎.速度:在内存中,运行程序比Hadoop MapReduce快100倍，在磁盘上则要快10倍.Apache Spark具有支持非循环数据流和内存计算的高级DAG执行引擎.易用:可以使用Java，Scala，Python，R快速编写程序.Spark提供80+高级操作方法，可以轻松构建并行应用程序.Spark提
转载
2023-08-01 20:03:38
120阅读
[TOC]概述大数据实时计算介绍1、Spark Streaming，其实就是一种Spark提供的，对于大数据，进行实时计算的一种框架。它的底层，其实，也是基于我们之前讲解的Spark Core的。基本的计算模型，还是基于内存的大数据实时计算模型。而且，它的底层的核心组件还是我们在Spark Core中经常用到的RDD。2、针对实时计算的特点，在RDD之上，进行了一层封装，叫做DStream。其实，
转载
2023-10-27 05:06:06
64阅读
文章目录 Transformation算子Spark算子：RDD基本转换操作(1)–map、flatMap、distincmapflatMapdistinctSpark算子：RDD基本转换操作(2)–coalesce、repartitioncoalescerepartitionSpark算子：RDD基本转换操作(3)–randomSplit、glomrandomSplitglomSpark算子：R
转载
2023-11-23 20:20:10
51阅读
一、Spark概述1.Spark 是什么 Spark 是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。2.Spark and MapReduceSpark 和Hadoop 的根本差异是多个作业之间的数据通信问题 : Spark 多个作业之间数据通信是基于内存，而 Hadoop 是基于磁盘。可称MapReduce为一次性数据集计算 主要利用磁盘交互，磁盘IO非常影响性能Spark会将数据结果
转载
2024-01-19 22:40:19
76阅读
不涉及业务，记录基于Spark Sql框架和Scala语法，实现表的关联，筛选，聚合，行列转换，窗口比较等代码实现。Demo1，主要是通过字符串分割和flatmap实现行转列，通过聚合函数实现行转列。import org.apache.spark.SparkConf
import org.apache.spark.sql.types.{StringType, StructField, Struct
转载
2023-09-16 17:25:27
98阅读
1.Storm 和 SparkStreaming区别 Storm 纯实时的流式处理，来一条数据就立即进行处理SparkStreaming微批处理，每次处理的都是一批非常小的数据Storm支持动态调整并行度（动态的资源分
转载
2024-08-21 20:01:47
54阅读
Spark初见
Spark是一个基于内存的开源计算框架，于2009年诞生于加州大学伯克利分校AMPLab（AMP：Algorithms，Machines，People），它最初属于伯克利大学的研究性项目，后来在2010年正式开源，并于 2013 年成为了 Apache 基金项目，到2014年便成为 Apache 基金的顶级项目，该项目整个发展历程刚过六
转载
2023-07-09 14:32:47
79阅读
转载自：http://tech.it168.com/a2012/0401/1333/000001333287.shtmlSpark是一个通用的并行计算框架，由UCBerkeley的AMP实验室开发。 那么Spark和Hadoop有什么不同呢? 1.Spark的中间数据放到内存中，对于迭代运算效率比较高。 Spark aims to extend MapRe
转载
2021-08-17 21:02:42
221阅读
2021SC@SDUSC前言上一篇博客分析了Spark Streaming的性能调优机制，这次分析一下Spark 2.X的流计算过程介绍Spark 发展迅速，如今最新的版本已经是3.X了，但由于分析的需要以及减少分析困难，我们小组选定的是3.1.2的版本，但本次分析不针对Spark3.X的流计算特性而转而分析Spark2.X中的内容，是为了便于为Spark进行理解。这里也结合databricks官
转载
2023-09-08 22:44:17
55阅读
Spark核心编程Spark 计算框架为了能够进行高并发和高吞吐的数据处理，封装了三大数据结构，用于处理不同的应用场景。三大数据结构分别是：RDD : 弹性分布式数据集累加器：分布式共享只写变量广播变量：分布式共享只读变量 接下来我们一起看看这三大数据结构是如何在数据处理中使用的。模拟分布式计算taskclass Task extends Serializable {
val datas
转载
2024-06-27 17:25:01
38阅读
大数据实时计算介绍Spark Streaming，其实就是一种Spark提供的，对于大数据，进行实时计算的一种框架。它的底层，其实，也是基于我们之前讲解的Spark Core的。基本的计算模型，还是基于内存的大数据实时计算模型。而且，它的底层的组件或者叫做概念，其实还是最核心的RDD。 只不多，针对实时计算的特点，在RDD之上，进行了一层封装，叫做DStream。其实，学过了Spark SQL之后
转载
2023-08-28 11:32:32
52阅读
Spark是基于内存计算的大数据并行计算框架，可用于构建大型的、低延迟的数据分析应用程序。Spark特点运行速度快：Spark使用先进的DAG(Directed Acyclic Graph，有向无环图)执行引擎，以支持循环数据流与内存计算，基于内存的执行速度可比Hadoop MapReduce快上百倍，基于磁盘的执行速度也能快10倍。容易使用：Spark支持使用Scala、Java、Python和
转载
2023-09-04 14:05:12
44阅读
1) Spark是什么 Spark，是一种“One Stack to rule them all”的大数据计算框架，是一种基于内存计算的框架，是一种通用的大数据快速处理引擎。 这一站式的计算框架，包含了Spark RDD(这也是Spark Core用于离线批处理)、Spark SQL(交互式查询)、Spark Streamin
转载
2023-08-11 16:59:04
36阅读
