做大数据一定要有一个概念，需要处理的数据量非常大，少则几十T，多则上百P，全部放内存是不可能的，会OOM，必须要用迭代器一条一条处理。RDD叫做弹性分布式数据集，是早期Spark最核心的概念，是一种数据集合，它的核心就是迭代器。创建方式有两种创建RDD的方式：在驱动程序中并行化现有集合引用外部存储系统中的数据集示例1：并行化集合val rdd = sc.parallelize(Array(1,2,
转载
2023-06-19 11:37:21
124阅读
场景第一次使用Intellij IDEA开发第一个spark应用程序？对 idea的操作相当不熟悉?听别人说spark高手更喜欢使用IDEA? 怎么在Intellij Idea导入 spark的源代码？使用 eclipse-scala阅读spark源代码相当不方便:没法在一个源文件中直接关联查询另一个源文件，必须另外从新ctrl+shift+t! 怎么编写脚本提交spark应用程序到spark
转载
2023-12-14 13:42:25
41阅读
spark快的原因1.内存计算2.DAGspark shell已经初始化好了SparkContext，直接用sc调用即可lineage 血统RDD wide and narrow dependencies窄依赖每个 RDD partition最多被一个子RDD partirion依赖 /sbin（system binary)放的都是涉及系统管理的命令。有些系统里面，普通用户没有执行这些命令的权限。
原创
2015-10-07 23:11:25
989阅读
主要是翻译官网的编程指南，自己调整了一下内容安排，同时为了偷懒大量参考了淘宝的翻译版嘿嘿。但他们的编程指南主要是写java、scala语言用的，要求掌握sbt（scala），maven（java），我选择python就是因为提交简单嘛。 + scala-2.11.1shell交互式编程 cd到spark的顶层目录中 cd ~/spark-1.0.1 然后运行spark-shell即可。这里因为
转载
2024-05-23 12:07:32
27阅读
3. Spark 入门目标 通过理解 Spark 小案例, 来理解 Spark 应用
原创
2021-08-27 15:36:06
627阅读
3. Spark 入门目标 通过理解 Spark 小案例, 来理解 Spark 应用 理解编写 Spark 程序的两种常见方式 spark-shell spark-submit Spark 官方提供了两种方式编写代码, 都比较重要, 分别如下 spark-shell Spark shell 是 Spark 提供的一个基于 Scala 语言的交互式解释器, 类似于 Scala 提供的交互式解释器, Spark shell 也可以直接在 Shell
原创
2022-01-27 14:08:27
526阅读
RDD基础概念创建RDD 创建RDD的方法： 1.载入外部数据集 2.分布一个对象的集合前边几次的笔记已经提到过多次了，因此，这里只列出几个注意事项： 1.利用sc.parallelize创建RDD一般只适用于在测试的时候使用，因为这需要我们将整个数据集放入一台机器的内存中。因此，除了我们学习使或者测试时，很少使用。 2.更通用的方法是从外部存储系统上加载数据创建RDDSpark支持两种
转载
2023-12-31 14:59:41
59阅读
目录实训目的实训1：编写函数过滤文本中的回文单词1. 训练要点2.需求说明3.思路及步骤 实训2：使用Scala编程输出杨辉三角1. 训练要点2.需求说明3.思路及步骤 实训3：用Scala编程求出100~999之间的所有水仙花数。实训目的( 1)掌握Scala的REPL使用。(2)掌握Scala的Array、List、Map等创建与使用。(3)掌握Scala循环与判断的使用。
转载
2023-10-07 17:03:03
205阅读
spark编程python实例ValueError: Cannot run multiple SparkContexts at once; existing SparkContext(app=PySparkShell, master=local[])1.pyspark在jupyte...
转载
2016-07-17 23:51:00
108阅读
2评论
文章目录8天Python从入门到精通第十五章 PySpark案例实战15.1 前言介绍15.1.1 Spark是什么15.1.2 Python On Spark15.1.3 PySpark15.1.4 Why PySpark15.1.5 衔接大数据方向15.1.6 总结 第十五章 PySpark案例实战15.1 前言介绍15.1.1 Spark是什么定义：Apache Spark是用于大规模数据
转载
2024-02-01 22:29:13
89阅读
RDD编程在Spark中，RDD被表示为对象，通过对象上的方法调用来对RDD进行转换。经过一系列的transformations定义RDD之后，就可以调用actions触发RDD的计算，action可以是向应用程序返回结果(count, collect等)，或者是向存储系统保存数据(saveAsTextFile等)。在Spark中，只有遇到action，才会执行RDD的计算(即延迟计算)，这样在运
转载
2023-09-28 00:58:46
139阅读
一、简介RDD被表示为对象，通过对象上的方法调用来对RDD进行转换。经过一系列的transformations定义RDD之后，就可以调用actions触发RDD的计算，action可以是向应用程序返回结果(count, collect等)，或者是向存储系统保存数据(saveAsTextFile等)。在Spark中，只有遇到action，才会执行RDD的计算(即延迟计算)，这样在运行时可以通过管道的
转载
2023-08-18 22:47:18
87阅读
Spark Streaming 编程指南OverviewA Quick ExampleBasic ConceptsLinkingInitializing StreamingContextDiscretized Streams (DStreams)Input DStreams and ReceiversTransformations on DStreamsOutput Operations on D
环境 spark-1.6 python3.5一、python开发spark原理使用python api编写pyspark代码提交运行时，为了不破坏spark原有的运行架构，会将写好的代码首先在python解析器中运行(cpython)，Spark代码归根结底是运行在JVM中的，这里python借助Py4j实现Python和Java的交互,即通过Py4j将pyspark代码“解析”到JVM中去运
转载
2023-08-13 09:22:36
392阅读
文章目录1 概念阐述1.1 Spark中支持的数据类型1.2 Spark中的基本类型与Python数据类型、Hive表数据类型的对应关系1.3 Hive中数字类型各自的表示范围2 分类型介绍每种数据类型的详情2.1 数字类型(ByteType、ShortType、IntegerType、LongType、FloatType、DoubleType、DecimalType)2.1.1 PySpark
转载
2023-08-10 20:30:45
106阅读
大数据专家已经意识到Spark和Python在标准JVM上的重要性，但是围绕“ Scala或Python是大数据项目中的哪个选择”这一话题存在着共同的争论。两者之间的差异可以根据性能，学习曲线，并发性，类型安全性，可用性及其高级功能来确定。根据不同数据专家的方便程度或应用程序类型，最终决定可能会有所不同。数据专家完全有责任根据功能解决方案和语言效率为Apache Spark项目选择最佳编程语言。这
转载
2023-08-10 09:12:59
120阅读
image.png在本地构建数据密集型应用程序，并使用Python和Spark 2.0的强大功能进行大规模部署。Apache Spark是一个高效集群计算的开源框架，具有强大的数据并行和容错接口。本书将向您展示如何利用Python的强大功能并将其用于Spark生态系统。首先，您将深入了解Spark 2.0体系结构以及如何为Spark设置Python环境。您将熟悉PySpark中可用的模块。您将学习
转载
2023-08-09 18:21:20
146阅读
原创
2021-09-07 16:51:24
184阅读
原 [Kafka与Spark集成系列三] Spark编程模型https://blog.csdn.net/u013256816/article/details/82082109版权声明：本文为博主原创文章，未经博主朱小厮允许不得转载。 http
原创
2021-09-01 14:19:04
139阅读
因为Scala才刚刚开始学习，仍是对python更为熟悉，所以在这记录一下本身的学习过程，主要内容来自于spark的官方帮助文档文章主要是翻译了文档的内容，但也在里边加入了一些本身在实际操做中遇到的问题及解决的方案，和一些补充的小知识，一块儿学习。算法环境：Ubuntu 16.04 LTS，Spark 2.0.1, Hadoop 2.7.3, Python 3.5.2,shell利用spark s
转载
2023-08-09 21:28:07
118阅读
