RDD（弹性分布式数据集）是一组不可变的JVM对象的分布集，这些对象允许作业非常快速地执行计算，是Apache Spark的核心。本文主要结合简单的例子介绍下RDD的基本操作。一、创建RDD在PySpark中，有两种方式可以创建RDD，一种是用.parallelize()集合（数组[]，或者tuple()）创建RDD，另一种是通过引用位于本地或外部的某个文件（支持.txt、.csv、parquet
Table of Contents1. 大数据时代1.1 大数据时代为什么会到来？1.1.1 大数据产生的技术支撑(3个)1.1.2 数据产生方式的变革2. 大数据概念2.1 大量化2.2 多样化2.3 快速化2.4 价值密度低3. 大数据的影响3.1 “计算”和“数据”的区别是什么？3.2大数据时代在思维层面有什么影响呢？（3方面影响）4. 大数据关键技术4.1 数据采集4.2 数据存
转载
2023-08-11 11:07:02
91阅读
上次，小编给大家介绍什么是大数据以及大数据产生的五大原因！那，大数据来了，作为程序员的我们如何迎接大数据的到来？那便只有学好大数据，其中的重中之重我觉得就是Spark ，那什么是spark呢？或者说Spark是干嘛的 ...上次，小编给大家介绍什么是大数据以及大数据产生的五大原因！那，大数据来了，作为程序员的我们如何迎接大数据的到来？那便只有学好大数据，其中的重中之重我觉得就是Spark 
转载
2024-01-14 13:21:38
34阅读
一、大数据生态系统图 Hadoop 的四大组件：common、HDFS、MapReduce、YARN二、Spark简介维基百科定义：Apache Spark是一个开源集群运算框架，最初是由加州大学柏克莱分校AMPLab所开发。相对于Hadoop的MapReduce会在运行完工作后将中介数据存放到磁盘中，Spark使用了存储器内运算技术，能在数据尚未写入硬盘时即在存储器内分析运算。Spark在存储器
转载
2023-07-23 20:49:04
102阅读
一、spark概述1.1什么是spark？1.2 spark的特点1.3 spark生态圈组件1.4 spark的核心原理二、Spark和MapReduce的区别三、3.MapReduce核心环节-Shuffle过程四、了解spark架构一、spark概述1.1****什么是spark？Spark 是当今大数据领域最活跃、最热门、最高效的大数据通用计算平台之一。1.2 spark****的特点1*
转载
2024-08-23 16:49:36
33阅读
在大数据方兴未艾之际，越来越多的技术被引进大数据领域。从多年前的mapreduce到现在非常流行的spark，spark自从出现以来就逐渐有替代mapreduce的趋势。既然如此，spark到底有什么过人之处？这么备受青睐?一、Spark是什么？Spark是一种通用的大数据计算框架，和传统的大数据技术MapReduce有本质区别。前者是基于内存并行计算的框架，而mapreduce侧重磁盘计算。Sp
转载
2023-07-12 12:33:02
158阅读
Spark生态系统，未来大数据领域的佼佼者。Apache Spark是一个新兴的大数据处理的引擎，主要特点是提供了一个集群的分布式内存抽象，以支持需要工作集的应用。Spark是个通用的集群计算框架，通过将大量数据集计算任务分配到多台计算机上，提供高效内存计算。如果你熟悉Hadoop，那么你知道分布式计算框架要解决两个问题：如何分发数据和如何分发计算。Hadoop使用HDFS来解决分布式数据问题，M
转载
精选
2015-12-29 11:06:40
942阅读
# 实现Spark大数据技术优点
## 1. 流程概述
在实现Spark大数据技术优点的过程中，我们可以分为以下几个步骤：
| 步骤 | 描述 |
| ---- | ---- |
| 1 | 安装并配置Spark环境 |
| 2 | 创建Spark应用程序 |
| 3 | 编写数据处理逻辑 |
| 4 | 运行Spark应用程序 |
## 2. 具体步骤及代码示例
### 步骤一：安装并
原创
2024-02-28 06:21:13
7阅读
文章目录一、Spark概述1、概述二、Spark角色介绍及运行模式1、集群角色三、Spark环境准备1.启动服务2.启动客户端3.spark-submit测试四、Spark Core1、RDD概述2.代码示例1.创建Maven工程，添加依赖五、Spark Streaming1、 Spark streaming简介2.代码示例1、linux服务器安装nc服务2、创建Maven工程，添加依赖3、代码
转载
2023-08-01 20:00:04
158阅读
第1章 Spark概述 什么是SparkSpark是一种快速、通用、可扩展的大数据分析引擎，2009年诞生于加州大学伯克利分校AMPLab，2010年开源，2013年6月成为Apache孵化项目，2014年2月成为Apache顶级项目。项目是用Scala进行编写。Spark内置模块 Spark Core：实现了Spark的基本功能，包含任务调度、内存管理、错误恢复、与存储系统交互等模块。
转载
2023-10-12 10:45:49
89阅读
主题：Spark 大数据处理最佳实践内容框架：大数据概览如何摆脱技术小白Spark SQL 学习框架EMR Studio 上的大数据最佳实践1大数据概览 大数据处理 ETL (Data → Data)大数据分析 BI (Data → Dashboard)机器学习 AI (D
转载
2024-07-18 08:29:23
52阅读
ISBN 978-7-302-45375-8简介Hadoop大数据存储与处理平台HDFS（Hadoop Distributed File System）批处理，而非实时互动处理。提高存取大量数据的能力，牺牲响应时间。文件存储架构：文件分割区块（block）副本机架（rack）感知NameNode：管理和维护HDFS目录系统并控制文件的读写操作DataNode：存储数据Hadoop MapReduc
转载
2024-05-17 12:55:49
20阅读
前 言 Spark是发源于美国加州大学伯克利分校AMPLab的大数据分析平台，它立足于内存计算，从多迭代批量处理出发，兼顾数据仓库、流处理和图计算等多种计算范式，是大数据系统领域的全栈计算平台。Spark当下已成为Apache基金会的顶级开源项目，拥有庞大的社区支持，技术也逐渐走向成熟。为什么要写这本书本书特色本书是国内首本系统讲解Spark编程实战的书籍，涵盖Spark
转载
2023-08-21 15:17:27
125阅读
Spark的设计与运行原理 关于SparkSpark是基于内存计算的大数据并行计算框架，可用于构建大型的、低延迟的数据分析应用程序。 Spark具有如下几个主要特点：运行速度快：Spark使用先进的DAG（Directed Acyclic Graph，有向无环图）执行引擎，以支持循环数据流与内存计算，基于内存的执行速度可比Hadoop MapReduce快上百倍，基于磁盘的执行
转载
2023-12-27 18:30:49
64阅读
kafka+SparkStreaming是目前lambda架构里比较流行的实施任务处理。但是里面的坑还是不少，没经历过的朋友得踩不少坑。at most onceAt most once：一条记录要么被处理一次，要么没被处理。用人话说，就是会丢数据。这种语义其实就是使用Receiver直接接收Kafka的数据。Receiver接收数据后，存储在Spark的执行器中，Spark S
转载
2024-09-27 09:39:01
30阅读
DStream编程批处理引擎Spark Core把输入的数据按照一定的时间片（如1s）分成一段一段的数据，每一段数据都会转换成RDD输入到Spark Core中，然后将DStream操作转换为RDD算子的相关操作，即转换操作、窗口操作以及输出操作。RDD算子操作产生的中间结果数据会保存在内存中，也可以将中间的结果数据输出到外部存储系统中进行保存。转换操作１：无状态转换操作无状态转化操作每个批次的处
转载
2023-08-10 15:26:57
101阅读
Spark的基础编程Spark的一些基本概念1.RDD：弹性分布式数据集，是分布式内存的一个抽象概念，提供了一种高度受限的共享内容模型，即RDD是只读的记录分区的集合，只能基于稳定的物理存储中的数据集来创建RDD，或者通过其它RDD上执行确定的转换操作（如map,join,group by）来创建，这些限制使得实现容错的开销很低。一个RDD 就是一个分布式对象集合，作为数据结构，RDD本质上是一个
转载
2023-11-01 20:24:27
170阅读
Apache Spark是一个在集群上运行的统一计算引擎以及一组并行数据处理软件库。 1.Spark应用程序Spark应用程序由一个驱动器进程和一组执行器进程组成。 驱动进程运行mian()函数，位于集群中的一个节点上：维护Spark应用程序的相关信息；回应用户的程序或输入；分析任务并分发给若干执行器进行处理执行器负责执行驱动器分配给它的实际计算工作：执行驱动器分配给他的代码；将执行器的计算状态报
转载
2023-12-03 10:06:26
74阅读
第四篇|Spark-Streaming编程指南(1)对Spark Streaming执行机制、Transformations与Output Operations、Spark Streaming数据源(Sources)、Spark Streaming 数据汇(Sinks)进行了讨论。本文将延续上篇内容，主要包括以下内容：有状态的计算基于时间的窗口操作持久化检查点Checkpoint使用DataFra
转载
2024-09-13 12:43:40
19阅读
一、Spark集群基础概念 将DAG划分为多个stage阶段，遵循以下原则： 1、将尽可能多的窄依赖关系的RDD划为同一个stage阶段。2、当遇到shuffle操作，就意味着上一个stage阶段结束，下一个stage阶段开始 关于RDD中的分区，在默认情况下（也就是未指明分
转载
2023-06-19 06:48:36
86阅读
