1. RDD简介RDD，弹性分布式数据集（Resiliennt Distributed Datasets），是Spark中最重要的核心概念，是Spark应用中存储数据的数据结构。RDD 其实就是分布式的只读元素集合。一个Spark应用，本质上就是对RDD进行转化（Transformation） 和行动（Action） 操作，Spark会自动将RDD中的数据分发到集群上，并将操作并行化执行，计算得到
转载
2023-08-24 21:40:27
60阅读
Apache Spark是一个围绕速度、易用性和复杂分析构建的大数据处理框架。与 Hadoop 和 Storm 等其他大数据和 MapReduce 技术相比，Spark 有如下优势。首先，Spark 为我们提供了一个全面、统一的框架用于管理各种有着不同性质（文本数据、图表数据等）的数据集和数据源（批量数据或实时的流数据）的大数据处理的需求。Spark 可以将 Hadoop 集群中的应用在内存中的运
转载
2023-09-09 11:08:04
176阅读
Spark是一种流行的大数据集群计算框架，通常被大数据工程师，大数据科学家和大数据分析师用于各种用例。根据情况的不同，每种用户类型都将要求一定范围的数据访问权限。与其他像Presto这样具有内置授权框架和细粒度访问控制的大数据引擎不同，Spark可以直接访问Qubole Metastore(利用Apache Hive)中存储的所有表和资源。这不仅带来安全问题，而且阻碍了增长和企业采用。因此，我
转载
2023-08-12 15:52:03
94阅读
iplocation需求在互联网中，我们经常会见到城市热点图这样的报表数据，例如在百度统计中，会统计今年的热门旅游城市、热门报考学校等，会将这样的信息显示在热点图中。 因此，我们需要通过日志信息（运行商或者网站自己生成）和城市ip段信息来判断用户的ip段，统计热点经纬度。 package org.apache.spark
import org.a
转载
2024-05-07 12:16:00
54阅读
在上一篇文章中，我们讲了Spark大数据处理的可扩展性和负载均衡，今天要讲的是更为重点的容错处理，这涉及到Spark的应用场景和RDD的设计来源。Spark的应用场景Spark主要针对两种场景：机器学习，数据挖掘，图应用中常用的迭代算法（每一次迭代对数据执行相似的函数）交互式数据挖掘工具（用户反复查询一个数据子集）Spark在spark-submit外，还提供了spark-shell，它就是专门用
转载
2024-04-08 07:41:38
43阅读
第1章 Spark 概述1.1 什么是 Spark1.2 Spark 特点1.3 Spark 的用户和用途第2章 Spark 集群安装2.1 集群角色2.2 机器准备2.3 下载 Spark 安装包2.4 配置 Spark Standalone 模式2.5 配置 Spark History Server2.6 配置 Spark HA2.7 配置 Spark Yarn 模式第3章 执行 Spark
转载
2024-02-26 21:24:40
55阅读
最近求职，整理复习知识。发现一个职业的测试人员需要掌握的知识好多[笑哭]。这些不是了解就可以，还需要把实际的使用与成果和这些理论联系起来才行。不然说起来泛泛而谈。1. 数据库和SQL语言：测试人员需要具备熟练的数据库和SQL语言的知识，以便能够对数据进行正确有效的查询和验证。2. 大数据技术：测试人员需要了解大数据技术，包括Hadoop、Spark、NoSQL等等，以便能够对数据进行处理和分析。3
转载
2023-10-29 00:29:19
45阅读
上次，小编给大家介绍什么是大数据以及大数据产生的五大原因！那，大数据来了，作为程序员的我们如何迎接大数据的到来？那便只有学好大数据，其中的重中之重我觉得就是Spark ，那什么是spark呢？或者说Spark是干嘛的 ...上次，小编给大家介绍什么是大数据以及大数据产生的五大原因！那，大数据来了，作为程序员的我们如何迎接大数据的到来？那便只有学好大数据，其中的重中之重我觉得就是Spark 
转载
2024-01-14 13:21:38
34阅读
用spark，你仅仅只是调用spark的API肯定是很low的。今天来讲讲spark的原理，并且会针对部分源码进行讲解，如有不同意见请联系本人交流探讨。目前大数据生态主要部分是Hadoop软件框架和Spark内存级计算引擎。Hadoop包含四个项目：Hadoop common，HDFS，YARN和MapReduce。 Spark并不是要成为一个大数据领域的“独裁者” ， 一个人霸占大数据领域所有的
转载
2023-09-14 08:03:50
125阅读
在大数据技术的学习当中，Hadoop和Spark是重中之重的两个部分，关于Hadoop，之前我们已经介绍过很多了，今天的主题是Spark。作为继Hadoop之后的又一代计算框架，Spark受到重用也是有原因的。今天的大数据开发学习分享，我们来对Spark系统架构做一个详细的介绍。 Spark性能优势的原因 Spark是UC Berkeley AMP lab所开源的类HadoopMapR
转载
2023-10-25 21:30:51
65阅读
说起大数据计算框架，Hadoop和Spark这两者之间，一直都是存在着争议的，甚至一度还出现了Spark会替代Hadoop的声音，但是随着这两年的发展，事实告诉大家，Hadoop和Spark这两者之间，谁也没有消灭谁，都好好地存在着。 那些一定要在Hadoop和Spark之间分隔孰优孰劣的人，其实忽视了很重要的一点就是，设计人员最初的初衷，其实是需要Hadoop和Spark实现在一个系统当中的协同
转载
2023-10-08 19:56:33
120阅读
# Spark测试场景设计指南
作为一名经验丰富的开发者，我将引导一位刚入行的小白如何实现“Spark测试场景设计”。在这篇文章中，我们将通过一个系统化的流程和详细的代码示例，帮助你掌握Spark测试的基本步骤。
## 流程概述
首先，我们需要明确Spark测试的整体流程，以下是每个步骤的概览：
| 步骤 | 描述 | 目标
原文链接：https://zhuanlan.zhihu.com/p/336424137
近几年随着网络通信技术和互联网软件服务的快速发展，人们获得和处理的数据量都越来越大，市场上大数据人才稀缺。与大数据相关的职位主要有数据开发、数据挖掘、数据分析等，这些职位都要求掌握分布式计算计算例如Hadoop、Spark等等。如下图所示，数据挖掘、数据开发等岗位都要求候选人掌握一定分布式计算平台的知识，这篇文
转载
2023-09-08 17:13:50
153阅读
# 入门大数据与Spark开发指南
作为一名新手开发者，了解如何使用Apache Spark进行大数据处理是一个重要的技能。以下是一个基本的实现流程和详细步骤，帮助你入门Spark。
## 流程概览
首先，我们来看看整个项目的流程：
| 步骤 | 描述 |
| ------------ | ------------
原创
2024-10-17 11:18:50
36阅读
对于混合型工作负载，Spark可提供高速批处理和微批处理模式的流处理。该技术的支持更完善，具备各种集成库和工具，可实现灵活的集成。Flink提供了真正的流处理并具备批处理能力，通过深度优化可运行针对其他平台编写的任务，提供低延迟的处理，但实际应用方面还为时过早。
转载
2018-12-20 16:05:23
668阅读
点赞
Spark体系架构
zhuangzai
Spark体系架构包括如下三个主要组件：
数据存储
API
管理框架
接下来让我们详细了解一下这些组件。
数据存储：
Spark用HDFS文件系统存储数据。它可用于存储任何兼容于Hadoop的数据源，包括HDFS，HBase，Cassandra等。
API：
利用API，应用开发者可以用标准的API接口创建基于Spark的应用。Spark提供Scala
原创
2021-07-23 09:50:55
250阅读
http://spark.apache.org/
原创
2022-07-28 14:01:23
104阅读
# 大数据 Spark
## 引言
随着互联网的发展，我们已经进入了一个大数据时代。大数据的处理和分析是现代科学研究和商业决策的重要组成部分。然而，传统的数据处理和分析方法已经无法应对日益增长的数据量和复杂性。为了应对这一挑战，出现了许多大数据处理框架。其中，Apache Spark 是最受欢迎和广泛使用的框架之一。
## Spark 简介
Spark 是一个快速、分布式的计算引擎，最初由
原创
2024-01-24 05:20:17
42阅读
文章目录一级目录二级目录三级目录Spark基础及架构一、认识Spark快速易用通用多种运行模式Spark 与Map Reduce 比较Spark 技术栈二、了解 Spark 架构与运行环境spark 环境部署2.1.2 Standalone 一级目录二级目录三级目录Spark基础及架构一、认识SparkApache Spark 是大数据领域最活跃的项目之一，其活跃度目前远超 Hadoop。特点是
转载
2023-09-30 13:29:11
121阅读
1，spark基础及体系架构1.1 spark why?Spark有如下优势：Spark提供了一个全面、统一的框架用于管理各种有着不同性质（文本数据、图表数据等）的数据集和数据源（批量数据或实时的流数据）的大数据处理的需求官方资料介绍Spark可以将Hadoop集群中的应用在内存中的运行速度提升100倍，甚至能够将应用在磁盘上的运行速度提升10倍Spark VS MapRe
转载
2023-09-04 12:11:47
39阅读
