运行 Spark 示例 注意，必须安装 Hadoop 才能使用 Spark，但如果使用 Spark 过程中没用到 HDFS，不启动 Hadoop 也是可以的。此外，接下来教程中出现的命令、目录，若无说明，则一般以 Spark 的安装目录（/usr/local/spark）为当前路径，请注意区分。 在 ./examples/src/main 目录下有一些 Spark 的示例程序，有 Scala、J
一、大数据的四大特征： a.海量的数据规模（volume） b.快速的数据流转和动态的数据体系（velocity） c.多样的数据类型（variety） d.巨大的数据价值（value） 二.Spark 和 Hadoop的不同 Spark是给予map reduce 算法实现的分布式计算，拥有Hadoop MapReduce所具有的有点，但不同与MaoRedu
转载
2023-09-22 13:02:02
92阅读
Spark1.0.x入门指南1 节点说明2 安装HDFS3 Spark部署3.1 Spark on Yarn3.1.1 配置3.1.2 测试3.2 Spark Standalone3.2.1 配置3.2.2 启动3.2.3 测试4 spark-submit工具5 Spark HistoryServer6 Spark可配置参数6.1 应用属性6.2 运行
转载
2023-07-25 00:24:38
118阅读
随手记录一些用到的东西或问题，防止自己忘记或再次遇到 文章目录启动顺序Hadoopzookeeper启动启动Saprk涉及到hostname的配置文件宿主机hosts配置文件Ubuntu自身配置文件zookeeper配置文件包含主机名HadoopSpark配置文件包含主机名 启动顺序先启动Hadoop 集群，再启动zookeeper，最后启动sparkHadoop格式化：跟重装系统一样，只能第一次
转载
2024-06-26 12:01:31
97阅读
生命不息，折腾不止，趁着最近工作不是太忙继续我的编程之路的学习。 年龄大了，很多东西做过一遍就容易忘记，所谓“好记性不如烂笔头”，对于知识还是记录下来比较容易保存，既是给自己留个笔记，也可以分享给其他有需要的人。废话少说，以下记录我的spark学习之旅： 一、准备工作 1.准备三台服务器.一台作为master,另外两台作为slave 我这里准备了三台服务器，对应的I
转载
2024-07-06 05:57:36
41阅读
1 相关概念Spark 是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。1.1 与Hadoop区别Spark与Hadoop中的MapReduce相似，都是用于进行并行计算的框架，二者根本差异是多个作业之间的数据通信问题 : Spark 的多个作业之间数据通信是基于内存，而 Hadoop 是基于磁盘，因此Spark作为MapReduce的升级改进，计算速度会更快。MapReduce 由于其设
转载
2024-01-05 15:58:05
85阅读
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、Spark是什么？二、使用步骤1.环境准备2.集群规划3.Spark HA部署安装启动Spark HA浏览器查看 Spark 的 Web UI4.# 测试 Spark 集群总结 前言提示：这里可以添加本文要记录的大概内容：Hadoop的实时数据通过Spark Streaming读取kafka，需要先了解下Spark,
转载
2024-04-22 11:55:17
42阅读
我用的是spark-2.3.0-bin-hadoop2.7.tar这版本的。下面我来说一下的操作步走，想使用spark我们肯定要安装它第一步：在你的虚拟机中输入pip install pyspark如果出现下图说明证明 第二步：如果你有安装了XFT这个插件就用你的这个插件把你的pyspark这个压缩包放进去 第三步：我们解压这个文件tar -xvf spark-2.3.0-
转载
2023-10-08 14:20:51
72阅读
首先Spark是借鉴了mapreduce并在其基础上发展起来的，继承了其分布式计算的优点并改进了mapreduce明显的缺陷。 但是二者也有不少的差异具体如下：ApacheSpark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类HadoopMapReduce的通用并行计算框架，Spark拥有Had
转载
2023-08-01 22:14:37
69阅读
Spark框架一、Spark概述1.1 Spark是什么1.2 Spark & Hadoop1.3 Spark / Hadoop（1）Hadoop MapReduce（2） Spark1.4 Spark核心模块 一、Spark概述1.1 Spark是什么Spark是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。1.2 Spark & HadoopSpark与Hadoop的
转载
2023-09-01 11:06:45
75阅读
有以下四个不同：1. 解决问题的层面不一样Hadoop和Apache Spark两者都是大数据框架，但是各自存在的目的不尽相同。Hadoop实质上更多是一个分布式数据基础设施: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储，意味着您不需要购买和维护昂贵的服务器硬件。 同时，Hadoop还会索引和跟踪这些数据，让大数据处理和分析效率达到前所未有的高度。Spark，则是那么一
转载
2023-09-26 15:52:54
48阅读
文章目录Hadoop（伪分布）+ Spark（Local）软件安装及环境配置前言一、安装虚拟机1.下载Ubuntu16.04镜像二、Hadoop安装及配置（伪分布式）1.创建hadoop用户2.更新apt3.安装SSH、配置SSH无密码登陆4.安装Java环境5.安装Hadoop3.1.36.Hadoop伪分布式配置三、安装 Spark2.4.01.下载Spark2.4.02.安装Spark（L
转载
2023-11-18 23:36:04
9阅读
Spark概述什么是SparkSpark是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。Spark和Hadoop的区别Spark 和Hadoop 的区别：HadoopHadoop 是由 java 语言编写的，在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架，专用于数据批处理的框架，有存储也有计算，但是核心是计算且是离线计算。作为 Hadoop 分布式文件系统，HDFS 处于
转载
2023-09-01 11:06:55
56阅读
目的 首先需要明确一点，hadoophe spark 这二者都是大数据框架，即便如此二者各自存在的目的是不同的。Hadoop是一个分布式的数据基础设施，它是将庞大的数据集分派到由若干台计算机组成的集群中的多个节点进行存储。Spark是一个专门用来对那些分布式存储的大数据进行处理的工具，spark本身并不会进行分布式数据的存储。两者的部署 Hadoop的框架最核心的设计就是：HDFS和MapRedu
转载
2023-07-12 11:53:59
70阅读
最近在招聘面试的时候，往往听到应聘者在介绍Spark的时候，通常拿Spark官网案例Spark和Hadoop做比较。当我问到为什么Spark比Hadoop快时候，得到的答案往往是：Spark是基于内存的计算，而Hadoop是基于磁盘的计算；Spark是一种内存计算技术。果真如此吗？事实上，不光Spark是内存计算，Hadoop其实也是内存计算。Spark和Hadoop的根本差异是多个任务之间的数据
转载
2023-09-01 08:15:38
75阅读
首先，Hadoop和Apache Spark两者都是大数据框架，但是各自存在的目的不尽相同。Hadoop实质上更多是一个分布式数据基础设施: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储，意味着您不需要购买和维护昂贵的服务器硬件。同时，Hadoop还会索引和跟踪这些数据，让大数据处理和分析效率达到前所未有的高度。Spark，则是那么一个专门用来对那些分布式存储的大数据进行处
转载
2023-07-06 18:45:22
83阅读
在大数据处理框架不断更新和优化的过程中，Hadoop和Spark之间既有竞争关系，也有相互协同的需求。比方说Hive和Spark，在一段时间内，很多人认为Spark会代替Hive，作为Hadoop的数据仓库，Hive真的已经落后了吗？ 这种说法我们是不赞同的，因为作为数据仓库来说，Hive和Spark之间，Spark真的没有压倒性的优势，下图我们做了一个对比—— 由上图
转载
2023-07-12 11:54:33
63阅读
尽管Hadoop在分布式数据分析领域备受瞩目，但还是有其他选择比典型的Hadoop平台更具优势。最近很多人都在讨论Spark这个貌似通用的分布式计算模型，国内很多机器学习相关工作者都在研究和使用它。Spark是一种可伸缩（scalable）的基于内存计算（In-Memory Computing）的数据分析平台，比Hadoop集群存储方法更有性能优势。Spark采用Scala语言实现，提供了单一的数
转载
2023-09-14 13:04:01
78阅读
Hadoop+spark集群搭建 说明：本文档主要讲述hadoop+spark的集群搭建，linux环境是centos，本文档集群搭建使用两个节点作为集群环境：一个作为Master节点，另一个作为Slave节点，由于spark依赖scala，所以需要安装scala搭建步骤：一：安装jdk二：安装hadoop集群（http://www.powerxing.com/install-
转载
2023-09-14 08:35:25
169阅读
参考网站：
Linux下配置jdk1.7- Hustc的专栏 - 博客频道 - CSDN.NET
高效搭建Spark完全分布式集群- 服务器负载均衡 - 次元立方网 - 电脑知识与技术互动交流平台
hadoop学习之hadoop完全分布式集群安装- 落魄影子 - 博客频道 - CSDN.NET
hadoop2.2完全分布式最新高可靠安装文档-Hadoop2|YARN-about云开发
S
转载
2023-07-25 00:22:06
109阅读
