1.前言E-MapReduce计划从EMR-3.18.1版本开始提供Spark Streaming SQL的预览版功能。Spark Streaming SQL是在Spark Structured Streaming的基础上做了进一步封装，方便用户使用SQL语言进行Spark流式分析开发。Spark Streaming SQL直接地透明地受惠于Spark SQL的优化带来的性能提升，同时也遵循Spa
转载
2024-07-24 21:56:09
11阅读
######################################################################################################一、服务器分布及相关说明######################################################################################
原创
2014-02-22 23:34:41
10000+阅读
spark on yarn 资源调度流程cluster模式为例:客户端向ResourceManager发送请求,ResourceManager返回applicationID和要上传的hdfs目录客户端将jar包和配置文件上传到hdfs指定目录客户端向ResourceManager申请资源来启动ApplicationMasterRM找一台资源充足的NM,进行通信,NM通过rpc的方式从hdfs上下载
转载
2023-09-23 21:00:44
28阅读
前提读取的文件已经put到hdfs上了，还是报错，仔细想想，为什么两个读取文件只报后面那个读取文件不存在呢？看代码，是读取的方式不同，前面一个是通过sparkcontext读取，后面是file,所以情况应该是只有通过spark生成的对象sc读取才可以，带着这个思路，修改代码，才运行成功。 JavaRDD<String> linesRDD2 = sc.textFile("src/main
原创
2023-06-08 10:27:59
252阅读
## 将查询结果保存至HDFS的流程
为了帮助你理解如何将Spark查询结果保存至HDFS，我将按照以下流程进行解释：
```mermaid
flowchart TD
A(创建SparkSession) --> B(读取数据源)
B --> C(执行查询)
C --> D(保存结果至HDFS)
```
下面我将详细介绍每个步骤需要做什么，并提供相应的代码注释。
##
原创
2023-11-10 09:11:13
201阅读
（1）Spark能否替换Hadoop？首先，Spark只是一个计算平台，本身没有提供分布式文件系统，即没有提供分布式存储和管理。现在大多Spark计算都依赖于Hadoop的分布式文件系统HDFS，以及集群资源管理器YARN。Hadoop工作原理：将作业分解成更小的任务，将数据进行分区，每一个任务实例处理一个不同的分区，任务实例并行执行。它的核心是分布式文件系统HDFS和MapReduce框架，HD
转载
2023-09-21 06:12:13
67阅读
Hadoop的三大核心组件之HDFS和YARNHadoop集群具体来说包含两个集群：HDFS集群和YARN集群，两者逻辑上分离，但物理上常在一起。（1）HDFS集群：负责海量数据的存储，集群中的角色主要有 NameNode / DataNode/SecondaryNameNode。（2）YARN集群：负责海量数据运算时的资源调度，集群中的角色主要有 Reso
转载
2023-07-30 15:40:48
75阅读
Hadoop 和Spark完全分布式部署1. 配置相关服务器1.1 修改主机名hostname master1.2 修改/etc/hosts文件, 添加如下配置，方便通过主机名访问服务器127.0.0.1 localhost
master_ip master
worker1_ip worker01
worker2_ip worker021.3 配置ssh免密登录cd ~/.ssh
ssh-keyg
转载
2023-08-25 22:34:13
81阅读
1、生成票据
1.1、创建认证用户
登陆到kdc服务器，使用root或者可以使用root权限的普通用户操作：
转载
2023-07-12 08:35:31
54阅读
1. HADOOP和spark的关系？如下图所示： Hadoop和 Spark两者都是大数据框架，但是各自存在的目的不尽相同。Hadoop实质上更多是一个分布式数据基础设施: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储, 也有计算处理的功能。Spark，则是一个专门用来对那些分布式存储的大数据进行处理的工具，它并不会进行分布式数据的存储。2.Hadoop主要包括哪些重要组
转载
2023-08-18 22:16:07
69阅读
Spark数据读取对于存储在本地文件系统或分布式文件系统（HDFS、Amazon S3）中的数据，Spark可以访问很多种不同的文件格式，比如文本文件、JSON、SequenceFileSpark SQL中的结构化数据源，包括JSON和Hive的结构化数据源数据库和键值存储，自带的库，联结HBase或其他JDBC源格式名称结构化备注文本文件否普通的文本文件，每行一条记录JSON半结构化每行一条记录
转载
2023-07-12 10:10:20
94阅读
简介：这里对之前的hdfs、yarn、MR相关概念做一个总结，方便快速阅读理解。一、HDFSHDFS是分布式文件系统，有高容错性的特点，可以部署在价格低廉的服务器上，主要包含namenode和datanode。Namenode是hdfs中文件目录和文件分配管理者，它保存着文件名和数据块的映射管理，数据块和datanode列表的映射关系。其中文件名和数据块的关系保存在磁盘上，但是namenode上不
转载
2024-07-31 23:41:00
79阅读
Hadoop官网地址：hadoop.apache.org学习 HADOOP 过程中，一般使用伪分布式，使用集群目的是为了学习企业环境中的HA。HDFS：NN、SNN(checkpoint)、DN 这是单点模式，NN挂了就不能对外提供服务，SNN只是冷备。所以需要两个NN做HA，一个active一个standby，active的NN对外服务，standby的NN做实时备份，随时准备standby顶替
转载
2024-08-05 22:11:41
39阅读
ApacheBench命令原理：ab命令会创建很多的并发访问线程，模拟多个访问者同时对某一URL地址进行访问。它的测试目标是基于URL的，因此，既可以用来测试Apache的负载压力，也可以测试nginx、lighthttp、tomcat、IIS等其它Web服务器的压力。ab命令对发出负载的计算机要求很低，既不会占用很高CPU，也不会占用很多内存，但却会给目标服务器造成巨大的负载，其原理类似CC攻击
转载
2024-10-10 16:22:49
23阅读
情况说明：数据以parquet文件形式保存在HDFS上，数据中的某一列包含了日期（例如：2017-12-12）属性，根据日期对数据分区存储，如下图所示： 项目需求： 在项目中想要读取某一个月的数据，肿么办？ 解决方法： spark中读取本地文件的方法如下:sparkSession.read.parquet("hdfs://path") 1 方法一：&n
转载
2024-02-01 10:27:22
92阅读
如何使用HDFS和Spark进行数据处理
作为一名经验丰富的开发者，我将教会你如何使用HDFS和Spark进行数据处理。首先，让我们来了解整个流程，并以表格展示每个步骤。
| 步骤 | 说明 |
| ------ | ------ |
| 步骤一 | 安装和配置Hadoop和Spark |
| 步骤二 | 将数据上传到HDFS |
| 步骤三 | 在Spark中读取和处理数据 |
| 步骤四
原创
2023-12-31 10:25:38
66阅读
- 特点：一次写入，多次读取（write-once-read-many），降低并发要求控制，监护数据聚合性，支持高吞吐量；将处理逻辑放置到数据附近（比将数据移向应用程序空间更好）数据写入严格限制为，一次一个写入程序。字节被附加到流的末尾，字节流总以写入顺序存储- HDFS的应用层序几口：HDFS提供了一个原生的Java应用程序接口（API）和一个针对这个Java API的原生C语言
封装器。另外可
转载
2023-07-14 10:48:43
108阅读
Spark作为一个基于内存的大数据计算框架，可以和hadoop生态的资源调度器和分布式文件存储系统无缝融合。Spark可以直接操作存储在HDFS上面的数据：通过Hadoop方式操作已经存在的文件目录val path = neworg.apache.hadoop.fs.Path("hdfs://xxx"); val hdfs = org.apache.hadoop.fs.FileSystem.get
转载
2023-06-11 15:24:32
116阅读
在前面的博客中谈到了不使用分布式系统如何做并行计算。其中需要利用scp命令手动拷贝数据的地方有如下三处：(1)手动将待处理的数据从Server1拷贝到各个计算节点；(2)手动将可执行文件topN从Server1拷贝到各个计算节点；(3)手动将各节点的中间计算结果从每个节点拷贝到Node10。如何避免这种频繁的基于手动的数据移动，我们需要这样一个工具，它具有如下特点：集群中每一个节点都能看到相同的目
转载
2023-09-14 22:06:42
164阅读
Point 1：资源管理与作业调度 Spark对于资源管理与作业调度可以使用Standalone(独立模式)，Apache Mesos及Hadoop YARN来实现。 Spark on Yarn在Spark0.6时引用，但真正可用是在现在的branch-0.8版本。Spark on Yarn遵循YARN的官方规范实现，得益于Spark天生支持多种Scheduler和Executor的良好设计，对
转载
2024-08-14 16:03:20
135阅读
