1. HADOOP和spark的关系？如下图所示： Hadoop和 Spark两者都是大数据框架，但是各自存在的目的不尽相同。Hadoop实质上更多是一个分布式数据基础设施: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储, 也有计算处理的功能。Spark，则是一个专门用来对那些分布式存储的大数据进行处理的工具，它并不会进行分布式数据的存储。2.Hadoop主要包括哪些重要组
转载
2023-08-18 22:16:07
69阅读
Hadoop 和Spark完全分布式部署1. 配置相关服务器1.1 修改主机名hostname master1.2 修改/etc/hosts文件, 添加如下配置，方便通过主机名访问服务器127.0.0.1 localhost
master_ip master
worker1_ip worker01
worker2_ip worker021.3 配置ssh免密登录cd ~/.ssh
ssh-keyg
转载
2023-08-25 22:34:13
81阅读
1.前言E-MapReduce计划从EMR-3.18.1版本开始提供Spark Streaming SQL的预览版功能。Spark Streaming SQL是在Spark Structured Streaming的基础上做了进一步封装，方便用户使用SQL语言进行Spark流式分析开发。Spark Streaming SQL直接地透明地受惠于Spark SQL的优化带来的性能提升，同时也遵循Spa
转载
2024-07-24 21:56:09
11阅读
Spark数据读取对于存储在本地文件系统或分布式文件系统（HDFS、Amazon S3）中的数据，Spark可以访问很多种不同的文件格式，比如文本文件、JSON、SequenceFileSpark SQL中的结构化数据源，包括JSON和Hive的结构化数据源数据库和键值存储，自带的库，联结HBase或其他JDBC源格式名称结构化备注文本文件否普通的文本文件，每行一条记录JSON半结构化每行一条记录
转载
2023-07-12 10:10:20
94阅读
1、生成票据
1.1、创建认证用户
登陆到kdc服务器，使用root或者可以使用root权限的普通用户操作：
转载
2023-07-12 08:35:31
54阅读
整体方案fsimage⽂件是hadoop⽂件系统元数据的⼀个永久性的检查点，其中包含hadoop⽂件系统中的所有⽬录和⽂件idnode的序列化 信息；⽂件在hdfs主节点上⾃动更新 利⽤HDFS oiv命令可以解析fsimage⽂件，解析后的⽂件放⼊ELK中即可进⾏集群元数据的详细分析。 本⽅案的主要过程： 1、通过hdfs oiv命令将最新的fsimage⽂件解析为csv格式的⽂件 2、将csv
转载
2024-04-12 09:03:12
136阅读
情况说明：数据以parquet文件形式保存在HDFS上，数据中的某一列包含了日期（例如：2017-12-12）属性，根据日期对数据分区存储，如下图所示： 项目需求： 在项目中想要读取某一个月的数据，肿么办？ 解决方法： spark中读取本地文件的方法如下:sparkSession.read.parquet("hdfs://path") 1 方法一：&n
转载
2024-02-01 10:27:22
92阅读
如何使用HDFS和Spark进行数据处理
作为一名经验丰富的开发者，我将教会你如何使用HDFS和Spark进行数据处理。首先，让我们来了解整个流程，并以表格展示每个步骤。
| 步骤 | 说明 |
| ------ | ------ |
| 步骤一 | 安装和配置Hadoop和Spark |
| 步骤二 | 将数据上传到HDFS |
| 步骤三 | 在Spark中读取和处理数据 |
| 步骤四
原创
2023-12-31 10:25:38
66阅读
在前面的博客中谈到了不使用分布式系统如何做并行计算。其中需要利用scp命令手动拷贝数据的地方有如下三处：(1)手动将待处理的数据从Server1拷贝到各个计算节点；(2)手动将可执行文件topN从Server1拷贝到各个计算节点；(3)手动将各节点的中间计算结果从每个节点拷贝到Node10。如何避免这种频繁的基于手动的数据移动，我们需要这样一个工具，它具有如下特点：集群中每一个节点都能看到相同的目
转载
2023-09-14 22:06:42
164阅读
- 特点：一次写入，多次读取（write-once-read-many），降低并发要求控制，监护数据聚合性，支持高吞吐量；将处理逻辑放置到数据附近（比将数据移向应用程序空间更好）数据写入严格限制为，一次一个写入程序。字节被附加到流的末尾，字节流总以写入顺序存储- HDFS的应用层序几口：HDFS提供了一个原生的Java应用程序接口（API）和一个针对这个Java API的原生C语言
封装器。另外可
转载
2023-07-14 10:48:43
108阅读
Spark作为一个基于内存的大数据计算框架，可以和hadoop生态的资源调度器和分布式文件存储系统无缝融合。Spark可以直接操作存储在HDFS上面的数据：通过Hadoop方式操作已经存在的文件目录val path = neworg.apache.hadoop.fs.Path("hdfs://xxx"); val hdfs = org.apache.hadoop.fs.FileSystem.get
转载
2023-06-11 15:24:32
116阅读
Spark大数据分析与实战：HDFS文件操作一、安装Hadoop和Spark二、启动Hadoop与Spark查看3个节点的进程masterslave1slave2Spark shell命令界面与端口页面三、HDFS 常用操作（1） 启动Hadoop，在HDFS 中创建用户目录“/user/hadoop”；Shell命令：[root@master ~]# hadoop fs -mkdir /user
转载
2023-08-15 19:04:02
215阅读
在分布式计算中，为了提高计算速度，数据本地性是其中重要的一环。 不过有时候它同样也会带来一些问题。一.问题描述在分布式计算中，大多数情况下要做到移动计算而非移动数据，所以数据本地性尤其重要，因此我们往往也是将hdfs和spark部署在相同的节点上，有些人可能会发现即使他已经这么做了，在spark的任务中的locality还是ANY，这说明所有的数据都是走的网络IO。在没有没有shuffle的情况
转载
2024-01-24 18:42:43
114阅读
【简介】1、hdfs架构hdfs伪分布式架构只需要有三个部分即可，NameNode是老大，DataNode是小弟，Secondary NameNode是助理。客户端Client跟NameNode通信(RPC通信机制，后面会介绍)，Secondary NameNode负责数据的同步。2、元数据的存储细节NameNode的元数据是存放在内存当中的。数据解读：有一个文件/test/a.log，保存了3个
1.写在前面在spark streaming+kafka对流式数据处理过程中，往往是spark streaming消费kafka的数据写入hdfs中，再进行hive映射形成数仓，当然也可以利用sparkSQL直接写入hive形成数仓。对于写入hdfs中，如果是普通的rdd则API为saveAsTextFile()，如果是PairRDD则API为saveAsHadoopFile()。当然高版本的sp
转载
2023-07-06 17:21:04
223阅读
本次实验相关信息如下:
操作系统:Ubuntu 14
Hadoop版本:2.4.0
Spark版本:1.4.0
运行前提是Hadoop与Spark均已正确安装配置
2、在Linux中生成一个文件test.txt，保存在/home/testjars/目录下
hadoop fs -put /
转载
2024-08-28 15:40:02
97阅读
一、实现功能dataframe保存到指定路径，一般都是一个文件夹，具体保存文件是文件夹内部的 part-00000*文件。对于需要指定最终保存文件的场景，本身api无法实现。本文提供保存到指定文件夹内，并且指定最终文件名称的两种方法。二、方法1：直接使用hdfs的api实现修改文件名称1.实现思路首先，DataFrame先减少分区到1个，再转换为RDD，然后写入hdfs，因为DataFrame直接
转载
2023-08-07 00:42:10
599阅读
分布式系统的节点之间常采用心跳来维护节点的健康状态，如yarn的rm与nm之间，hdfs的nn与dn之间。DataNode会定期（dfs.heartbeat.interval配置项配置，默认是3秒）向namenode发送心跳，如果Namenode长时间没有接受到datanode发送的心跳，我们在50070的nn管理界面上就会看到它的lastcontact字段越来越大，至到最后变为dead,name
转载
2024-04-07 13:48:11
55阅读
Hadoop
部分参考《hadoop大数据实战手册-精英版》-有很多命令查找语句 详细： hadoop分为几大部分：yarn负责资源和任务管理、hdfs负责分布式存储、map-reduce负责分布式计算 YARN总体上仍然是master/slave（主从）结构Hdfs文件系统
HDFS 部分由NameNode、SecondaryNameNode和DataNode组成。 HDFS 文件的大小可以大
转载
2023-07-27 20:38:22
135阅读
下面通过启动Spark-Shell，并且使用Scala语言开发单词计数的Spark程序，现有文本文件words.txt(读者需要在本地创建文件并上传至指定目录)在HDFS中的/spark/test路径下，且文本内容如下。hello hadoophello sparkhellp itcast如果使用Spark Shell来读取HDFS中的/spark/test/ words.txt文件，具体步骤如下
转载
2023-06-13 23:33:46
280阅读
