HDFS架构概述HDFS（Hadoop Distributed File System）的架构概述NameNode(nn)：存储文件的元数据，如文件名、文件目录结构、文件属性(生成时间、副本数、文件权限)，以及每个文件的块列表和块所在的DataNode等。DataNode(dn)：在本地文件系统中存储文件块数据，以及块数据的校验和。Secondary NameNode(2nn)：用来监控HDFS状
转载
2023-07-13 17:10:43
35阅读
1.客户端会调用DistributedFileSystem对象的create(filePath)方法，与NameNode进行RPC通信。 2.NameNode接收到用户的写文件的RPC请求后，首先进行各种检查。如用户是否有创建权限和该文件是否已存在，检查通过后才会创建一个文件，并将操作记录到editlog中，然后DistributedFileSystem会将DFSOutputStream对象包装在
转载
2023-06-13 22:53:25
76阅读
一、概念Hadoop诞生于2006年，是一款支持数据密集型分布式应用并以Apache 2.0许可协议发布的开源软件框架。它支持在商品硬件构建的大型集群上运行的应用程序。Hadoop是根据Google公司发表的MapReduce和Google档案系统的论文自行实作而成。Hadoop与Google一样，都是小孩命名的，是一个虚构的名字，没有特别的含义。从计算机专业的角度看，Hadoop是一个分布
转载
2023-08-16 16:28:06
80阅读
1.1. Hadoop架构 Hadoop1.0版本两个核心：HDFS+MapReduceHadoop2.0版本，引入了Yarn。核心：HDFS+Yarn+MapreduceYarn是资源调度框架。能够细粒度的管理和调度任务。此外，还能够支持其他的计算框架，比如spark等。 1.2. HDFS设计单台机器的硬件扩展纵向扩展的问题，
转载
2023-07-14 20:08:08
84阅读
Hadoop（HDFS）文件读写机制一、概述采用Hadoop提供的API进行HDFS文件系统访问，文件读取时默认是顺序、逐block读取；写入时是顺序写入。二、读写机制首先来看文件读取机制：尽管DataNode实现了文件存储空间的水平扩展和多副本机制，但是针对单个具体文件的读取，Hadoop默认的API接口并没有提供多DataNode的并行读取机制。基于Hadoop提供的API接口实现的应用也自然
转载
2023-08-16 11:14:24
72阅读
1 HDFS简介 1.1 Hadoop 2.0介绍 Hadoop是Apache的一个分布式系统基础架构，可以为海量数据提供存储和计算。Hadoop 2.0即第二代Hadoop系统，其框架最核心的设计是HDFS、MapReduce和YARN。其中，HDFS为海量数据提供存储，MapReduce用于分布式计算，YARN用于进行资源管理。Hadoop 1.0和Hadoop 2.0的结构对比：
转载
2023-07-17 11:54:46
266阅读
最近没事研究了下Hadoop，先来了解下Hadoop的架构知识 Hadoop是一个能够对大量数据进行分布式处理的软件框架，实现了Google的MapReduce编程模型和框架，能够把应用程序分割成许多小的工作单元，并把这些单元放到任何集群节点上执行。在MapReduce中，一个准备提交执行的应用程序成为“作业job”，而从一个作业换分出的、运行于个计算节点的工作单元成为“任务task”。此外，Ha
转载
2024-10-10 16:46:15
24阅读
hadoop 高可用（HA）原理文章有深度，又容易理解 。补充了resourceManager高可用部分一、Hadoop 系统架构1.1 Hadoop1.x和Hadoop2.x 架构在介绍HA之前，我们先来看下Hadoop的系统架构，这对于理解HA是至关重要的。Hadoop 1.x之前，其官方架构如图1所示:图1.Hadoop 1.x架构图从图中可看出，1.x版本之前只有一个Namenode,所有
转载
2023-08-30 16:22:24
23阅读
在Hadoop中我们一定会使用hdfs的传输，那么，hdfs的读写流程究竟是什么，我利用了一点时间整理了一下 首先就是官网的图，介绍了HDFShdfs写流程 1，客户端client调用DistributedFileSystem这个对象的create方法去和NameNode这个节点进行rpc通信，然后NameNode来检查create这个方法所传输过来的hdfs_path这个路径是否已经存在以及是否
转载
2023-12-18 14:15:18
36阅读
可以把Hadoop YARN理解为相当于一个分布式的操作系统平台，而MapReduce
原创
2023-01-15 14:01:51
298阅读
HDFS写数据流程：详细步骤图：详细描述： 1.客户端向NN发送文件上传的请求 2.NN进行一系列的检查：是否有权限，文件的父目录是否存在，文件是否已经存在同名等等，检查通过，允许上传 3.NN告知客户端允许上传 4.客户端发送真正的文件上传的请求，请求包含一个重要信息，文件的长度/大小 5.NN根据文件的长度计算文件的切块的个数（200M/128M = 2）,以及获取文本的配置信息dfs.re
转载
2023-08-03 14:48:26
164阅读
1. Hadoop 3.0简介Hadoop 2.0是基于JDK 1.7开发的，而JDK 1.7在2015年4月已停止更新，这直接迫使Hadoop社区基于JDK 1.8重新发布一个新的Hadoop版本，而这正是hadoop 3.0。Hadoop 3.0的alpha版预计今年夏天发布，GA版本11月或12月发布。Hadoop 3.0中引入了一些重要的功能和优化，包括HDFS 可擦除编码、多Namen
转载
2023-09-06 22:09:39
64阅读
执行start-dfs.sh脚本后，集群是如何启动的？ 本文阅读并注释了start-dfs脚本，以及datanode的启动主要流程流程源码。 DataNode 启动流程 脚本代码分析 start-dfs.sh中启动datanode的代码： # # datanodes (using default w ...
转载
2021-07-15 17:37:00
717阅读
2评论
一． 安装JDK,配置环境JAVA环境变量 #Java
export JAVA_HOME=/home/jyl/jdk1.6/jdk1.6.0_37
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$PATH 二． 安装ssh1
转载
2024-01-25 20:22:40
50阅读
写在前面: 不考虑HA和Federation架构,如果本文有错误的地方还望大佬指出,小弟不胜感激. 1.客户端通过shell命令的方式传输文件到HDFS上(申请上传)hdfs dfs -put a.txt /tmp
#如果添加了-f就会覆盖掉hdfs上/tmp/a.txt文件2.namenode检查文件夹是否存在,检查文件是否存在,如果文件夹不存在是肯定不能上传的,如果文件存在就要看有没有覆盖写入
转载
2023-08-18 17:56:25
51阅读
目录一、Yarn的组件和作用1、ResourceManager2、NodeManager3、ApplicationMaster4、Container二、Yarn的job提交流程1、客户端提交作业，申请jobID2、ResourceManager返回一个jobID，并将存放资源的HDFS路径返回给客户端3、客户端把运行作业的资源上传到RM返回的HDFS路径上，上传内容为jar包、配置信息、分片信息
转载
2023-07-12 15:12:03
103阅读
Apache Hadoop YARN 的架构与运行流程 ！
原创
2022-02-15 16:05:06
341阅读
文章目录1、HDFS写数据流程1.1 剖析文件写入1.2 网络拓扑-节点距离计算1.3 机架感知（副本存储节点选择）2、HDFS读数据流程 1、HDFS写数据流程1.1 剖析文件写入讲解：客户端将数据写入hdfs，底层是怎么操作的客户端1、客户端会先创建一个 Distributed FileSystem （分布式的文件系统），对上传文件按照文件块拆分后，一块一块上传NameNode2、检查上传的
转载
2023-07-24 09:28:54
56阅读
hadoop之job和shuffle过程1、job提交流程1、用户向YARN中提交应用程序，其中包括ApplicationMaster（AM）程序，启动AM的命令，用户程序等。2、ResourceManger(RM)为该程序分配第一个Container，并与对应的NodeManger通讯，要求它在这个Container中启动应用程序AM。
3、AM首先向RM注册，这样用户可以直接通过RM查看应用
转载
2023-11-09 18:24:42
78阅读
最低Java版本从7升级到8引入纠删码(Erasure Coding)主要解决数据量大到一定程度磁盘空间存储能力不足的问题.HDFS中的默认3副本方案在存储空间中具有200%的额外开销。但是，对于I/O活动相对较少冷数据集，在正常操作期间很少访问其他块副本，但仍然会消耗与第一个副本相同的资源量。纠删码能勾在不到50%数据冗余的情况下提供和3副本相同的容错能力，因此，使用纠删码作为副本机制的改进是自
转载
2023-07-12 13:18:56
202阅读
