hadoop_hdfs07-hdfsHA集群配置&ZK集群配置&yarnHA配置注:笔记.(一) 集群规划Hadoop102Hadoop03Hadoop04ZKZKZKJournaleNodeJournaleNodeJournaleNodeNameNodeNameNodeDataNodeDataNodeDataNodeResourceManagerResourceManagerNo
转载
2024-02-15 21:35:32
73阅读
1.hdfs HA 架构图梳理 HA使用active NN, standby NN两个节点解决单点问题。两个NN节点通过JN(JournalNode)集群， 共享状态，通过ZKFC选举active，监控状态，自动备援。DN会同时向两个NN节点发送心跳。各个组件的作用active nn：接收client的rpc请求并处理，同时自己editlog写一份，也向JN的共享存储上的editlog写一份。 也
对于线上生产环境的HDFS，开启回收站功能是必不可少的。该功能类似于linux系统的回收站设计，HDFS会为每个用户创建一个专属的回收站目录（/user/${user.name}/.Trash），用户删除文件时，实际上是被移动到了回收站目录。用于预防当用户误删HDFS上的数据时，能够及时从回收站恢复这些数据（当然回收站是防不住删库跑路的）。一. 参数介绍<name>fs.trash.i
转载
2023-10-05 21:49:14
130阅读
千兆就是KM也就是GB，是一个单位，一个数宽带是串行通信,数据是一位一位的传送,千兆比特就是1千兆位,如果1秒能传送这些,就说速度是1千兆比特每秒,即1Mbps。
线速
这里的“线速”指网络设备交换转发能力的一个标准，而非通常所言的线速度和角速度。达到线速标准的设备，避免了非线速设备的转发瓶颈，称作“无阻塞处理”。即厂
# HDFS与YARN的网络延时：深入理解与优化策略
## 1. 引言
在大数据处理框架中，Apache Hadoop的HDFS（Hadoop Distributed File System）和YARN（Yet Another Resource Negotiator）被广泛应用于数据存储和资源管理。然而，在复杂的分布式系统中，网络延迟成为系统性能的重要影响因素。本文将探讨HDFS与YARN中的
原创
2024-10-21 06:50:32
60阅读
HDFS(Hadoop Distributed File System)是Hadoop核心组成之一，是分布式计算中数据存储管理的基础，被设计成适合运行在通用硬件上的分布式文件系统。HDFS架构中有两类节点，一类是NameNode，又叫“元数据节点”，另一类是DataNode，又叫“数据节点”，分别执行Master和Worker的具体任务。HDFS是一个(Master/Slave)体系结构，“一次
转载
2023-12-13 05:38:46
385阅读
设置虚拟机DNS主机网络配置vi /etc/sysconfig/network-scripts/ifcfg-ens33BOOTPROTO=static
IPADDR=192.168.56.110
NETMASK=255.255.255.0
GATEWAY=192.168.56.10
ONBOOT=yesvi /etc/NetworkManager/NetworkManager.conf添加
转载
2023-08-16 17:15:40
292阅读
一、按照拓补结构分类网络拓补：总线型、环形、星型、网型一、总线型早期网络拓补结构，使用同轴电缆连接。 优点：布线简单缺点：通信效率低、传输速度慢，现已淘汰。二、环型传输介质：同轴电缆 这是使用一个连续的环将每台设备连接在一起。它能够保证一台设备上发送的信号可以被环上其他所有的设备都看到。在简单的环形网中，网络中任何部件的损坏都将导致系统出现故障，这样将阻碍整个系统进
转载
2024-05-30 09:27:48
85阅读
hadoop学习中遇到的问题：hadoop拒绝连接 hadoop安装好之后，在本地浏览器输入地址http://192.168.29.134:9870，提示拒绝连接。在网上找了很多相关资料，有很多原因导致，一个是防火墙没关闭，一个是namenode没有启动起来，一个是因为namenode启动后journalnode还没有启动，还有就是namenode和datanode的clusterID不一致、没
转载
2023-07-14 15:24:56
1701阅读
#!/bin/bashexport JAVA_HOME=/data/jdk1.8.0_111export HADOOP_HOME=/data/hadoop-2.6.5export PATH=${JAVA_HOME}/bin:${HADO
原创
2022-10-28 11:59:43
156阅读
该系列总览: Hadoop3.1.1架构体系——设计原理阐述与Client源码图文详解 : 总览在HDFS中，有三种Recovery 1.Lease Recovery 2.Block Recovery 3.PipeLine Recovery以下将 一 一 讲解。一.Lease Recovery首先很有比要介绍一下Lease(租约)租约保证HDFS的一读多写机
转载
2024-04-26 11:51:12
115阅读
目录：HDFS简介HDFS架构说明HDFS读文件流程HDFS写文件流程HDFS 可靠性HDFS shellIDEA 开发工具使用Java 操作HDFS全分布式集群搭建一.简介HDFS（Hadoop Distributed File System，分布式文件系统）基于Ggoogel发布的GFS论文设计开发，其除具备其他分布式文件系统相同特性外，还有自己的特性：高容错：认为硬件总是不可靠的，有副本的存
转载
2024-04-29 21:47:24
55阅读
1. df的介绍和使用df 以磁盘分区为单位查看文件系统，可以获取硬盘被占用了多少空间，目前还剩下多少空间等信息。例如，我们使用df -h命令来查看磁盘信息， -h 选项为根据大小适当显示：1.1显示内容参数说明Filesystem：文件系统Size： 分区大小Used： 已使用容量Avail： 还可以使用的容量Use%： 已用百分比Mounted on： 挂载点1.2常用的一些命令使用df -h
转载
2024-03-26 08:24:46
72阅读
ls命令 格式： hdfs dfs -ls 文件路径 作用：显示文件列表 例如：hdfs dfs -ls /lsr命令 格式：hdfs dfs -lsr URI 作用：在整个目录下递归执行ls, 与linux中ls -R类似 例如：hdfs dfs -lsr / (ps：使用此命令会提示，此有一个提示更换命令，是因为该命令已过时，可使用 -ls -R替换-lsr)mkdir命令 格式：hdfs d
转载
2024-03-15 08:44:19
153阅读
hadoop的两大核心之一 海量数据的存储(HDFS)什么是HDFS? hadoop distributed file system(hadoop分布式文件系统) 是一种允许文件通过网络在多台主机上分享的文件系统, 可让多机器上的多用户分享文件和存储空间. 特点: 1.通透性.让实际上是通过网络来访问
转载
2024-03-11 13:19:27
69阅读
1. HDFS Federation产生背景在Hadoop 1.0中，HDFS的单NameNode设计带来诸多问题，包括单点故障、内存受限制约集群扩展性和缺乏隔离机制（不同业务使用同一个NameNode导致业务相互影响）等，为了解决这些问题，Hadoop 2.0引入了基于共享存储的HA解决方案和HDFS Federation，本文重点介绍HDFS Federation。HDFS Fede
转载
2024-05-14 07:04:52
49阅读
一、导入新课带领学生回顾项目三Hadoop集群相关的知识，由于Hadoop的核心是HDFS和MapReduce。其中，HDFS是解决海量大数据文件存储的问题，是目前应用最广泛的分布式文件系统。因此，本次课将针对HDFS分布式文件系统进行详细讲解 二、新课讲解（一）HFDS的演变HDFS 源于 Google 在2003年10月份发表的GFS（Google File System）论文，接下
转载
2024-02-18 15:59:26
71阅读
1. 问题描述：2. 问题分析：云主机连接不上本地IP解析错误云主机工作处于安全模式3. 解决方式：更改云主机名更改本地 hosts 文件使用 linux 命令强制退出安全模式Step 1) 下载 HDFS Explorer 软件安装包：百度云连接：https://pan.baidu.com/s/1tlJWHusCdeGRlhQsFrmMpA（提取码：f3ql）Step 2) 下载后，双击 HDF
转载
2024-03-22 09:38:47
231阅读
目录1 HDFS的概述1.1 HDFS的概念1.2 HDFS优缺点1.2.1 优点1.2.2 缺点1.3 HDFS的架构1.4 block文件块的大小2 HDFS的shell客户端操作3 HDFS的java客户端操作3.1 HDFS客户端操作4 HDFS的数据流4.1 HDFS写数据流程4.2 HDFS读数据流程5 NameNode和Second NameNode的工作机制5.
转载
2024-02-25 07:52:39
186阅读
分块：Block HDFS存储系统中，引入了文件系统的分块概念（block），块是存储的最小单位，HDFS定义其大小为64MB。与单磁盘文件系统相似，存储在 HDFS上的文件均存储为多个块，不同的是，如果某文件大小没有到达64MB，该文件也不会占据整个块空间。在分布式的HDFS集群上，Hadoop系统保证一个块存储在一个datanode上。 把File划分成Block，这个是物理上真真实实的进
转载
2024-05-02 22:41:42
54阅读
