Linux磁盘管理常常使用到的三个命令是df、du和fdiskdf （全称：disk full）：列出文件系统的整体磁盘使用量du（全称：disk used）：检查磁盘空间使用量fdisk：用于磁盘分区 df [-ahikHTm][目录或文件名]-a ：列出所有的文件系统
-k ：以KB的容量单位显示文件系统
-m：以MB的容量显示各文件系统
-h：以人们较易阅读的GB，MB，KB
转载
2024-04-23 15:42:51
1212阅读
HDFS写入文件的重要概念HDFS一个文件由多个block构成。HDFS在进行block读写的时候是以packet(默认每个packet为64K)为单位进行的。每一个packet由若干个chunk（默认512Byte）组成。Chunk是进行数据校验的基本单位，对每一个chunk生成一个校验和(默认4Byte)并将校验和进行存储。在写入一个block的时候，数据传输的基本单位是packet，每个pa
转载
2024-08-14 10:42:22
81阅读
一、介绍：HDFS （Hadoop Distributed File System）是 Hadoop 下的分布式文件系统，具有高容错、高吞吐量等特性，可以部署在低成本的硬件上。 二、HDFS设计原理 2.1 HDFS架构 HDFS 遵循主/从架构，由单个 NameNode(NN) 和多个 DataN
转载
2023-08-08 09:19:22
247阅读
1. df的介绍和使用df 以磁盘分区为单位查看文件系统，可以获取硬盘被占用了多少空间，目前还剩下多少空间等信息。例如，我们使用df -h命令来查看磁盘信息， -h 选项为根据大小适当显示：1.1显示内容参数说明Filesystem：文件系统Size： 分区大小Used： 已使用容量Avail： 还可以使用的容量Use%： 已用百分比Mounted on： 挂载点1.2常用的一些命令使用df -h
转载
2024-03-26 08:24:46
72阅读
# 如何使用“hadoop hdfs du”命令来查看HDFS文件系统的使用情况
## 简介
在学习和使用Hadoop分布式文件系统（HDFS）时，了解如何查看文件系统的使用情况是很重要的。其中一个常用的命令是“hadoop hdfs du”，它可以帮助我们查看HDFS文件系统中每个目录的大小。本文将向您展示如何使用这个命令，并提供详细的步骤和示例代码。
## 流程概述
下面是使用“hadoo
原创
2024-01-28 10:04:24
138阅读
一、Hadoop分布式文件系统 当数据集超过一个单独的物理计算机的存储能力时，便有必要将它分布到多个独立的计算机。Hadoop有一个被称为HDFS的分布式文件系统，全称为 Hadoop Distributed File System 。（有时可能简称为DFS，在非正式情况或者文档配置中，其实是一样的）二、HDFS的设计HDFS是为以流式数据访问模式存储超大文件而设计的文件系统，在商用硬件的集群上
转载
2024-03-11 14:01:57
29阅读
1、HDFS基本概念什么是HDFSHDFS是Hadoop Distribute File System的简称， 是Hadoop分布式文件系统， 是Hadoop核心组件之一， 作为最底层的分布式存储服务而存在。分布式文件系统解决的问题是大数据存储，它们是横跨在多台计算机上的存储。框架图HDFS设计目标1）硬件故障是常态。HDFS将有成百上千的服务器组成，每一个组成部分都有可能出现故障， 因此故障的检
转载
2024-03-25 16:23:58
36阅读
HDFS产生的背景和定义1.1 背景 随着数据量的增大，在一个操作系统中存不下所有的数据，那么久分配到更多的操作系统管理的磁盘中，但不方便管理和维护，迫切需要一种系统来管理多台机器上面的文件，这是分布式文件管理系统，hdfs只是分布式文件管理系统中一种；1.2 定义 HDFS（Hadoop Distrubuted File System）,它是一个文件系统，用于存储文件，通过目录树来定位文件，其次
转载
2024-04-02 19:44:40
52阅读
HDFS是HADOOP中的核心技术之一——分布式文件存储系统。Hadoop的作者Doug Cutting 和Mike 是根据Google发布关于GFS 的研究报告所设计出的分布式文件存储系统。一、HDFS设计的前提或者假设有6个：硬件错误是常态而不是异常。对于普通的每台机器来说，出现故障可能并是是常事，但HDFS可能由成千上万的机器组成，在这中情况下发生硬件错误就变成非常正常的事情。为了能够正
转载
2024-03-27 06:20:48
27阅读
大数据学习之hdfs学习笔记一、hdfs架构的简述a.什么是hdfsHadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS，是分布式计算中数据存储管理的基础，是基于流数据模式访问和处理超大文件的需求而开发的，可以运行于廉价的商用服务器。对外部客户机而言，HDFS 就像一个传统的分级文件系统。可以创建、删除、移动或重命名文件，等等。很多时候
转载
2024-03-25 17:56:22
64阅读
新增将磁盘挂载到指定的目录下1.为新磁盘创建分区 fdisk -l 2. 指定磁盘创建分区 fdisk /dev/vdb
Command (m for help): n(n表示创建分区) Partition type:(表示磁盘有两种分区类型： “p”表示主分区。 “e”表示扩展分区。) (磁盘使用MBR分区形式，最多可以创建4个主分区，或者3个主分区加1个扩展分区，扩展分区不可以直接使用，需要
转载
2024-03-30 12:53:16
61阅读
作为目前字节跳动内部存储量及集群规模最大的分布式存储系统，HDFS 一直伴随着字节跳动关键业务的飞速扩张而快速发展。本文从 HDFS 发展历程入手，介绍发展路径上的重大挑战及解决方案。背景HDFS 简介HDFS 全名 Hadoop Distributed File System，是业界使用最广泛的开源分布式文件系统。原理和架构与 Google 的 GFS 基本一致。它的特点主要有以下几项：和本地文
转载
2024-05-09 20:06:28
55阅读
一 原理阐述1' DFS 分布式文件系统（即DFS，Distributed File System），指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连。该系统架构于网络之上，势必会引入网络编程的复杂性，因此分布式文件系统比普通磁盘文件系统更为复杂。2' HDFS HDFS（Hadoop Distributed File System）为大数据平
转载
2024-03-26 05:42:57
22阅读
好奇分布式存储是怎么实现的，如何能将一个文件存储到HDFS上，HDFS的文件目录只是一个空壳，真正存储数据的是DataNode，那么当我们把一个文件放到HDFS上的时候，集群都做了哪些工作呢 ?也就是执行命令copyFromLocal这个命令都做了哪些操作首先命令肯定对应着源码里面的某一个方法，这个方法是FsShell类的copyFromLocal，代码：void copyFromLocal(Pa
转载
2024-02-23 18:00:32
105阅读
一、操作 HDFS 上的文件有两个命令可以用hdfs dfs：只能操作 HDFS 上的文件Usage: hdfs [--config confdir] [--loglevel loglevel] COMMAND
where COMMAND is one of:
dfs run a filesystem command on the file sy
转载
2024-03-23 16:44:55
80阅读
当磁盘大小超过标准时会有报警提示，这时如果掌握df和du命令是非常明智的选择。 df可以查看一级文件夹大小、使用比例、档案系统及其挂入点，但对文件却无能为力。 du可以查看文件及文件夹的大小。 两者配合使用，非常有效。比如用df查看哪个一级目录过大，然后用df查看文件夹或文件的大小，如此便可迅速确定症结。 下面分别简要介绍 df命令可以显示目前所有文件系统的可用空间及使用情形，请看下列这个例子：[
之前在CDH上安装好了服务HDFS，这里观察一下HDFS包括数据持久化和文件读写在内的一些工作流程。目录1. 数据持久化观察 2. HDFS文件读写观察2.1 新建文件目录 2.2 上传文件2.3 下载文件 1. 数据持久化观察 进入HaDoop页面观察其启动
转载
2024-08-16 19:15:58
131阅读
hdfs client分析：hdfs dfs -ls这一篇重点分析了hdfs client的整体执行流程，但是没有详细介绍命令调用和返回的过程，这篇通过mkdir命令来做个补充。命令：hdfs dfs -mkdir代码分析直接从Command类的run方法开始：public int run(String...argv) {
LinkedList<String> args =
转载
2024-04-05 08:30:40
68阅读
介绍：HDFS （Hadoop Distributed File System）是 Hadoop 下的分布式文件系统，具有高容错、高吞吐量等特性，可以部署在低成本的硬件上。 HDFS 设计原理HDFS 架构HDFS 遵循主/从架构，由单个 NameNode(NN) 和多个 DataNode(DN) 组成：NameNode : 负责执行有关 文件系统命名空间 的操作，例如打开，关闭、重命名
转载
2024-02-10 16:48:30
43阅读
用法-mkdir 创建目录 Usage：hdfs dfs -mkdir [-p] < paths> 选项：-p 很像Unix mkdir -p，沿路径创建父目录。-ls 查看目录下内容，包括文件名，权限，所有者，大小和修改时间 Usage：hdfs dfs -ls [-R] < args> 选项：-R 递归地显示子目录下的内容-put 将本地文件或目录上传到HDFS中的路径
转载
2024-02-16 11:44:29
503阅读
