集群与分布式集群集群是由多个完成相同功能的服务器节点组成的集合集群中每个服务器节点处理相同的任务或存储相同的数据集群的关键特性是可扩展性和高可用性（支持负载均衡、错误恢复）分布式分布式是将一个系统拆分为多个不同的子系统，每个子系统运行在一个服务器节点上，最终共同完成系统的功能分布式中每个服务器节点处理不同的任务或存储不同的数据分布式的关键特性是高性能和高可靠性分布式软件系统上运行的单个服务器节点可
转载
2023-07-12 13:29:20
141阅读
HDFS联邦HDFS HAHDFS快照回顾: HDFS两层模型Namespace: 包括目录, 文件和块. 它支持所有命名空间相关的文件操作, 如创建, 删除, 修改, 查看所有文件和目录Block Storage Service (块存储服务) 包括两部分1. 在namenode中的块的管理提供datanode集群的注册, 心跳检测等功能.处理块的
原创
2014-11-25 22:23:18
1112阅读
1 集群间数据拷贝
2 小文件存档
3 回收站
4 快照管理
1 集群间数据拷贝．scp实现两个远程主机之间的文件复制 scp -r hello.txt root@hadoop103:/user/atguigu/hello.txt // 推 scp -r root@hadoop103:/user/atguigu/hello.txt hel
转载
2024-05-19 06:17:16
17阅读
1.HDFS（ 存储功能）特点： 大规模数据集（支持节点扩展）简单一致性模型（一次写入多次读取）流式数据访问（对数据进行批量处理，而不是用户交互处理）硬件错误（有很强的容错能力）权限问题（写入者就是拥有者）。安全性，不是很高。2.HDFS组成：namenode datanode 以及secondarynamenode，edits，fsimage等 namenode（管理者）
：存
转载
2024-07-26 11:18:15
120阅读
HDFS API详解org.apache.hadoop.fs"包中，这些API能够支持的操作包含：打开文件，读写文件，删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem，该类是个抽象类，只能通过来类的get方法得到具体类。get方法存在几个重载版本，常用的是这个： static FileSystem get(Configuration conf);
转载
2023-07-23 23:39:36
112阅读
Hadoop的配置详解 大家经过搭建单节点、伪分布、完全分布模式的集群环境，基本上会用到以下几个配置，core-site.xm/hdfs-site.xml/mapred-site.xml. 相信大家已经使用了其中的一些参数，下面我们来详细介绍一下各个配置中的参数，介绍的参数是大家可能用到的，当然还有很多没介绍到(学习hadoop不久,如果哪里错了，请
转载
2023-09-13 11:25:32
145阅读
Hadoop 生态是一个庞大的、功能齐全的生态，但是围绕的还是名为 Hadoop 的分布式系统基础架构，其核心组件由四个部分组成，分别是：Common、HDFS、MapReduce 以及 YARN。
Common 是 Hadoop 架构的通用组件；
HDFS 是 Hadoop 的分布式文件存储系统；
MapReduce 是Hadoop 提供的一种编程模型，可用于大规模数据集的并行运算；
YARN
转载
2023-09-13 11:24:12
108阅读
HDFS Java API 可以用于任何Java程序与HDFS交互，该API使我们能够从其他Java程序中利用到存储在HDFS中的数据，也能够使用其他非Hadoop的计算框架处理该数据
为了以编程方式与HDFS进行交互，首先需要得到当前配置文件系统的句柄，实例化一个Configuration对象，并获得一个Hadoop环境中的FileSystem句柄，它将指向当前环境的HDFS NameNode
转载
2023-09-01 08:26:09
73阅读
这篇博客是笔者在CSDN里的第一篇博客，旨在希望在这个圈子能够得到更多的交流、更快的成长。 这篇博客就讲些比较基础的内容——常用HDFS的API操作。因为所有的API比较多，所以笔者便从中摘选出11个比较常用的API,希望能给读者一些帮助。因为Hadoop中关于文件操作类基本上都在“org.apache.hadoop.fs”包中，这些API的主要作用主要体现在以下操作上：打开文件、读写文件、删除文
转载
2023-09-01 08:28:43
85阅读
最近刚好又重新了解了一下hdfs的一些内容，想通过这篇内容总结和记录一下。Hadoop分布式文件系统HDFS配置及示例运行。 作者使用的是hadoop3.2.1的版本，以下示例都是以hadoop-3.2.1为基础目录进行介绍。1、文件配置首先，进入hadoop配置目录: ./etc/hadoop$ cd etc/hadoop/(1) 配置core-site.xml文件vi 进入编辑模式$ vi c
转载
2023-07-23 17:16:21
239阅读
HDFS Java API 位于 org.apache.hadoop.fs 包中，这些API能够支持的操作包括打开文件、读写文件、删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem。该类是一个抽象类，只能通过get方法获取到具体的类。该类封装了大部分文件操作，如mkdir、delete等。 <!--指定maven项目jdk编译版本，默认是jdk1.5--&
转载
2023-08-18 19:31:40
78阅读
文章目录Hadoop三大组件之HDFS入门HDFS概述HDFS的shell操作(开发重点)基础语法部分常用命令实操上传下载HDFS的直接操作 Hadoop三大组件之HDFS入门众所周知，Hadoop有三大组件，HDFS、MapReduce、YARN。我的专栏是说大数据，那么数据总得需要存储吧，那么我们今天一起来看看这神秘的大数据有着怎样的身体，能够吸引这广大的学子来”看她“。HDFS概述存在即合
转载
2023-07-14 20:17:28
93阅读
目录1：创建目录2、查看文件，ls 没有cd命令， 需要指定绝对路径3：上传文件 put（要先把数据上传到linux本地然后再上传）4：下载文件 get5:复制 cp6：查看文件内容 cat , 如果数据量比较大，不能使用7：移动 mv, 物理层面文件没有移动，只是改变了元数据（目录结构）8：删除文件或者目录 rmr9：查看文件末尾 tail -f ; 一直等待查看10、查看文件的大小11：查看日
转载
2023-08-18 20:45:55
176阅读
原文地址：http://www.uml.org.cn/sjjm/201309044.asp本文主要讲述 HDFS原理-架构、副本机制、HDFS负载均衡、机架感知、健壮性、文件删除恢复机制1：当前HDFS架构详尽分析HDFS架构1、NameNode2、DataNode3、Sencondary NameNode数据存储细节NameNode 目录结构Namenode 的目录结构：${ dfs.name.
1hdfs:Hadoop就有一个称为HDFS的分布式文件系统，全称为Hadoop Distributed File System。HDFS是Hadoop项目的核心子项目，是分布式计算中数据存储管理的基础，是基于流数据模式访问和处理超大文件的需求而开发的，可以运行于廉价的商用服务器上。它所具有的高容错、高可靠性、高可扩展性、高获得性、高吞吐率等特征为海量数据提供了不怕故障的存储，为超大数据集（Lar
转载
2023-10-06 21:56:58
117阅读
一、新课讲解由于Hadoop是使用Java语言编写的，因此可以使用Java API操作Hadoop文件系统。HDFS Shell本质上就是对Java API的应用，通过编程的形式操作HDFS，其核心是使用HDFS提供的Java API构造一个访问客户端对象，然后通过客户端对象对HDFS上的文件进行操作（增、删、改、查）。 （一）了解 HDFS API1.HDFS常见类与接口Hadoop
转载
2023-09-06 10:34:18
91阅读
第三部分：Hadoop使用和Hbase使用一、实验目的和要求理解Hadoop和Hbase的工作原理，安装部署HBase，掌握HDFS文件系统和Hbase的操作命令。二、实验内容和原理Hadoop文件系统: HDFS，是Hadoop Distributed File System的简称，是Hadoop抽象文件系统的一种实现。Hadoop抽象文件系统可以与本地系统、Amazon S3等集成，甚至可以通
转载
2024-03-13 12:38:56
124阅读
Hadoop-HDFS基础原理与操作
1、概述 HDFS是Hadoop分布式文件系统，用来分布式存储海量数据，并具有高可靠、高性能、可伸缩的能力。 HDFS屏蔽了分布式存储的细节，提供了标准的访问方式，能够以类似访问本地文件系统的方式访问HDFS中的文件。 如下是
转载
2023-10-07 19:46:54
75阅读
一、HDFS 简介1.HDFS的设计思想及作用HDFS 是 hadoop 的分布式文件存储系统，它的设计思想为分而治之，就是说将大文件、大批量文件、分布式存放在大量服务器上，以便于采取分而治之的方式对海量数据进行运算分析。在大数据系统中主要为各类分布式的运算框架（如：mapreduce、spark等）提供数据存储服务。2.HDFS的概念及特性首先，它是一个文件系统，用于存储文件，通过统一的命名空间
转载
2023-08-16 17:32:19
97阅读
Hadoop、HDFSHadoop介绍Hadoop 狭义上是指软件，广义上Hadoop指生态圈Hadoop之父Doug CuttingHadoop核心组件Hadoop HDFS（分布式文件存储系统）：解决海量数据存储；处于生态圈的低层和核心地位Hadoop YARN（集群资源管理和任务调度框架）：解决资源任务调度，支撑各种计算引擎运行，保证了Hadoop地位Hadoop MapReduce(分布式
转载
2023-08-18 19:26:33
81阅读
