通过前面对HDFS基本概念、高可用性、数据读写流程的介绍，我们对HDFS已经有了大致的了解。这里我们还需要明确一点：Hadoop作为一个完整的分布式系统，它有一个抽象的文件系统的概念，而我们介绍的HDFS只是其中的一个实现，一个最常用的实现，实际上还有很多其他的分布式文件系统。 Hadoop对文件系统提供了很多接口，一般使用URI（统一资源定位符）来表示选取的文件系统具体是哪一个，比如file
转载
2024-05-13 09:05:31
30阅读
目录1.Windows下安装hadoop和jdk1.1 Windows下安装jdk1.2 Windows下安装hadoop2. Maven2.1 Maven简介2.2 Maven安装与配置2.3 通过pom文件下载hadoop的客户端依赖3.API之文件操作 3.1 API之文件系统对象3.3 API之文件下载 3.4 API
转载
2024-04-06 09:30:11
34阅读
1、HDFS的写流程客户端通过Distributed FileSystem模块向NameNode请求上传文件，NameNode检查目标文件是否已存在，父目录是否存在。NameNode返回是否可以上传。客户端请求第一个 Block上传到哪几个DataNode服务器上。NameNode返回3个DataNode节点，分别为dn1、dn2、dn3。客户端通过FSDataOutputStream模块请求dn
转载
2024-04-30 10:48:49
43阅读
hdfs有很多命令，比如说hdfs dfs -ls，hdfs dfs -put， hdfs dfs -mkdir，hdfs dfs -cat，hdfs dfs -rm等等，一般操作hdfs都是通过hdfs的命令行进行操作。其实这些命令行的底层都是通过java代码来支撑的，再比如启动和关闭hdfs都是通过脚本来启动，这些脚本底层肯定都是通过代码来支撑的。 举例：有时候需要把本地文件上传到hdfs，直
转载
2024-03-19 16:35:52
16阅读
HDFSHDFS提供一套Java API来操作HDFS，包括文件的建立、修改、删除、权限管理等，下面对几个常用的API进行介绍，详细的API接口请参见API文档，可以在${HADOOP_HOME}/share/doc/api/index.html中找到。IOUtils类Hadoop IO的基础类，提供一组静态方法来控制HadoopIO。通过IOUtils类，可以使用java.net.URL类来访问
转载
2024-04-25 07:39:11
16阅读
目录利用Shell命令与HDFS进行交互目录操作文件操作利用Web界面管理HDFS利用Java API与HDFS进行交互安装Eclipse使用Eclipse开发调试HDFS Java程序在Eclipse中创建项目为项目添加需要用到的JAR包编写Java应用程序编译运行程序应用程序的部署 利用Shell命令与HDFS进行交互启动Hadoop：$ cd /usr/local/hadoop
$ ./s
转载
2024-03-27 13:50:01
111阅读
我们通过与命令行与HDFS交互来了解它。HDFS还有许多其它接口，但是对开发者来说，命令行是最简单的，也是最熟悉的。 我们将在一台机器上运行HDFS，所以首先根据附录A来搭建HADOOP伪分布式模式。以后我
转载
2024-04-25 09:36:31
23阅读
命令基本格式:hadoop fs -cmd < args >lshadoop fs -ls /列出hdfs文件系统根目录下的目录和文件hadoop fs -ls -R /列出hdfs文件系统所有的目录和文件puthadoop fs -put < local file > < hdfs file >hdfs file的父目录一定要存在，否则命令不会执行hadoop
转载
2024-02-21 08:02:55
18阅读
hadoop是用Java语言实现的开源软件框架，可以支持多种语言，我学习的时候用得自然就是Java了。 在开始编程之前需要做一些配置工作： Hadoop开发：Hadoop为HDFS和Mapreduce提供了基础的支持，叫hadoop common。Hadoop有一个专门的common jar包，需要
转载
2019-01-03 16:10:00
61阅读
2评论
JMX_Expoter监控因为目前CDH以及HDP后续要合并闭源，公司打算花时间自研一个类似的平台，我也对集群监控这块下了点功夫。监控 对于一个集群管理平台，首当其冲的就是其中的监控如何实现，毕竟很多时候我们打开它只是因为邮箱里收到了报警:-)，那么我们应该如何获取Hadoop等集群的信息呢？这时候需要简单了解一个知识点了：JMX。 我们简单介绍一下Java的JMX是什么，JMX全程叫做Java
转载
2024-01-15 03:12:10
73阅读
上次学习的是HDFS基于Shell命令行的模式.HDFS JAVA APIHDFS支持JVA的接口，利用JAVA API 中的库来读写HDFS中的文件例子: 使用HadoopURL读取数据 1. java.net.URL打开一个数据输入流inputStream in = null;
try {
in = new URL( "hdfs:namenode/path" ).openStream();
转载
2024-04-06 11:28:42
39阅读
承接上文Hdfs客户端读过程；接着来分析一下hdfs客户端写入文件的过程；说道到写文件过程，都会知道写入文件的过程如下示意图：客户端写过程示意图：总体来说，最简单的HDFS写文件大体流程如下：客户端获取文件系统实例FileSyStem，并通过其create()方法获取文件系统输出流outputStream。
首先会联系名字节点NameNo
转载
2024-04-26 12:51:58
62阅读
HDFS API操作实验环境Linux Ubuntu 16.04 前提条件： 1）Java 运行环境部署完成 2）Hadoop 的单点部署完成 上述前提条件，我们已经为你准备就绪了。实验内容在上述前提条件下，学习使用HDFS Java API编程实验。实验步骤1.点击桌面的"命令行终端"，打开新的命令行窗口2.启动HDFS启动HDFS，在命令行窗口输入下面的命令：/apps/hadoop/sbin
转载
2024-05-22 11:01:12
15阅读
通过HTTP来访问HDFS有两种方法：直接访问，HDFS后台进程直接服务于来自客户端的请求；通过代理(一对多)访问，客户端通常使用DistributedFileSystemAPI访问HDFS。第一种情况，由namenode内嵌的web服务器（运行在50070端口上）提供目录服务，目录列表以XML或者
原创
2022-06-10 20:00:37
252阅读
转载
2019-07-15 12:43:00
75阅读
2评论
一、概述 近年来，大数据技术如火如荼，怎样存储海量数据也成了当今的热点和难点问题，而HDFS分布式文件系统作为Hadoop项目的分布式存储基础，也为HBASE提供数据持久化功能，它在大数据项目中有很广泛的应用。 Hadoop分布式文件系统(Hadoop Distributed File System。HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统
通过HTTP来访问HDFS有两种方法：直接访问，HDFS后台进程直接服务于来自客户端的请求；通过代理(一对多)访问，客户端通常使用DistributedFileSystemAPI访问HDFS。第一种情况，由namenode内嵌的web服务器（运行在50070端口上）提供目录服务，目录列表以XML或者
原创
2022-06-10 20:00:37
158阅读
HDFS1.HDFS 概述1.1 HDFS 产出背景及定义1.1.1 HDFS 产生背景1.1.2 HDFS 定义1.2 HDFS 优缺点1.2.1 优点1.2.2 缺点1.3 HDFS 组成架构1.4 HDFS文件块大小2.HDFS的Shell操作（开发重点）2.1 基本语法2.2 命令大全2.3 常用命令实操2.3.1 准备工作2.3.2 上传2.3.3 下载2.3.4 HDFS 直接操作3
转载
2023-10-16 12:54:51
54阅读
一、HDFS命令行操作1、基本语法[root@hadoop102 hadoop-2.7.2]# bin/hadoop fs 具体命令2、常用命令实操 （1）-help：输出这个命令参数[root@hadoop102 hadoop-2.7.2]# bin/hdfs dfs -help rm（2）-ls: 显示目录信息[root@hadoop102 hadoop-2.7.2]# hadoop fs -
转载
2023-10-18 19:29:59
62阅读
HDFS API的高级编程HDFS的API就两个：FileSystem 和Configuration1、文件的上传和下载1 package com.ghgj.hdfs.api;
2
3 import org.apache.hadoop.conf.Configuration;
4 import org.apache.hadoop.fs.FileSystem;
5 import org.ap
转载
2023-07-11 18:47:41
203阅读
