1.分布式文件系统理解 使用低配置电脑配置成集群，存储管理单台电脑不能处理的大型文件。 直观理解三个臭皮匠，顶个诸葛亮。 很多磁盘加一起就可以装超多电影。 类似于你出5毛，我出5毛，我们一起凑一块。2.hdfs优缺点 优点： a.高容错性：数据自动保存多个副本；通过增加副本的形式，提高容错性。一个副本丢失以后，它可以自动恢复。 b.适合处理大数据：数据规模达到GB、T
转载
2023-07-12 13:28:34
291阅读
1.纠删码HDFS默认情况下，一个文件存在多个副本，这样提高了数据的可靠性，但是也占用了更多的存储空间。所以，在Hadoop3.x中引入了纠删码，采用计算的方式，牺牲一部分算力，节约大量的存储空间。* 纠删码相关操作命令使用命令 hdfs ec 查看纠删码相关的操作命令[admin@hadoop102 ~]$ hdfs ec
Usage: bin/hdfs ec [COMMAND]
转载
2023-07-12 14:54:48
365阅读
在企业中非常关心每天从 Java 后台拉取过来的数据，需要多久能上传到集群？消费者关心多久能从 HDFS 上拉取需要的数据？ 为了搞清楚 HDFS 的读写性能，生产环境上非常需要对集群进行压测。HDFS的读写
转载
2023-08-18 20:19:40
157阅读
HadoopHadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS。HDFS有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有着超大数据集（large data set）的应用程序。HDFS放宽了（relax）POSIX的要求，可以以流
转载
2024-04-03 21:34:27
258阅读
一些测试的描述如下内容最为详细，供你参考：测试对于验证系统的正确性、分析系统的性能来说非常重要，但往往容易被我们所忽视。为了能对系统有更全面的了解、能找到系统的瓶颈所在、能对系统性能做更好的改进，打算先从测试入手，学习Hadoop几种主要的测试手段。本文将分成两部分：第一部分记录如何使用Hadoop自带的测试工具进行测试；第二部分记录Intel开放的Hadoop Benchmark Suit: H
转载
2024-03-18 19:38:04
214阅读
Hadoop 生态是一个庞大的、功能齐全的生态，但是围绕的还是名为 Hadoop 的分布式系统基础架构，其核心组件由四个部分组成，分别是：Common、HDFS、MapReduce 以及 YARN。
Common 是 Hadoop 架构的通用组件；
HDFS 是 Hadoop 的分布式文件存储系统；
MapReduce 是Hadoop 提供的一种编程模型，可用于大规模数据集的并行运算；
YARN
转载
2023-09-13 11:24:12
108阅读
HDFS API详解org.apache.hadoop.fs"包中，这些API能够支持的操作包含：打开文件，读写文件，删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem，该类是个抽象类，只能通过来类的get方法得到具体类。get方法存在几个重载版本，常用的是这个： static FileSystem get(Configuration conf);
转载
2023-07-23 23:39:36
112阅读
Hadoop的配置详解 大家经过搭建单节点、伪分布、完全分布模式的集群环境，基本上会用到以下几个配置，core-site.xm/hdfs-site.xml/mapred-site.xml. 相信大家已经使用了其中的一些参数，下面我们来详细介绍一下各个配置中的参数，介绍的参数是大家可能用到的，当然还有很多没介绍到(学习hadoop不久,如果哪里错了，请
转载
2023-09-13 11:25:32
145阅读
最近刚好又重新了解了一下hdfs的一些内容，想通过这篇内容总结和记录一下。Hadoop分布式文件系统HDFS配置及示例运行。 作者使用的是hadoop3.2.1的版本，以下示例都是以hadoop-3.2.1为基础目录进行介绍。1、文件配置首先，进入hadoop配置目录: ./etc/hadoop$ cd etc/hadoop/(1) 配置core-site.xml文件vi 进入编辑模式$ vi c
转载
2023-07-23 17:16:21
241阅读
HDFS Java API 位于 org.apache.hadoop.fs 包中，这些API能够支持的操作包括打开文件、读写文件、删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem。该类是一个抽象类，只能通过get方法获取到具体的类。该类封装了大部分文件操作，如mkdir、delete等。 <!--指定maven项目jdk编译版本，默认是jdk1.5--&
转载
2023-08-18 19:31:40
78阅读
目录1：创建目录2、查看文件，ls 没有cd命令， 需要指定绝对路径3：上传文件 put（要先把数据上传到linux本地然后再上传）4：下载文件 get5:复制 cp6：查看文件内容 cat , 如果数据量比较大，不能使用7：移动 mv, 物理层面文件没有移动，只是改变了元数据（目录结构）8：删除文件或者目录 rmr9：查看文件末尾 tail -f ; 一直等待查看10、查看文件的大小11：查看日
转载
2023-08-18 20:45:55
176阅读
文章目录Hadoop三大组件之HDFS入门HDFS概述HDFS的shell操作(开发重点)基础语法部分常用命令实操上传下载HDFS的直接操作 Hadoop三大组件之HDFS入门众所周知，Hadoop有三大组件，HDFS、MapReduce、YARN。我的专栏是说大数据，那么数据总得需要存储吧，那么我们今天一起来看看这神秘的大数据有着怎样的身体，能够吸引这广大的学子来”看她“。HDFS概述存在即合
转载
2023-07-14 20:17:28
95阅读
这篇博客是笔者在CSDN里的第一篇博客，旨在希望在这个圈子能够得到更多的交流、更快的成长。 这篇博客就讲些比较基础的内容——常用HDFS的API操作。因为所有的API比较多，所以笔者便从中摘选出11个比较常用的API,希望能给读者一些帮助。因为Hadoop中关于文件操作类基本上都在“org.apache.hadoop.fs”包中，这些API的主要作用主要体现在以下操作上：打开文件、读写文件、删除文
转载
2023-09-01 08:28:43
85阅读
HDFS Java API 可以用于任何Java程序与HDFS交互，该API使我们能够从其他Java程序中利用到存储在HDFS中的数据，也能够使用其他非Hadoop的计算框架处理该数据
为了以编程方式与HDFS进行交互，首先需要得到当前配置文件系统的句柄，实例化一个Configuration对象，并获得一个Hadoop环境中的FileSystem句柄，它将指向当前环境的HDFS NameNode
转载
2023-09-01 08:26:09
73阅读
注：演示纠删码和异构存储需要一共 5 台虚拟机。提前准备 5 台服务器的集群。纠删码纠删码原理HDFS 默认情况下，一个文件有 3 个副本，这样提高了数据的可靠性，但也带来了 2 倍的冗余开销。Hadoop3.x 引入了纠删码，采用计算的方式，可以节省约 50％左右的存储空间。1 ）纠删码操作相关的命令hdfs ec 2 ）查看当前支持的纠删码策略hdfs ec -listPolicie
转载
2023-10-20 19:24:42
101阅读
目录1. HDFS表引擎1.1 准备工作1.2 HDFS表负责读写1.3 HDFS表负责读, 不负责写2. MySQL表引擎2.1 表引擎的基本操作2.2 表引擎配合物化视图3. JDBC表引擎4. Kafka表引擎4.1 准备Kafka测试数据4.2 Kafka表引擎操作(第二次select查询不到数据)4.3 Kafka表引擎配合物化视图(多次select查询到数据)4.4 kafka表引擎
转载
2023-10-20 13:58:42
160阅读
hdfs是一个结构分明的存储结构，由三个部分组成，首先是存储数据的dataname，这个是存储大量数据的地方， 其次是namenode，这个类似于每本书开篇的索引目录，所有的内容都被罗列在内，这样便于查询， 第三个部分是用来备份部分内容的，在数据丢失的时候会起到一定的作用。 ...
转载
2021-09-06 16:16:00
177阅读
2评论
一：简介Hadoop是一个用Java开发的开源框架，它允许使用简单的编程模型在跨计算机集群的分布式环境中存储和处理大数据。它的设计是从单个服务器扩展到数千个机器，每个都提供本地计算和存储。特别适合写一次，读多次的场景。Hadoop一般用于对大量数据执行完整统计分析的应用程序。二：Hadoop架构HDFS：分布式文件系统 Hadoop Distributed File SystemYA...
原创
2023-05-16 00:48:32
157阅读
第三部分：Hadoop使用和Hbase使用一、实验目的和要求理解Hadoop和Hbase的工作原理，安装部署HBase，掌握HDFS文件系统和Hbase的操作命令。二、实验内容和原理Hadoop文件系统: HDFS，是Hadoop Distributed File System的简称，是Hadoop抽象文件系统的一种实现。Hadoop抽象文件系统可以与本地系统、Amazon S3等集成，甚至可以通
转载
2024-03-13 12:38:56
124阅读
一、新课讲解由于Hadoop是使用Java语言编写的，因此可以使用Java API操作Hadoop文件系统。HDFS Shell本质上就是对Java API的应用，通过编程的形式操作HDFS，其核心是使用HDFS提供的Java API构造一个访问客户端对象，然后通过客户端对象对HDFS上的文件进行操作（增、删、改、查）。 （一）了解 HDFS API1.HDFS常见类与接口Hadoop
转载
2023-09-06 10:34:18
91阅读
