hadoop三大核心：HDFS、YARN、MapReducehadoop四大模块： Common、HDFS、YARN、MapReduceHadoop Common：为其它Hadoop模块提供基础设施Hadoop Distributed File System (HDFS)：一个高可靠、高吞吐量的分布式文件系统；来源于google的GFS分布式文件系统。 易于扩展的分布式文件系统运行在
转载
2023-07-06 18:37:01
131阅读
Hadoop、Hive、Spark 之间的关系5G 时代，运营商网络不断提速，成本越来越低，流量越来越便宜。 给 互联网、物联网、互联网+ 各个行业的高速发展创造了非常好的有利条件，同时也产生了海量数据。 如何做好数据分析，计算，提取有价值信息，大数据技术一直是一个热门赛道 今天我们就对 Hadoop、Hive、Spark 做下分析对比 Hadoop Hadoop 称为大数据技术的基石。 由两部分
转载
2023-10-25 12:46:16
55阅读
目录准备工作HDFS API的使用org.apache.hadoop.fs.FileSystemorg.apache.hadoop.fs.Pathorg.apache.hadoop.fs.FsStatusorg.apache.hadoop.fs.FileStatusorg.apache.hadoop.fs.FSDataInputStreamorg.apache.hadoop.fs.FSDataOu
一、了解HBase1.1 HBase概述HBase 是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，用于存储海量的结构化或者半结构化，非结构化的数据HBase是Hadoop的生态系统之一，是建立在Hadoop文件系统（HDFS）之上的分布式、面向列的数据库，通过利用Hadoop的文件系统提供容错能力。如果需要进行实时读写或者随机访问大规模的数据集的时候，会考虑使用HBase。1.2 HBa
转载
2023-07-13 14:28:48
440阅读
学习一个新技术，个人觉得先总体把握其架构思想，再进行实践，实践中体会反思，效果较好。现在继续上篇hadoop的安装和配置，来学习hadoop的架构和设计。先声明这是转过来的一篇比较老的博文，略加简化，便于复习。1. hadoophadoop是一分布式计算开源框架，最核心的是：MapReduce和HDFS。MapReduce是一编程模型，用于大数据量的并行计算。字面意义：分解/汇总。HDFS是分布式
转载
2023-07-21 14:39:02
89阅读
答：HDFS是Hadoop分布式文件系统，它和对象存储都可以实现非结构化数据的存储，也都具有冗余保护机制。也都具有分布式架构。但是还是有一些区别的。1、对象存储可以具有多租户的架构，而HDFS没有多租户架构这个概念。2、HDFS主节点不可靠。HDFS使用了中央系统来维护文件元数据(Namenode，名称节点)。HDFS具有一个主节点和一系列从节点。从节点处理数据并将结果发送给主节点。主节点还需要维
转载
2023-09-20 07:02:00
101阅读
我们了解了数据仓库的基础知识，大概对数据仓库有了一个基本认识。接下来，我们来更进一步的了解数据仓库。就像我们学习数据库时学习mysql一样，我们学习学习数据仓库的HIVE.HIVE了解hive之前，我们其实需要学习下hadoop。不然你不知道hive是干啥的。HadoopHadoop实现了一个分布式文件系统,其中一个组件是HDFS(hadoop Distributed File System).
转载
2023-07-13 16:56:36
163阅读
环境：ubuntu14.04下面以３台机器为例，讲解安装过程1) 准备3台机器，一台作为nameNode，命名为master，两台作为dataNode，命名为slave01, slave02。强调命名是为了方便管理，其实命名无所谓。如果已命名为其它名称，可通过编辑/etc/hostname进行更改。2) 为所有主从节点配置静态ip，因为主从节点间需要相互访问，如果ip
转载
2024-07-23 10:24:03
21阅读
# Hadoop与HDFS的关系
## 简介
Hadoop是一个开源的分布式计算框架，用于存储和处理大规模数据集。Hadoop的核心组件之一是Hadoop分布式文件系统（HDFS），它是一个可靠的、容错的分布式文件系统，用于在Hadoop集群中存储数据。
本文将介绍Hadoop与HDFS的关系，以及实现这一关系的步骤和相应的代码。
## 整体流程
下表展示了实现Hadoop与HDFS的关系的
原创
2023-12-03 05:58:03
58阅读
Hadoop历史 雏形开始于2002年的Apache的Nutch，Nutch是一个开源Java 实现的搜索引擎。它提供了我们运行自己的搜索引擎所需的全部工具。包括全文搜索和Web爬虫。 随后在2003年Google发表了一篇技术学术论文谷歌文件系统（GFS）。GFS也就是google File Sy
转载
2017-06-12 11:41:00
93阅读
Hadoop 生态是一个庞大的、功能齐全的生态，但是围绕的还是名为 Hadoop 的分布式系统基础架构，其核心组件由四个部分组成，分别是：Common、HDFS、MapReduce 以及 YARN。
Common 是 Hadoop 架构的通用组件；
HDFS 是 Hadoop 的分布式文件存储系统；
MapReduce 是Hadoop 提供的一种编程模型，可用于大规模数据集的并行运算；
YARN
转载
2023-09-13 11:24:12
108阅读
Hadoop的配置详解 大家经过搭建单节点、伪分布、完全分布模式的集群环境，基本上会用到以下几个配置，core-site.xm/hdfs-site.xml/mapred-site.xml. 相信大家已经使用了其中的一些参数，下面我们来详细介绍一下各个配置中的参数，介绍的参数是大家可能用到的，当然还有很多没介绍到(学习hadoop不久,如果哪里错了，请
转载
2023-09-13 11:25:32
145阅读
HDFS API详解org.apache.hadoop.fs"包中，这些API能够支持的操作包含：打开文件，读写文件，删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem，该类是个抽象类，只能通过来类的get方法得到具体类。get方法存在几个重载版本，常用的是这个： static FileSystem get(Configuration conf);
转载
2023-07-23 23:39:36
112阅读
Hadoop是Apache软件基金会所开发的并行计算框架与分布式文件系统。最核心的模块包括Hadoop Common、HDFS与MapReduce。HDFSHDFS是Hadoop分布式文件系统（Hadoop Distributed File System）的缩写，为分布式计算存储提供了底层支持。采用Java语言开发，可以部署在多种普通的廉价机器上，以集群处理数量积达到大型主机处理性能。HDFS&n
转载
2023-07-12 11:09:43
97阅读
HDFS Java API 可以用于任何Java程序与HDFS交互，该API使我们能够从其他Java程序中利用到存储在HDFS中的数据，也能够使用其他非Hadoop的计算框架处理该数据
为了以编程方式与HDFS进行交互，首先需要得到当前配置文件系统的句柄，实例化一个Configuration对象，并获得一个Hadoop环境中的FileSystem句柄，它将指向当前环境的HDFS NameNode
转载
2023-09-01 08:26:09
73阅读
这篇博客是笔者在CSDN里的第一篇博客，旨在希望在这个圈子能够得到更多的交流、更快的成长。 这篇博客就讲些比较基础的内容——常用HDFS的API操作。因为所有的API比较多，所以笔者便从中摘选出11个比较常用的API,希望能给读者一些帮助。因为Hadoop中关于文件操作类基本上都在“org.apache.hadoop.fs”包中，这些API的主要作用主要体现在以下操作上：打开文件、读写文件、删除文
转载
2023-09-01 08:28:43
85阅读
HadoopHadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS。HDFS有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有着超大数据集（large data set）的应用程序。HDFS放宽了（relax）POSIX的要求，可以以流
转载
2024-04-03 21:34:27
258阅读
目录1：创建目录2、查看文件，ls 没有cd命令， 需要指定绝对路径3：上传文件 put（要先把数据上传到linux本地然后再上传）4：下载文件 get5:复制 cp6：查看文件内容 cat , 如果数据量比较大，不能使用7：移动 mv, 物理层面文件没有移动，只是改变了元数据（目录结构）8：删除文件或者目录 rmr9：查看文件末尾 tail -f ; 一直等待查看10、查看文件的大小11：查看日
转载
2023-08-18 20:45:55
176阅读
HDFS Java API 位于 org.apache.hadoop.fs 包中，这些API能够支持的操作包括打开文件、读写文件、删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem。该类是一个抽象类，只能通过get方法获取到具体的类。该类封装了大部分文件操作，如mkdir、delete等。 <!--指定maven项目jdk编译版本，默认是jdk1.5--&
转载
2023-08-18 19:31:40
78阅读
最近刚好又重新了解了一下hdfs的一些内容，想通过这篇内容总结和记录一下。Hadoop分布式文件系统HDFS配置及示例运行。 作者使用的是hadoop3.2.1的版本，以下示例都是以hadoop-3.2.1为基础目录进行介绍。1、文件配置首先，进入hadoop配置目录: ./etc/hadoop$ cd etc/hadoop/(1) 配置core-site.xml文件vi 进入编辑模式$ vi c
转载
2023-07-23 17:16:21
241阅读
