《hadoop in action》中有一句话：“当reducer任务接收来自各个mapper的输出时，它按照键/值对中的键对输入数据进行排序，并将相同键的值归并。然后调用reduce（）函数”，也就是说，下面这幅图，shuffer and sort是在各个reduce task上执行的，执行完后调用reduce()函数。 其实这个图还不是很完整，最上端应该是InputFor
#exec "$JAVA" $JAVA_HEAP_MAX $HADOOP_OPTS -class
原创
2022-07-19 20:01:40
86阅读
MapReduce整个工作流程：一、MapTask阶段（1）Read 阶段：Map Task 通过用户编写的 RecordReader，从输入 InputSplit 中解析出一个个 key/value。（2）Map 阶段：该节点主要是将解析出的 key/value 交给用户编写 map()
转载
2023-09-04 16:53:20
115阅读
# 解析 Hadoop 报错：Read Timeout
Hadoop 是广泛使用的开源大数据处理框架，用于存储和处理海量数据。在使用 Hadoop 过程中，用户可能会遇到各种各样的错误，其中之一就是 “read timeout”。这个错误常常与网络配置、集群资源或应用程序的实现有关。在本篇文章中，我们将深入分析是什么导致这个错误及其解决方案，并提供代码示例进行解析。
## 什么是 Read T
原创
2024-10-15 03:48:52
110阅读
摘要将分析一下work线程中的read过程，其中涉及到零拷贝技术的及其源码分析。Read codeprivate static void processSelectedK
原创
2023-03-21 10:43:19
109阅读
基于Netty源代码版本：nettyall4.1.33.Final前言上一篇文章中，我们分析了processSelectedKey这个方法中的accept过程，本文将分析一下work线程中的read过程。javaprivatevoidprocessSelectedKey(SelectionKeyk,AbstractNioChannelch){finalAbstractNioChannel.NioU
原创
2022-10-17 11:49:56
265阅读
Hadoop MapReduce 的 Shuffle 阶段是指从 Map 的输出开始，包括系统执行排序，以及传送 Map 输出到 Reduce 作为输入的过程。排序阶段是指对 Map 端输出的 Key 进行排序的过程。不同的 Map 可能输出相同的 Key，相同的 Key 必须发送到同一个 Reduce 端处理。Shuffle 阶段可以分为 Map 端的 Shuffle 阶段和 Reduce 端
转载
2023-07-12 15:20:07
78阅读
之前看了YARN权威指南后总结了YARN作业提交流程（），但还是不够清晰详细，所以转载这篇文章以便日后学习用。MR作业提交过程提交过程按这个图来，1.Job的submit()方法创建一个内 部的JobSummiter 实例，调用该实例submitJobInternal()方法。提交作业后，waitForCompletion()每秒轮询作业的进度，如果发现自上次报告后有改变，便把进度报告到控制台。作
转载
2023-07-21 14:39:43
35阅读
map->shuffle->reducemap->combine->partition->sort-> group->reducejob.setInputFormatClass，默认TextInputFormat，将数
原创
2023-07-11 00:10:57
41阅读
Shuffle过程是MapReduce的核心，也被称为奇迹发生的地方。要想理解MapReduce， Shuffle是必须要了解的。我看过很多相关的资料，但每次看完都云里雾里的绕着，很难理清大致的逻辑，反而越搅越混。前段时间在做MapReduce job 性能调优的工作，需要深入代码研究MapReduce的运行机
转载
2023-12-29 23:34:23
25阅读
对于基于 MapReduce 编程范式的分布式计算来说，本质上而言，就是在计算数据的交、并、差、聚合、排序等过程。而分布式计算分而治之的思想，让每个节点只计算部分数据，也就是只处理一个分片，那么要想求得某个key 对应的全量数据，那就必须把相同 key 的数据汇集到同一个 Reduce 任务节点来处理，那么 Mapreduce 范式定义了一个叫做 Shuffle 的过程来实现这个效果。Hadoop
转载
2023-09-01 08:18:11
72阅读
Shuffle描述的是数据从Map端到Reduce端的过程，大致分为排序（sort）、溢写（spill）、合并（merge）、拉取拷贝（Copy）、合并排序（merge sort）这几个过程，大体流程如下： 上图的Map的输出的文件被分片为红绿蓝三个分片，这个分片的就是根据Key为条件来分片的，分片算法可以自己实现，例如Hash、Range等，最终Reduce任务只拉取对应颜色的数据来进行处理，就
转载
2023-09-01 08:17:49
93阅读
本人自学Hadoop也有一段时间了，由于最近工作不太忙，想利用业余空闲时间来实现一下基于Hadoop的ETL，不过本人不太清楚别人是怎么实现的，而且网上资料有限，可能会是一个坑，不过感觉和大家分享下，还是有些帮助的，也借此做下笔记。现在阶段的大数据的ETL主要分为三个阶段：抽取、转换、加载，如图这三个阶段具体到实际项目中也就是数据的导入、数据的分析以及数据的导出。数据的导入：一般来说我们操作的数据
转载
2023-07-13 17:57:03
140阅读
一、概要描述 在Child的main函数中通过TaskUmbilicalProtocol协议，从TaskTracker获得需要执行的Task，并调用Task的run方法来执行。在ReduceTask而Task的run方法会通过java反射机制构造Reducer，Reducer.Context，然后调用构造的Reducer的run方法执行reduce操作。不同于map任务，在执行reduce任务前
转载
2024-01-11 20:22:48
53阅读
hadoop运行原理之shufflehadoop的核心思想是MapReduce，shuffle又是MapReduce的核心。shuffle的主要工作是从Map结束到Reduce开始之间的过程。 shuffle阶段又可以分为Map端的shuffle和Reduce端的shuffle。Map端的shuffleMap端会处理输入数据并产生中间结果，这个中间结果会写到本地磁盘，而不是HDFS。每个Map的输
转载
2023-09-20 07:15:01
67阅读
Hadoop 读写流程和常用命令1.读流程client向分布式文件系统DistributionFileSystem发送读请求分布式文件系统与NameNode进行Rpc通信NameNode对文件是否存在,用户是否有权限等进行校验,校验如果成功,则向分布式系统返回一个FsDataInputStream对象(包含了文件由哪些块组成,block分布在哪些节点等等信息)client调用FsDataInput
转载
2023-09-20 10:31:19
69阅读
一、Apache Ranger是什么？Apache Ranger是一个框架，Hadoop上对于保护数据数据安全性的安全框架。用于在整个Hadoop平台上启用，监视和管理全面的数据安全性。二、特性Apache Ranger具有以下特性：集中式安全管理，可在中央UI或使用REST API管理所有与安全相关的任务。使用Hadoop组件/工具执行特定操作和/或操作的精细授权，并通过中央管理工具
# Hadoop的读写过程
Hadoop是一个开源框架，允许分布式处理大量数据。它主要由两个核心组件：Hadoop分布式文件系统（HDFS）和MapReduce计算模型组成。本文将探讨Hadoop的读写过程，并通过代码示例和关系图进行说明。
## Hadoop的写过程
在Hadoop中，数据的写入是对HDFS的操作。数据被写入HDFS时，会经历以下步骤：
1. **客户端向NameNode
原创
2024-09-27 07:28:29
25阅读
1.下载的安装包（以下为安装包）,将安装包用Xftp放置在客户机的对应目录下（opt/software）
hadoop-3.1.4.tar.gz2.解压hadoop，解压命令如下：tar -zxvf /opt/software/hadoop-3.1.4.tar.gz -C /usr/app3.修改配置文件
（1）修改hadoop-env.sh和yarn-env.shvi /usr/app/hado
原创
2024-04-17 08:33:56
85阅读
Hadoop生产环境搭建
1. 将安装包hadoop-2.x.x.tar.gz存放到某一目录下，并解压。
2. 修改解压后的目录中的文件夹etc/hadoop下的配置文件（若文件不存在，自己创建。）
包括hadoop-env.sh,mapred-site.xml,core-site.xml,hdfs-site.xml,yarn-site.xml
3. 格式化并启动HDFS
4. 启动YA
转载
2023-08-10 09:32:31
38阅读
