# Hadoop Merge
Hadoop is an open-source framework that allows for the distributed processing of large data sets across clusters of computers using simple programming models. One of the key operations
原创
2023-12-18 12:57:01
19阅读
# Hadoop FS Merge 命令详解
Hadoop 是一个开源的分布式计算框架，旨在处理大规模数据集。Hadoop 文件系统（HDFS）是其中的核心组成部分，负责存储文件。随着文件操作的增多，HDFS 中可能会生成大量的小文件，这会影响系统的性能。因此，使用 `hadoop fs -merge` 命令来合并小文件是一项重要的操作。本文将对 `hadoop fs -merge` 命令进行详
原创
2024-08-08 13:13:11
71阅读
4. 每次溢写会在磁盘上生成一个溢写文件，如果map的输出结果真的很大，有多次这样的溢写发生，磁盘上相应的就会有多个溢写文件存在。当map task真正完成时，内存缓冲区中的数据也全部溢写到磁盘中形成一个溢写文件。最终磁盘中会至少有一个这样的溢写文件存在(如果map的输出结果很少，当map执行完成时，只会产生一个溢
转载
2023-09-29 09:38:07
216阅读
RxJava2的三要素：观察者模式思想，函数响应式编程1. Observable 被观察者，它决定什么时候触发时间，在上游发送命令，决定异步操作模块的顺序和异步操作的次数。 2. Observer 观察者，它可以在不同的线程中执行任务，在下游待命状态的接受事件，响应被观察者的通知。 3. subscribe订阅事件 创建好了Observable和Observer ，需要将他们关联起来，才能实现
转载
2024-09-08 08:12:54
29阅读
按数值排序示例：按气温字段对天气数据集排序问题：不能将气温视为Text对象并以字典顺序排序正统做法：用顺序文件存储数据，其IntWritable键代表气温，其Text值就是数据行常用简单做法：首先，增加偏移量以消除所有负数；其次，在数字面前加0，使所有数字的长度相等；最后，用字典法排序。streaming的做法：-D mapred.text.key.comparator.options="-k1n
转载
2023-07-12 13:38:14
113阅读
一、基础指令11个1、ls指令，含义：列出当前工作目录下的所有文件/文件夹的名称#ls （路径）2、pwd指令，打印当前工作目录#pwd3、cd指令，改变目录#cd /usr/local。4、mkdir指令，创建目录：#mkdir lly5、touch指令，创建文件#touch aaa.txt6:cp指令，复制文件#cp /home/aaa.txt7、mv指令，移动，剪切# mv aaa.txt8
转载
2024-04-02 17:31:39
0阅读
前言我们在编写Android程序时，Glide图片加载框架已成为大多数App必不可少的部分。我这准备分为上、中、下三篇文章解读Glide源码。接下来我将从如下几点解读Glide源码的上部分。Glide 网络请求Glide 生命周期举例Glide 生命周期管理Glide 为什么能监听网络判断1、Glide 网络请求在讲Glide 网络请求之前，先看看最原始的网络图片请求加载方式。public voi
转载
2023-06-26 11:22:40
142阅读
SortShuffleManager 运行原理 如何确定分区规则？ map()：输出record，并计算其partitionIdpartitionId = hash(key)%partitionNum，一个partitionId 就是一个分区SortShuffleManager 运行机制有两种，一种是普通运行机制，另一种是 bypass 运行机制。当 shuffle read task 的数量小于
Hadoop源代码分析（三五）除了对外提供的接口，NameNode上还有一系列的线程，不断检查系统的状态，下面是这些线程的功能分析。在NameNode中，定义了如下线程：hbthread = null; // HeartbeatMonitor threadpublic Daemon lmthread&nb
转载
2023-09-13 23:39:27
71阅读
Hadoop是一个大数据处理平台，目前在大数据领域应用也非常广泛，刚好最近我们BI组在进行把底层数据仓库迁移到Hadoop平台并且当前BI的数据平台已经深度依赖Hadoop平台，所以在工作之余开始去深入了解下Hadoop内部实现以更好地应用它，在遇到问题的时候有更好的解决思路。本文详细介绍了Hadoop领域中分布式离线计算框架MapReduce的原理及源码分析。 1. MapReduce概述 &
转载
2023-09-13 23:05:57
38阅读
hadoop 源代码分析(一)Google 的核心竞争技术是它的计算平台。HadoopGoogle的大牛们用了下面5篇文章，介绍了它们的计算设施。GoogleCluster：http://research.google.com/archive/googlecluster.html
Chubby：http://labs.google.com/papers/chubby.html
GFS：h
转载
2023-09-06 20:43:46
61阅读
由于本人愚笨，光阴似箭、日月如梭、随着年龄的增长，看着那么多大牛，写出了那么多知名的框架，对于框架的知识，不仅仅想知道怎么去使用它，还想为什么别人是这样设计，这样声明类和接口，就好比刚刚开始看的HDFS文件系统一样，为什么会有Fimage类对象和edits对象。我脑子里面总是在想，很多事情是从简单到复杂的，看hadoop的代码也是，所以我就从hadoop的最简单、最基础
转载
2024-02-20 19:49:25
17阅读
# jkenis 构建 Android 源码并合并（Need Merge）：基础知识与示例
在Android开发的过程中，源码的构建和合并是一个极为重要的环节。本文将通过一个假设的项目——“jkenis”，来探讨Android源码的构建和合并方法。我们将提供代码示例，以及关系图和序列图，以帮助理解这一过程。
## 1. Android 源码构建基础
在开始之前，我们需要了解Android源码
原创
2024-10-12 04:10:16
51阅读
在Spark中，什么情况下，会发生shuffle？reduceByKey、groupByKey、sortByKey、countByKey、join、cogroup等操作Spark Shuffle操作的两个特点第一个特点 在Spark早期版本中，那个bucket缓存是非常非常重要的，因为需要将一个ShuffleMapTask所有的数据都写入内存缓存之后，才会刷新到磁盘。但是这就有一个问题，如果map
# 学习如何实现 Hadoop 源码
当你开始接触大数据处理框架 Hadoop 时，理解其核心源码是掌握这一工具的关键。本文将帮助你了解如何下载、构建和运行 Hadoop 源码，伴随着详细的代码示例和步骤。
## 1. 项目流程
以下是实现 Hadoop 源码的总体步骤：
| 步骤 | 描述 |
|------|------|
| 1 | 安装必要的工具 |
| 2 | 下载
原创
2024-09-16 03:50:22
20阅读
经过近66个工作日的时间，终于搞定了HDFS系统，在我们的项目中，称为Fordim0.1。
为了能够让更多的朋友认识Hadoop在此附上一Google’s Solution --> Open Source Word’s Solution ：
Google File System – Hadoop Distributed FS
Map-R
转载
2023-08-20 14:27:45
65阅读
文章目录一、前期准备工作二、安装编译所需工具2.1 安装JDK2.2 安装Maven2.3 安装Ant2.4 安装ProtoBuf2.5 安装openssl库2.6 安装ncurses-devel库三、开始编译四、常见问题 一、前期准备工作配置CentOS能连接外网，保证Linux虚拟机ping www.baidu.com是畅通的全程使用root用户编译，减少文件夹权限出现问题需要注意，读者如果操
转载
2023-09-20 10:38:46
90阅读
Hadoop源码分析（16）1、 RPC解析 在文档（15）中解析了实际进行远程调用client类的call方法。在该文档中提到的其本质是使用java的NIO与远端的服务器进行连接。并通过channel将需要执行的方法的数据发送过去，然后等待远端将执行结果返回给客户端。 hdfs的组件中很多都有RPC的server端，之前文档分析到namenode启动的时候会从journalnode中读取其存
转载
2023-08-18 19:33:15
41阅读
作者 | 吴邪 大数据4年从业经验，目前就职于广州一家互联网公司，负责大数据基础平台自研、离线计算&实时计算研究编辑 | lily关于一门技术源码的解读是很令人头疼的一件事情，很多小伙伴都不知道从何入手，作为一名程序猿，我也是这样经历过来的，在没人指导的情况下不断碰壁，那种想入而不得的感觉相当难受，希望通过这篇文章能帮助同学们学会阅读源码的技巧。前面两篇文章《Had
转载
2023-09-14 22:06:29
96阅读
Hadoop源码解读一前言寻找入口类main方法createNameNode方法NameNode构造方法initialize方法loadFromDisk方法loadFSImage方法recoverTransitionRead方法loadFSImage方法saveNamespace方法总结 前言在学习的过程中，我们总是不可避免的以使用为目标，而没有深入的去研究源码的构成，本文简单的分享我阅读源码的
转载
2023-11-18 23:16:32
84阅读
