一、环境 windows 7 64bit jdk 1.8 hadoop 2.7.4 下载地址：http://hadoop.apache.org/releases.html二、步骤
原创
2017-09-29 09:35:53
7007阅读
1评论
一、hadoop fs 命令1、hadoop fs –fs [local | <file system URI>]：声明hadoop使用的文件系统，如果不声明的话，使用当前配置文件配置的，按如下顺序查找：hadoop jar里的hadoop-default.xml->$HADOOP_CONF_DIR下的hadoop-default.xml->$HADOOP_CONF_DIR
转载
2023-05-30 14:35:58
62阅读
Hadoop2.7.4完全分布式集群构建
原创
2018-12-14 19:10:01
656阅读
1.protobuf编译安装[root@hadoop1 ~]# yum install svn autoconf automake libtool cmake ncurses-devel openssl-devel gcc*
[root@hadoop1 ~]# tar&
原创
2017-08-28 18:08:11
1177阅读
点赞
环境说明：[root@hadp-master sbin]# hadoop versionHadoop 2.7.4 一、 脚本封装全部一起启动、关闭1.1 启动[root@hadp-master sbin]# ./start-all.sh This script is Deprecated. Inst
转载
2017-08-27 21:44:00
66阅读
2评论
本文主要描述Sqoop1.4.6的安装配置以及使用。一、安装配置1、Sqoop安装[hadoop@hdp01~]$wgethttp://mirror.bit.edu.cn/apache/sqoop/1.4.6/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz[hadoop@hdp01~]$tar-xzfsqoop-1.4.6.bin__hadoop-2.0.4-
原创
2017-12-28 16:42:54
4564阅读
首先: 参考 ://blog..net/zhang1234556/article/details/77621487 搭建好hadoop集群。 然后，在master节点安装pig。 我们用MapReduce进行数据分析。当业务比较复杂的时候，使用MapReduce将会是一个很复杂的
转载
2018-01-28 21:18:00
318阅读
2评论
一、 相关概念 Hive Metastore有三种配置方式，分别是： Embedded Metastore Database (Derby) 内嵌模式Local Metastore Server 本地元存储Remote Metastore Server 远程元存储1.1 Metadata、Metas
转载
2017-09-17 20:25:00
310阅读
2评论
# 实现“bde2020/hadoop-datanode:2.0.0-hadoop2.7.4-java8”镜像的步骤
## 1. 确认环境
在开始之前，确保你已经具备以下环境：
- Docker已经安装并配置好
- 有基本的Docker知识
## 2. 拉取镜像
首先我们需要拉取hadoop-datanode镜像，版本为2.0.0-hadoop2.7.4-java8，使用以下命令：
```ma
原创
2023-09-09 14:24:35
351阅读
一、概述本次实验采用VMware虚拟机，linux版本为CentOS7；因为实验所需的5台机器配置大多相同，所以采用配置其中一台，然后使用克隆功能复制另外4份再做具体修改；其中有些步骤以前配置过，此处就说明一下不再做具体配置，具体配置可翻阅以前的博文。二、实验环境1.关闭selinux和firewall2.hadoop-2.7.4.tar.gz；zookeeper-3.4.10.tar.gz；jd
原创
2017-08-30 11:31:53
3134阅读
点赞
## Hadoop查看编码流程
### 步骤概述
下面是Hadoop查看编码的整个流程，我们将逐步展示每个步骤需要做什么，并提供相应的代码和注释。
| 步骤 | 操作 |
| --- | --- |
| 1 | 启动Hadoop集群 |
| 2 | 检查输入文件是否存在 |
| 3 | 设置输入和输出路径 |
| 4 | 创建Job对象 |
| 5 | 配置Job对象 |
| 6 | 提交J
原创
2023-11-17 05:42:03
54阅读
# Hadoop编码配置科普文章
Hadoop是一个开源的分布式计算框架，其核心组成部分包括HDFS（Hadoop分布式文件系统）和MapReduce。为了高效地在Hadoop集群中进行编码与执行，其配置显得尤为重要。在这篇文章中，我们将探讨Hadoop的编码配置以及如何通过代码示例来更好地理解这一过程。
## 1. Hadoop编码配置概述
Hadoop的编码配置主要涉及以下几个方面：
原创
2024-09-28 06:05:16
53阅读
# Hadoop视频编码
Hadoop是一个开源的分布式计算框架，用于处理大规模数据集的存储和处理。它的设计目标是能够在一组计算机上并行处理大规模数据，具有高可靠性和容错性。Hadoop采用了一种称为MapReduce的编程模型，它将计算任务分解为多个小任务，并在分布式环境中并行执行。
视频编码是一种将视频数据转换为压缩格式的技术。在视频编码中，视频数据被分割成多个小块，每个小块被称为帧。Ha
原创
2023-07-19 11:31:08
150阅读
Hadoop学习笔记(9) ——源码初窥 之前我们把Hadoop算是入了门，下载的源码，写了HelloWorld，简要分析了其编程要点，然后也编了个较复杂的示例。接下来其实就有两条路可走了，一条是继续深入研究其编程及部署等，让其功能使用的淋漓尽致。二是停下来，先看看其源码，研究下如何实现的。在这里我就选择第二条路。 研究源码，那我们就来先看一下整个目录里有点啥： 这个是刚下完代码后，目录列表中的
# 系统信息3台 系统： centos6.8 内核：4 内存：4G 硬盘：50G# 主机名称，ip地址master: 10.200.201.110slave1: 10.200.201.111slave2: 10.200.201.112######################## 基础初始配置 ################
原创
精选
2017-12-04 16:46:14
10000+阅读
点赞
7评论
hadoop 提供了两种方式对hdfs 进行访问：1 配置客户端，后台连接到客户端进行工作客户端的配置比较简单，只要把配置好的hadoop的namenode节点的hadoop 打包，发到另一台机器（该机器不出现在 etc/hadoop/slaves里就可以）设置一下环境变量 JAVA_HOME HADOOP_HOME 还有一些在hadoop xml配置的临时文件目录等 也改一下（启动时查看日志，根
转载
2023-07-21 16:57:04
54阅读
1.1 安装环境操作系统deepin 15.11, VMware Workstation，hadoop 3.1.3 版本。在deepin 操作系统中安装 VMware Workstation，在 VMware Workstation中安装两个deepin系统，采用两个节点作为集群环境，一个作为Master节点，一个作为Slave 节点。1.2 hadoop的安装准备在Master节点和Slave节
转载
2023-10-14 09:41:11
94阅读
一、概述在本篇博文中，试图通过代码了解hadoop job执行的整个流程。即用户提交的mapreduce的jar文件、输入提交到hadoop的集群，并在集群中运行。重点在代码的角度描述整个流程，有些细节描述的并不那么详细。汇总的代码流程图附件: hadoop_mapreduce_jobsubmit二、主要流程 Jobclient通过RPC方式调用到jobtracker的subm
转载
2024-03-07 09:52:00
24阅读
求$yz$面上二次曲线\begin{equation} \begin{cases} \frac{y^2}{a^2}=2z\\x=0\\ \end{cases}\end{equation}绕$z$轴旋转所得的二次曲面的方程.解：对于二次曲面上的任意点$p=(x,y,z)$.都存在相应的二次曲面上的...
转载
2012-08-12 23:11:00
50阅读
2评论
# Hadoop 分布式文件系统（HDFS）的格式化
## 简介
在使用 Hadoop 分布式文件系统（HDFS）之前，我们需要对 NameNode 进行格式化。根据 Hadoop 的官方文档，格式化 NameNode 是一个条件性的操作，只有在首次启动一个全新的文件系统或者更换了新的硬盘时才需要进行格式化。
本文将向您介绍如何使用命令行格式化 NameNode，并演示如何通过命令行获取格式化
原创
2023-08-18 04:12:05
111阅读
