最近在学习hadoop，自己下了个视频教程，他的教学版本是hadoop0.20.2版本，现在的最新版本都到了3.0了，版本虽然有点老，但是还是学了一下，觉得有借鉴的价值。不废话了，开始介绍：先说一下环境：ubuntu14.04，其中要装上ssh open-server服务，装上jdk环境。伪分布式模式安装和配置步骤如下图：详细步骤1 首先把文件导入linux系统（我用的ubuntu虚拟机，hado
转载
2023-09-06 10:01:31
31阅读
1、下载Hadoop安装包首先在Apache Hadoop官网下载对应的Hadoop安装包，我们这里以Hadoop-3.3.0为例；下载地址：https://archive.apache.org/dist/hadoop/common/ 找到hadoop-3.3.0.tar.gz下载下来即可；2、配置基础环境在正式安装Hadoop之前，我们还需要配置一些基础环境：（1）设置静态ip（2）设
转载
2023-07-24 13:21:02
61阅读
目录：1、配置前的说明 2、环境说明 3、修改主机名 4、SSH无密码验证配置 5、创建Hadoop用户 6、生成SSH密钥 7、JDK配置 8、Hadoop安装配置 安装Hadoop 配置环境变量 配置master和slave &nbs
转载
2023-07-21 13:52:23
108阅读
一、前提（1）环境：Ubuntu 16.04 （2）需要软件：JDK 1.8 和 Hadoop-2.8.0二、安装JDK安装的详细过程参见博文：博文链接三、安装Hadoop下载地址：http://hadoop.apache.org/releases.html我选的是hadoop 2.8.0，选择binary版本。（source是源码，如果在工作中需要修改源码之后再运行，则可以选择source），
转载
2023-07-24 13:26:09
128阅读
采用伪分布式模式：即hadoop将所有进程运行于同一台主机上，但此时Hadoop将使用分布式文件系统，而且各jobs也是由JobTracker服务管理的独立进程。同时，由于伪分布式的Hadoop集群只有一个节点，因此HDFS的块复制将限制为单个副本，其secondary-master和slave也都将运行于本地主机。此种模式除了并非真正意义的分布式之外，其程序执行逻辑完全类似于完全分布式，因此，常
转载
2023-07-25 18:43:20
114阅读
hadoop伪分布式环境搭建，完整的详细步骤一、搭建伪分布式本次实验环境：1、VMware14 2、一台ubtuntu 18 64位 3、主机名位master 4、ip 地址：192.168.136.31 5、本次实验需要的安装包二、 伪分布式搭建前的准备1、 查看id 地址ip addr 2、 关闭防火墙 命令来关闭防火墙ufw disable命令查看当前防火墙状态ufw status 3、 修
转载
2023-09-14 13:17:17
180阅读
adoop 0.20.2伪分布式安装详解 hadoop有三种运行模式： 伪分布式不需要安装虚拟机，在同一台机器上同时启动5个进程，模拟分布式。完全分布式至少有3个节点，其中一个做master，运行名称节点（namenode）、作业跟踪器（jobtracker）等主要进程，另外两个做datanode，运行tasktracker，最好有两个，否则没有冗余，谈
转载
2023-07-13 16:49:00
61阅读
一.环境准备 阿里云ECS(Centos7).已预装JDK8 Hadoop安装包 hadoop-2.7.7.tar.gz二. 安装步骤 1.确认JDK环境的安装位置 命令 echo $JAVA_HOME 2.解压hadoop-2.7.7.tar.gz 文件夹到指定目录(目录可以自己定义) 命令 tar -zxvf hadoop-2.7.7.tar.gz -C /opt/mod
转载
2023-07-20 23:32:57
36阅读
本文主要介绍了hadoop1的伪分布模式的安装。只需要根据步骤一步一步的操作就可以按照好hadoop的伪分布安装。所用到的安装包为jdk-6u45-linux-x64.bin和hadoop-1.1.2.tar.gz。操作环境为VMware下CentOS-6.5的64位虚拟机。如果是32位系统，只需下载相应的jdk即可。一。伪分布模式安装大致步骤：(1)关闭防火墙(2)修改hostname(3)设置
转载
2023-08-10 17:26:51
77阅读
Hadoop安装一.打开MobaXterm（前提：把虚拟机要打开）二.输入`cd software`来到software目录下，导包，找到下面框选出的两个压缩文件，复制到software目录下，如下图所示三.输入`tar -zxvf hadoop-2.6.0-cdh5.14.2.tar.gz`对hadoop安装包进行解压，然后回车一顿解压解压完成后，可以输入`ll`查看当前文件，有一个hadoo
转载
2023-07-09 15:07:51
174阅读
hadoop大致可分为三个部分： 1、分布式存储，HDFS（Hadoop Distributed File System）； 2、分布式计算，MapReduce； 3、资源管理系统，Yarn。 下面直接进入正题：伪分布式
胖虎的Hadoop笔记——Hadoop的伪分布式部署本博客用于Hadoop大数据企业课笔记记录。第三步一、VMware安装和创建虚拟机1.VMware安装安装包下载：https://pan.baidu.com/s/16T72wWtK3zMbAdyfavNGDA 提取码：on8c2.创建虚拟机（CentOS7）下载镜像文件：https://pan.baidu.com/s/16T72wWtK3zMbA
转载
2023-07-24 13:19:01
44阅读
一、 准备工作 1、安装虚拟机 （1）打开安装向导； （2）、接受许可协议，点击下一步； （3）选择典型安装； （4）更改安装路径； （5）等待安装完成。 2、 安装Linux操作系统 （1）打开新建虚拟机向导，选择典型，点击下一步； （2）更改安装路径； （3）填写安装信息； （4）将网络适配器更改为桥接模式； 3、 登录Linux操作系统进行相关配置 （1）查看文件夹结构 （2）、测试网络环境
转载
2023-08-16 17:46:14
59阅读
目录1.安装JDK2.安装Hadoop3.文件配置4.启动集群5.查看集群 在开始Hadoop伪分布式环境搭建之前，需要完成这些准备工作。1.安装JDK 安装JDK之前,需要卸载系统中自带的JDK。[root@master ~]# java -version
openjdk version "1.8.0_131"
Open
转载
2023-09-20 12:02:24
70阅读
一、本文说明： 本次测试在一台虚拟机系统上进行伪分布式搭建。Hadoop伪分布式模式是在单机上模拟Hadoop分布式，单机上的分布式并不是真正的伪分布式，而是使用线程模拟分布式。Hadoop本身是无法区分伪分布式和分布式的，两种配置也很相似。唯一不同的地方是伪分布式是在单机器上配置，数据节点和名字节点均是一个机器。 环境说明
转载
2023-07-25 18:35:49
117阅读
使用工具①centos6.5②jdk1.8③Hadoop2.7.1【*】虚拟机使用Linux作为操作系统，这也是在生产情况下运行Hadoop的唯一指定操作系统。由于HDFS依赖于Hadoop，Hadoop依赖于Java。所以需要进行Hadoop的安装和jdk的安装。Hadoop的安装非常简单，大家可以去官网上下载到最新的几个版本。在安装Hadoop程序之前，需要安装两个程序，JDK和SSH（安全外
转载
2023-08-18 13:27:02
39阅读
Hadoop集群伪分布模式的搭建JunLeon——go big or go home目录Hadoop集群伪分布模式的搭建1、配置免密登录2、HDFS的配置、启动与停止（配置文件均在hadoop的主目录下操作）（1）配置hadoop-env.sh（2）配置core-site.xml（3）配置hdfs-site.xml（4）格式化HDFS3、YARN的配置、启动与停止（配置文件均在hadoop的主目录
转载
2023-09-14 13:46:06
87阅读
搭建hadoop1.查看防火墙的命令:service iptables status2.查看防火墙的开关状态:chkconfig iptables --list 这里面有七个，分别对应了其中系统模式:使用命令(vim /etc/inittab)可以查看:七种模式分别是：关机模式，单用户模式，多用户模式（没有NFS），多用户模式，未使用到，
Hadoop环境搭建过程:1.目标:安装单机，伪分布式，完全分布式环境的Hadoop，并且使用HDFS上传一个内容为HelloWorld的文档，使用Hadoop包中自带的WordCount运行一个MapReduce过程，熟悉部分HDFS的API使用。2.单机版本的环境搭建步骤:1.使用的软件版本介绍:这里使用虚拟机VMware-workstation 版本12.1.1，镜像版本: ubuntu-1
转载
2023-07-24 13:27:35
95阅读
安装前的准备工作**1.安装虚拟机，Linux操作系统（vmware安装参考： /qq_28090573/article/details/82724910） （vitrualBox安装参考：https://www.jianshu.com/p/fba87fa4f028）**2.防火墙设置： 查看防火墙状态： $ sudo ufw status 若是激活状态 (active)则关闭防火墙： $ sud
