要真正的学习hadoop，就必需要使用集群，可是对于普通开发人员来说，没有大规模的集群用来測试，所以仅仅能使用伪分布式了。以下介绍怎样搭建一个伪分布式集群。 为了节省时间和篇幅，前面一些步骤不再叙述。本文是在基于单机模式的前提下进行得搭建。若不会搭建单机模式。请看我的前一篇文章。Ubuntu下用ha
转载
2017-07-06 11:01:00
95阅读
2评论
我们hadoop2,4集群默认不支持snappy压缩，可是近期有业务方说他们的部分数据是snappy压缩的（这部分数据由另外一个集群提供给他们时就是snappy压缩格式的）想迁移到到我们集群上面来进行计算。可是直接执行时报错： Failed with exception java.io.IOExce
转载
2021-08-06 13:55:48
1024阅读
编译前的准备: 首先安装ANT、ECLIPSE 、HADOOP.使用的的HADOOP版本是2.4。 1、安装ANT 解压： tar -zxvf apache-ant-1.9.4-bin.tar.gz &n
原创
2014-12-21 21:39:45
747阅读
Hadoop安装搭建伪分布式教程（全面）吐血整理1、安装下载虚拟机VMware2、下载Ubuntu18.04镜像文件，并在VMware中添加虚拟机。3、Hadoop伪分布式搭建3.1 创建hadoop用户，并更新ubuntu系统中相应软件，安装vim编辑器3.1.1 创建hadoop账户3.1.2 更新命令3.2 配置SSH，并设置无密码登录3.2.1 下载SSH3.2.2 设置无密码登录3.3
转载
2023-08-07 21:45:40
48阅读
Hadoop生态圈是大数据行业内比较常用的离线数据处理技术，而Hadoop的安装模式又分三种、分别是单机模式、伪分布式和集群模式。伪分布式主要是用于开发人员测试，集群模式才是生产环境上配置的。那么、今天就说一下Hadoop的伪分布式安装搭建。1、环境准备：虚拟机系统:Centos-7JDK:JDK1.8.0_171。关闭防火墙、配置好机器静态IP。2、下载：http://hadoop.apache
转载
2023-09-25 20:09:19
88阅读
1、下载Hadoop安装包首先在Apache Hadoop官网下载对应的Hadoop安装包，我们这里以Hadoop-3.3.0为例；下载地址：https://archive.apache.org/dist/hadoop/common/ 找到hadoop-3.3.0.tar.gz下载下来即可；2、配置基础环境在正式安装Hadoop之前，我们还需要配置一些基础环境：（1）设置静态ip（2）设
转载
2023-07-24 13:21:02
105阅读
最近在学习hadoop，自己下了个视频教程，他的教学版本是hadoop0.20.2版本，现在的最新版本都到了3.0了，版本虽然有点老，但是还是学了一下，觉得有借鉴的价值。不废话了，开始介绍：先说一下环境：ubuntu14.04，其中要装上ssh open-server服务，装上jdk环境。伪分布式模式安装和配置步骤如下图：详细步骤1 首先把文件导入linux系统（我用的ubuntu虚拟机，hado
转载
2023-09-06 10:01:31
39阅读
一 、新建用户和用户组 注明：（这个步骤事实上能够不用的。只是单独使用一个不同的用户好一些） 1.新建用户组 sudo addgroup hadoop 2.新建用户sudo adduser -ingroup hadoop hadoop 3.加入hadoop用户权限 sudo gedit /etc...
转载
2015-12-28 10:40:00
103阅读
2评论
4.4 Reduce类
4.4.1 Reduce介绍
整完了Map，接下来就是Reduce了。YarnChild.main()—>ReduceTask.run()。ReduceTask.run方法開始和MapTask类似，包含initialize()初始化，依据情况看是否调用runJobCleanupTask()，runTaskCleanupTask()等。之后进入正式的工作，主要有
转载
2014-10-19 11:20:00
59阅读
2评论
总是要学点什么是吧，Java学大数据据说很快，就从这面入手了，正好项目在使用可以get一项新技能了，距离全栈工程师又进了一步不是么？#Hadoop安装(伪集群)######此处不介绍Hadoop和其他组件的说明，详细请百度注意你们的主机名，千万不要用中文，虽然不影响，看网上的各种文章有的是需要改机器名的。安装JAVA环境变量（不介绍了）我用的是Ubuntu Mint，默认安装了SHH clien
转载
2023-07-21 13:52:32
63阅读
一.环境准备 阿里云ECS(Centos7).已预装JDK8 Hadoop安装包 hadoop-2.7.7.tar.gz二. 安装步骤 1.确认JDK环境的安装位置 命令 echo $JAVA_HOME 2.解压hadoop-2.7.7.tar.gz 文件夹到指定目录(目录可以自己定义) 命令 tar -zxvf hadoop-2.7.7.tar.gz -C /opt/mod
转载
2023-07-20 23:32:57
40阅读
经过前边的积累，今天最终实现了集群环境下部署Hadoop。并成功执行了官方的样例。工作例如以下：两台机器：NameNode：上网小本，3G内存。机器名：YP-X100e，IP：192.168.101.130。DataNode：虚拟机，Win7下载VMWare10中虚拟Ubuntu14，虚拟机器名：p...
转载
2016-01-17 13:29:00
62阅读
2评论
一、安装前的准备，jdk-8u66-linux-x64.tar.gz(建分布式的时候会需要)、hadoop-2.6.0-x64.tar.gz二、进入root用户，ifconfig 查看本机ip，牢记本机ip地址；安装伪分布式的时候可以直接输入yum -y install java* 即可自动下载安装并且配置好环境变量，java -version但是在最后启动hadoop的时候一定不能忘记修改JAV
转载
2023-07-25 18:44:34
106阅读
(因为我也是新手，所以基本上是借鉴前辈，慢慢摸索的，在文章中可能会有许多不详尽的地方，还请谅解)一 部署方式（1） Hadoop安装方式1.传统解压包方式2.Linux标准方式（2）Hadoop工作环境构建方式1.单机模式不需要与其他节点交互，因此不需要使用HDFS，直接读写本地的文件系统，主要用于开发调试MapReduce程序的应用逻辑。2.伪分布模式单机运行，用不同进程模仿分布式运行
转载
2023-08-18 08:28:25
81阅读
安装环境：系统：Ubuntu 14.10 64bithadoop：2.5.1 jdk：1.8.0_11安装步骤：一.安装JDK安装 jdk，并且配置环境以及设置成默认sudo gedit /etc/profile
添加
export JAVA_HOME=/opt/java
export JRE_HOME=/opt/java/jre
export CLASSPA
转载
2023-11-08 13:56:33
42阅读
先决条件
安装jre1.6 rpm包 http://www.java.com/zh_CN/download/manual.jsp
chmod u+x jre-6u21-linux-i586-rpm.bin
./jre-6u21-linux-i586-rpm.bin
设置密钥登录不然每次启动时都要输入密码
$ ssh-keygen -t dsa
原创
2010-08-22 11:29:25
683阅读
接触Hadoop也快两年了，也一直没自己总结过安装教程，最近又要用hadoop，需要自己搭建一个集群来进行试验，所以就利用这个机会来写个教程以备以后自己使用，也用来和大家一起探讨。要安装Hadoop先安装其辅助环境 javaUbuntu下java的安装与配置将java安装在指定路径方便以后查找使用。Java安装1）在/home/xx（也就是当前用户）目录下，新建java1.xx文件夹：mkdir
原创
2014-04-12 09:37:16
888阅读
hadoop 2.6.0伪分布安装
转载
2015-05-05 18:14:00
115阅读
2评论
1.1 设置ip地址 执行命令 service network restart 验证: ifconfig1.2 关闭防火墙 执行命令 service iptables stop 验证: service iptables status1.3 关闭防火墙的自动运行 执行命令 chkconfig ipt
原创
2015-05-16 17:06:48
134阅读
网址：://www..com/luxh/archive/2013/01/17/2862116.html伪分布模式： Hadoop可以在单节点上以伪分布模式运行，用不同的Java进程模拟分布式运行中的各类节点。 1、安装Hadoop确保系统已安装好JDK和ssh。 1）在官网下载Hadoop： ://hadoop.apache.org/ 我这里下载的是 h
转载
精选
2014-03-05 17:36:29
534阅读
