1. 前提准备

  1. 启动镜像 Init1.0
  2. hadoop win7 虚拟机 虚拟机装hadoop_大数据

  3. 检查是否安装 Hdoop 和 jdk
[niit@niit-master ~]$ java -version
[niit@niit-master ~]$ hadoop version

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_02

2. 安装hadoop和jdk

  1. 将 jdk、hadoop 上传到 /home/nitt
    直接将压缩文件拖到左侧目录栏即可
  2. hadoop win7 虚拟机 虚拟机装hadoop_大数据_03

  3. 解压 hadoop、jdk
[niit@niit-master ~]$ tar -zxvf hadoop-2.9.2.tar.gz

hadoop win7 虚拟机 虚拟机装hadoop_大数据_04


解压完毕

hadoop win7 虚拟机 虚拟机装hadoop_大数据_05

[niit@niit-master ~]$ tar -zxvf jdk-8u231-linux-x64.tar.gz

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_06


hadoop win7 虚拟机 虚拟机装hadoop_xml_07

  1. 切换到 root
[niit@niit-master ~]$ su root
密码:

hadoop win7 虚拟机 虚拟机装hadoop_hadoop win7 虚拟机_08

  1. 将解压的 hadoop 和 jdk 移动到 /usr/local/
[root@niit-master niit]# mv jdk1.8.0_231/ /usr/local/

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_09

[root@niit-master niit]# mv hadoop-2.9.2 /usr/local/

hadoop win7 虚拟机 虚拟机装hadoop_xml_10

  1. 进入 /usr/local 查看
[root@niit-master niit]# cd /usr/local/

hadoop win7 虚拟机 虚拟机装hadoop_hadoop win7 虚拟机_11

[root@niit-master local]# ll

hadoop win7 虚拟机 虚拟机装hadoop_xml_12

  1. 配置 hadoop 和 jdk 的环境配置
    进入 /etc/profile 文件
[root@niit-master local]# vi /etc/profile

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_13

在文件最下面输入下述内容

export JAVA_HOME=/usr/local/jdk1.8.0_231
export PATH=$PATH:$JAVA_HOME/bin
export HADOOP_HOME=/usr/local/hadoop-2.9.2
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

hadoop win7 虚拟机 虚拟机装hadoop_大数据_14

更新配置文件到系统中

[root@niit-master jdk1.8.0_231]# source /etc/profile

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_15

  1. 检查 jdk 和 hadoop 是否安装成功
[root@niit-master jdk1.8.0_231]# java -version

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_16

[root@niit-master jdk1.8.0_231]# hadoop version

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_17

3. 创建相关文件

[root@niit-master hadoop]# cd /opt
[root@niit-master opt]# ll
总用量 0
[root@niit-master opt]# mkdir hadoop
[root@niit-master opt]# cd hadoop/
[root@niit-master hadoop]# mkdir tmp
[root@niit-master hadoop]# mkdir namenode
[root@niit-master hadoop]# mkdir datanode

hadoop win7 虚拟机 虚拟机装hadoop_hadoop win7 虚拟机_18

4. hadoop配置

[root@niit-master hadoop]# pwd
/usr/local/hadoop-2.9.2/etc/hadoop

hadoop win7 虚拟机 虚拟机装hadoop_hadoop win7 虚拟机_19

  1. 配置 hadoop-env.sh 文件
[root@niit-master hadoop]# vi hadoop-env.sh

hadoop win7 虚拟机 虚拟机装hadoop_xml_20

export JAVA_HOME={JAVA_HOME} 更改为

hadoop win7 虚拟机 虚拟机装hadoop_xml_21

export JAVA_HOME=/usr/local/jdk1.8.0_231

hadoop win7 虚拟机 虚拟机装hadoop_hadoop win7 虚拟机_22

  1. 配置 core-site.xml 文件
[root@niit-master hadoop]# vi core-site.xml

hadoop win7 虚拟机 虚拟机装hadoop_大数据_23

<configuration></configuration> 中间加入下面代码

<!-- 指定Hadoop运行时产生文件的存储目录 -->
<property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/hadoop/tmp</value>
</property>

<!-- 指定HDFS中NameNode的地址 -->
<property>
<name>fs.defaultFS</name>
    <value>hdfs://192.168.56.104:9000</value>
</property>

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_24

  1. 配置 hdfs-site.xml 文件
[root@niit-master hadoop]# vi hdfs-site.xml

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_25

<configuration></configuration> 中间加入下面代码

<!-- 指定HDFS副本的数量 -->
<property>
	<name>dfs.replication</name>
	<value>1</value>
</property>

<property>
  <name>dfs.namenode.name.dir</name>
  <value>/opt/hadoop/namenode</value>
  <description>指定namenode文件夹位置位置 </description>
</property>

<property>
  <name>dfs.datanode.data.dir</name>
  <value>/opt/hadoop/datanode</value>
  <description>datanode文件夹位置位置</description>
</property>

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_26

  1. 配置 mapred-site.xml 文件
    没有 mapred-site.xml 文件,需要 mapred-site.xml.template 重命名为 mapred-site.xml
[root@niit-master hadoop]# mv mapred-site.xml.template mapred-site.xml

hadoop win7 虚拟机 虚拟机装hadoop_大数据_27

[root@niit-master hadoop]# vi mapred-site.xml

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_28

<configuration></configuration> 中间加入下面代码

<property>
        <name>maperduce.framework.name</name>
        <value>yarn</value>
</property>

hadoop win7 虚拟机 虚拟机装hadoop_hdfs_29

  1. 配置 yarn-site.xml 文件
[root@niit-master hadoop]# vi yarn-site.xml

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_30

<configuration></configuration> 中间加入下面代码

<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
</property>

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_31

5. 启动hadoop

  1. 初始化 hadoop
[root@niit-master hadoop]# hdfs namenode -format

hadoop win7 虚拟机 虚拟机装hadoop_xml_32


出现 successfully 说明初始化 hadoop 成功

hadoop win7 虚拟机 虚拟机装hadoop_大数据_33

  1. 查看进程
[root@niit-master hadoop]# jps

hadoop win7 虚拟机 虚拟机装hadoop_大数据_34

  1. 启动 hadoop
[root@niit-master hadoop]# start-all.sh

hadoop win7 虚拟机 虚拟机装hadoop_xml_35


对于出现的询问,全部输入 yes 和密码即可

hadoop win7 虚拟机 虚拟机装hadoop_hadoop_36

  1. 再次查看进程
[root@niit-master hadoop]# jps

hadoop win7 虚拟机 虚拟机装hadoop_大数据_37

  1. 查看网址
    在网页上输入:192.168.56.104:50070 查看是否可以打开网页

hadoop win7 虚拟机 虚拟机装hadoop_大数据_38