Hadoop安装手册

书接上文,本文主要包括关闭防火墙,设置免密登录,安装jdk,安装Hadoop

本文分为四个部分。

第五部分 关闭防火墙

多个节点之间相互计算可能受到防火墙的阻拦,要关闭防火墙并且设置开机不启动。

1.查看防火墙状态
systemctl   status   firewalld.service

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_Hadoop

2.关闭防火墙
Systemctl    strop   firewalld.service

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_Hadoop_02

3.查看服务开启启动项列表
systemctl     list-unit-files

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_03

4.设置防火墙开机不自动启动
systemctl    disable    firewalld.service

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_04

第五部分 设置免密登录

通信加密通信协议,即SSH(Secure Shell)。使用非对称加密方式,传输内容使用rsa或者dsa加密,可以避免网络窃听。hadoop的进程之间同信使用ssh方式,需要每次都要输入密码。为了实现自动化操作,需要配置ssh免密码登陆方式。。

1.首先生成公私钥

ssh-keygen    -t     rsa

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_JAVA_05

2.打开用户目录下的.ssh目录

cd 
cd    .ssh

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_JAVA_06

3.将公钥文件拷贝成authorized_keys

cp    id_rsa.pub   authorized_keys

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_07


4.验证

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_08

第六部分 JDK安装

安装Hadoop需要先安装Linux系统的JDK

1.复制jdk文件(.tar.gz格式)到用户目录下
在此目录下新建java目录,将安装包移动到该目录下解压

tar -xzvf 压缩包名称

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_java_09

将解压后目录名用mv命令重命名为jdk

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_10

2.卸载已有jdk(可选)

查询已安装包名中包含jdk的

rpm -qa  |grep  jdk

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_JAVA_11


卸载方法

rpm  -e   包名

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_java_12


使用java -version命令验证看是否卸载完全了

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_JAVA_13

3.打开并编辑用户目录下的.\bashrc文件

vim   ~/.bashrc

在正文的后面添加以下内容

export   JAVA_HOME=/home/yumoyao/java/jdk
export    PATH=$PATH:$JAVA_HOME/bin

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_14

保存退出
让该文件立即生效

source   ~/.bashrc

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_15


4.可以输入java -version命令查看是否安装成功

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_Hadoop_16


安装成功!

第七部分 Hadoop安装

1.首先将hadoop安装包复制到用户目录下,新建hadoop目录。将安装包移动到该目录下解压。

将解压完成后的目录(hadoop-2.6.2)改名为hadoop(为了方便)

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_17

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_18


2.将hadoop根目录下的bin目录和sbin目录路径加入到PATH中

更改~/.bashrc文件如下

export JAVA_HOME=/home/ryan/java/jdk

export HADOOP_HOME=/home/ryan/hadoop/hadoop

export PATH=hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_19JAVA_HOME/bin:hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_Hadoop_20HADOOP_HOME/sbin

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_21

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_22

3.改完后,执行source命令令其立即生效

使用hadoop version验证是否成功

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop_23

4.配置hadoop

在$HADOOP_HOME/etc/hadoop/目录下
需要配置以下文件

hadoop-env.sh

export   JAVA_HOME=/home/yumoyao/java/jdk

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_JAVA_24


yarn-env.sh

export   JAVA_HOME=/home/yumoyao/java/jdk

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_JAVA_25


在core-site.xml中的configuration标签中添加以下变量和值

<property>
<name>fs.defaultFS</name>
<value>hdfs://node-1:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/yumoyao/hadoop/hadoop/tmp</value>
</property>

hadoop永久关闭防火墙命令 hadoop如何关闭防火墙_hadoop永久关闭防火墙命令_26


到这里就完成了