Hadoop安装手册
书接上文,本文主要包括关闭防火墙,设置免密登录,安装jdk,安装Hadoop
本文分为四个部分。
第五部分 关闭防火墙
多个节点之间相互计算可能受到防火墙的阻拦,要关闭防火墙并且设置开机不启动。
1.查看防火墙状态
systemctl status firewalld.service
2.关闭防火墙
Systemctl strop firewalld.service
3.查看服务开启启动项列表
systemctl list-unit-files
4.设置防火墙开机不自动启动
systemctl disable firewalld.service
第五部分 设置免密登录
通信加密通信协议,即SSH(Secure Shell)。使用非对称加密方式,传输内容使用rsa或者dsa加密,可以避免网络窃听。hadoop的进程之间同信使用ssh方式,需要每次都要输入密码。为了实现自动化操作,需要配置ssh免密码登陆方式。。
1.首先生成公私钥
ssh-keygen -t rsa
2.打开用户目录下的.ssh目录
cd
cd .ssh
3.将公钥文件拷贝成authorized_keys
cp id_rsa.pub authorized_keys
4.验证
第六部分 JDK安装
安装Hadoop需要先安装Linux系统的JDK
1.复制jdk文件(.tar.gz格式)到用户目录下
在此目录下新建java目录,将安装包移动到该目录下解压
tar -xzvf 压缩包名称
将解压后目录名用mv命令重命名为jdk
2.卸载已有jdk(可选)
查询已安装包名中包含jdk的
rpm -qa |grep jdk
卸载方法
rpm -e 包名
使用java -version命令验证看是否卸载完全了
3.打开并编辑用户目录下的.\bashrc文件
vim ~/.bashrc
在正文的后面添加以下内容
export JAVA_HOME=/home/yumoyao/java/jdk
export PATH=$PATH:$JAVA_HOME/bin
保存退出
让该文件立即生效
source ~/.bashrc
4.可以输入java -version命令查看是否安装成功
安装成功!
第七部分 Hadoop安装
1.首先将hadoop安装包复制到用户目录下,新建hadoop目录。将安装包移动到该目录下解压。
将解压完成后的目录(hadoop-2.6.2)改名为hadoop(为了方便)
2.将hadoop根目录下的bin目录和sbin目录路径加入到PATH中
更改~/.bashrc文件如下
export JAVA_HOME=/home/ryan/java/jdk
export HADOOP_HOME=/home/ryan/hadoop/hadoop
export PATH=JAVA_HOME/bin:HADOOP_HOME/sbin
3.改完后,执行source命令令其立即生效
使用hadoop version验证是否成功
4.配置hadoop
在$HADOOP_HOME/etc/hadoop/目录下
需要配置以下文件
export JAVA_HOME=/home/yumoyao/java/jdk
export JAVA_HOME=/home/yumoyao/java/jdk
在core-site.xml中的configuration标签中添加以下变量和值
<property>
<name>fs.defaultFS</name>
<value>hdfs://node-1:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/yumoyao/hadoop/hadoop/tmp</value>
</property>
到这里就完成了