温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。


1.文档编写目的




前面Fayson写过《​​如何使用Cloudera Manager启用HDFS的HA​​》,YARN的HA架构和HDFS的HA类似,需要启动两个ResourceManager,这两个ResourceManager会向ZooKeeper集群注册,通过ZooKeeper管理它们的状态(Active和Standby)并进行自动故障转移。本篇文章主要讲述如何使用Cloudera Manager启用YARN的HA。


  • 内容概述

1.启用YARN HA

2.YARN HA功能可用性测试


  • 测试环境

1.CM和CDH版本为5.13.0


  • 前置条件

1.拥有Cloudera Manager的管理员账号

2.CDH集群已安装成功并正常使用


2.启用YARN HA



1.使用管理员用户登录Cloudera Manager的Web管理界面,进入YARN服务


如何使用Cloudera Manager启用YARN的HA_hive


2.点击“启用High Avaiability”,选择ResourceManager主机


如何使用Cloudera Manager启用YARN的HA_hadoop_02


如何使用Cloudera Manager启用YARN的HA_hive_03


3.点击“继续”,启用ResourceManager HA


如何使用Cloudera Manager启用YARN的HA_hadoop_04


4.点击“完成”,查看YARN服务实例


如何使用Cloudera Manager启用YARN的HA_hive_05


可以看到YARN的ResourceManager实例为两个,一个是活动状态,一个是备用状态,至此已完成YARN HA的启用,那么接下来就测试下YARN HA功能的可用性。


3.Yarn HA功能可用性测试




1.ResourceManager服务状态


如何使用Cloudera Manager启用YARN的HA_hadoop_06


2.向集群提交一个WordCount作业


[root@ip-172-31-6-148 hadoop-mapreduce]# hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount /wordcount/in /wordcount/out


如何使用Cloudera Manager启用YARN的HA_hadoop_07


3.在作业运行期间,将Active状态的ResourceManager服务kill


如何使用Cloudera Manager启用YARN的HA_cloudera_08


4.ResourceManager实例的状态显示


如何使用Cloudera Manager启用YARN的HA_hadoop_09


5.WordCount作业正常完成


如何使用Cloudera Manager启用YARN的HA_hadoop_10


6.Yarn的8088显示作业成功


如何使用Cloudera Manager启用YARN的HA_hive_11


可以看到启用ResourceManager 的HA后,运行的MR作业不会因为ResourceManager其中一个服务挂掉而导致作业退出。



为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。




推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

如何使用Cloudera Manager启用YARN的HA_hadoop_12

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操