一、背景 在Hadoop 2.0.0之前,HDFS集群中只有一个namenode,如果namenode故障,那么这个集群将不可用,直到namenode重启或者其他namenode接入。有两种方式会影响集群的整体可用性:1、意外的突发事件,比如物理机器crash,集群将不可用,直到管理员重启namenode。 2、系统维护,比如软件升级等,需要关闭namenode,也会导致集群暂时性的失效。HDFS
原创 2022-04-22 10:33:42
148阅读
HDFS使用QJM实现HA集群
原创 2022-01-12 15:54:24
176阅读
hadoop集群搭建
原创 2018-04-12 12:10:06
2845阅读
2点赞
        相信在看了上一篇博客《带你快速认识NamenodeHA和Yarn HA,为搭建HadoopHA集群打下基础!》后,大家一定对于如何搭建HA集群非常期待٩(๑❛ᴗ❛๑)۶不要慌,本篇博客即将为大家带来搭建HA集群的详细教程!      &nbs...
原创 2021-06-01 17:30:47
473阅读
1.集群规划: 主机名 IP 安装的软件 执行的进程 drguo1 192.168.80.149 jdk、hadoop NameNode、DFSZKFailoverController(zkfc)、ResourceManager drguo2 192.168.80.150 jdk、hadoop Na
转载 2017-07-02 09:46:00
202阅读
2评论
一、工具准备 1、7台虚拟机(至少需要3台),本次搭建以7台为例,配好ip,关闭防火墙,修改主机
原创 2022-07-20 18:03:42
130阅读
        相信在看了上一篇博客《带你快速认识NamenodeHA和Yarn HA,为搭建HadoopHA集群打下基础!》后,大家一定对于如何搭建HA集群非常期待٩(๑❛ᴗ❛๑)۶不要慌,本篇博客即将为大家带来搭建HA集群的详细教程!      &nbsp
原创 2022-04-01 14:04:46
92阅读
基于ZooKeeper的Hadoop HA集群搭建
原创 2018-01-25 20:58:18
1076阅读
一、准备物理集群。1、物理集群搭建方式。采用搭建3台虚拟机的方式来部署3个节点的物理集群。2、虚拟机准备。准备一个已近建好的虚拟机进行克隆。(建议为没进行过任何操作的)在要选择克隆的虚拟机上右击鼠标,管理,克隆。在弹出对话框中进行以下操作。(1)、下一步。(2)、选择虚拟机中的当前状态,下一步。(3)、选择创建完整克隆,下一步。(4)、输入虚拟机名称,下一步。(5)、克隆完成。(6)、按照
原创 2019-10-26 15:25:32
2302阅读
1点赞
# 新建的虚拟机,可以更改为与文档中相同的主机名 hostnamectl set-hostname master hostnamectl set-hostname slave1 hostnamectl set-hostname slave2 .ssh免密登录 1),生成秘钥(群发) ssh-keyg ...
转载 2021-10-21 18:43:00
138阅读
2评论
四台机器 bei1 bei2 bei3 bei4NNDNZKZKFCJNRMNM(任务管理)bei1 YYYbei2 YYYYYYYbei3 YYYYbei4YYY1、升级组件以及关闭防火墙    yum -y update      PS: 如果使用本地yum源可省略该项      新开
原创 2016-03-08 23:40:30
554阅读
将NN分别部署在hadoop203和hadoop204两台主机上,且保证两台主机配置完全一致包括ssh
原创 2023-06-15 14:10:33
38阅读
hadoop2 比 hadoop1的一些新的功能:其中HA解决了hadoop1的单点故障问题1) 各节点:namenode:master   slave3datanode:slave1  slave2  slave3journalnode:master  slave1  slave3zookeeper: master &nbsp
原创 2015-05-31 18:48:32
1227阅读
进入到zookeeper的环境目录下 进入conf文件夹拷贝一份zoo_sample.cfg文件 出来重新命名 zoo.cfg修改配置文件内容,添加方式为 server.1+主机名+端口这里写上zookeeper安装目录里的data中通过 source 对配置文件进行刷新操作创建一个data目录在文件目录中创建myid文件写上1 在etc/hosts 目录下配置好要分布服务器ip和名字hdfs-s
配置时的操作步骤记录了下来。包括使用的命令和命令的执行结果。
原创 2018-01-15 09:27:23
3509阅读
搭建Hadoop HA的详细教程​​前置工作​​​​配置host文件​​​​ssh免密登录​​​​JDK的配置​​​​ZooKeeper配置​​​​Hadoop HA配置文件​​​​core-site.xml​​​​hdfs-site.xml​​​​mapred-site.xml​​​​yarn-site.xml​​​​启动与测试​​前置工作配置host文件在每个节点的​​/etc/hosts​​
原创 2022-04-20 16:21:35
1340阅读
1点赞
# Hadoop HA集群 Ansible ## 概述 Hadoop是一个开源的分布式计算平台,它提供了可靠的数据存储和处理能力。HA(高可用性)是Hadoop集群中一个重要的特性,它保证了集群的可用性和容错性。Ansible是一个自动化工具,可以帮助我们快速搭建和管理Hadoop HA集群。 在本文中,我们将会介绍如何使用Ansible来搭建和配置Hadoop HA集群,包括主节点和备节点
原创 9月前
59阅读
文章目录集群规划zookeeperhdfs启动HDFS-HA集群集群规划note01note02note03NameNodeNameNodeJournalNodeJournalNodeJournal
原创 2022-02-16 09:56:25
191阅读
进入到执行:/soft/hadoop-2.7.1/etc/hadoop_cluster$ gedit hdfs-site.xml[配置部分][hdfs-site.xml]1.配置名称服务:dfs.nameservices名称服务的逻辑名。<property>  <name>dfs.nameservices</name>  
原创 2016-07-09 08:09:22
765阅读
MRAppMaster中如果ResourceManager 宕机了怎么办,与hadoop中的namenode问题一样,同样
  • 1
  • 2
  • 3
  • 4
  • 5