prefaceNFS作为业界常用的共享存储方案,被众多公司采用。我司也不列外,使用NFS作为共享存储,为前端WEB server提供服务,主要存储网页代码以及其他文件。高可用方案说道NFS,不得不说它的同步技术,同步技术有两种,第一种就是借助RSYNC+inotify来实现主从同步数据。第二种借助DRBD,实现文件同步。 上诉两种方案都没有实现高可用,只是实现了两者数据同步。但是业务要求NFS服务
转载 2024-07-19 10:04:08
215阅读
架构设计三大定律墨菲定律任何事没有表面看起来那么简单所有的事都会比预计的时间长 - 可能出错的事情总会出错 - 担心某种事情发生,那么它就更有可能发生康威定律系统架构师公司组织架构的反映 按照业务闭环进行系统拆分/组织架构划分,实现闭环、高内聚、低耦合,减少沟通成本如果沟通出现问题,应该考虑进行系统和组织架构的调整 适合时机进行系统拆分。不要一开始就吧系统、服务拆分拆的非常细,虽然闭环,但是每个人
转载 2024-04-03 22:37:19
73阅读
1.前言在最近项目开中,为了减少前台搜索对数据库访问压力,入库的物料都需要同步一份数据到ES,让前台搜索直接访问ES,不直接访问数据库获取数据。一开始做法是代码串行先保存到数据库,再同步到ES。但是会有一个坑,如果两者其一保存数据不成功,就会导致数据库跟ES数据不一致,而且这种方式是对站点代码是有侵入式的。搜索相关资料发现阿里的canal这个增量数据订阅&消费的中间件可以无侵入式地有效解决
转载 2024-04-19 16:22:23
91阅读
目录一、HDFS-HA集群配置1.1 配置HDFS-HA集群1.2 启动HDFS-HA集群1.3 配置HDFS-HA自动故障转移问题解决:二、YARN-HA配置2.1 配置YARN-HA集群2.2 启动YARN一、HDFS-HA集群配置1.1 配置HDFS-HA集群1.HDFS 高可用集群规划,请保证 Hadoop 完全分布式和 ZooKeeper 完全分布式环境已经安装完成。(这两个分布式环境在
转载 2023-08-07 19:48:37
178阅读
一、Git项目搭建1.创建工作目录及常用指令工作目录(WorkSpace)一般是希望Git帮助管理的文件夹,可以是自己项目的目录,也可以是一个空目录,但是工作目录不要有中文。日常使用的六个命令2.本地仓库搭建创建本地仓库的办法有两种:一种是创建全新的仓库,另一种是克隆远程仓库①创建全新的仓库,需要用Git管理的项目的根目录执行git init 在当前目录新建一个Git代码库执行
转载 2024-04-12 19:29:22
111阅读
部署高可用Ingress官网地址https://kubernetes.github.io/ingress-nginx/deploy/获取ingress的编排文件wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/master/deploy/static/mandatory.yaml 增加节点标签kubectl label
转载 2024-05-12 22:28:02
226阅读
1. 系统集群式部署单点系统,一旦出故障整个系统都瘫痪,非常酸爽,所以在大型系统中都采用集群部署,某台实例出现了问题直接踢掉负载就好了,不必担心系统是单点这种尴尬场景。尤其是在电商系统中大促的场景下,都会有一些备份机器,担心机器不够用那么直接扩容吧。2. 减少系统间依赖在系统里尽量的避免外部依赖、第三方依赖等,毕竟命运掌握在自己手里才是最有把握的。试想一种场景,如果因为你依赖的外部服务挂了导致自己
转载 2023-09-29 21:25:49
150阅读
HA高可用搭建系统环境:[root@ha1 ha.d]# uname -aLinux ha1 2.6.18-238.el5 #1 SMP Thu Jan 1315:51:15 EST 2011 x86_64 x86_64 x86_64 GNU/Linuxha1:192.168.0.2ha2:192.168.0.3heartbeat 虚ip:192.168.0.4所用到的安装包:wgetftp://
原创 2013-06-08 17:30:03
672阅读
# 搭建可用 OpenStack ## 引言 OpenStack 是一个开源的云计算平台,广泛应用于私人和公共云的构建。为了确保高可用性(HA),在部署 OpenStack 时,必须考虑到系统的冗余性和故障转移能力。本文将介绍搭建可用 OpenStack 的基本步骤,并提供相关代码示例,让你在搭建过程中更得心应手。 ## 高可用性概念 高可用性指的是系统在遭遇故障时仍能持续提供服务的能
原创 8月前
99阅读
hadoop的高可用搭建可用的原理完全分布式 只有一个namenode 单点故障 hadoop集群的高可用 集群有2个namenode 同一时间有一个对外提供服务 active namenode 另一个namenode 热备 stanby namenode 一旦active的宕机 stanby立即切换为actice 客户端感觉集群一直有namenode 如何实现: 保证两件事: 1)stanb
Yarn高可用架构重温解决NameNode单点故障问题 ResoueceManager:负责整个集群的资源统筹和管理(只有一个active状态,另外一个为standby状态,active的挂掉之后,standby切换为active,之后active挂掉的节点重新加入集群会处于standby) NameNode:一个中心服务器,负责管理文件系统的namespace以及客户端对文件的访问。NameNo
目录一、Hadoop 2.0 改进与提升二、YARN资源管理框架1、YARN体系结构(1)ResourceManager(2)NodeManager(3)ApplicationMaster2、YARN工作流程三、HDFS的高可用1、HDFS的高可用架构四、Hadoop高可用集群的搭建1、部署集群节点五、配置高可用集群1、修改 hadoop-env.sh 文件2、修改 core-site.xml 文
keepalived高可用搭建
原创 2018-11-13 19:03:14
327阅读
一、节点规划hadoop1、hadoop2HMasterhadoop3、hadoop4、hadoop5HRegionServer二、配置环境变量export HBASE_HOME=/usr/local/hbase export PATH=:$HBASE_HOME/bin:$PATH三、解压hbase四、修改配置参数1.hbase-env.sh[root@hadoop1&nbsp
原创 2017-11-10 10:58:12
1203阅读
2点赞
PS:视频一直就是在演示   高可用(比较偏运维一点)  PS: Active是对外提供服务的,standBy是从属备用的;但是他们是怎样保证同步的数据的呢?一个运行中zookeeper上的第三方那个工具 qJournal PS:什么时候感知到服务挂了呢,进行切换呢?就是使用zkfc技术 PS:namenode的安全模式PS:Ferdaration是就是由多个HD
HA 高可用集群搭建与使用搭建问题总结1、搭建不会生成data目录原因2、HA不会自动转移问题一、HA概述二、 HDFS-HA工作机制1、HDFS-HA工作要点2、HDFS-HA自动故障转移工作机制1)故障检测2)现役NameNode选择1)健康监测2)ZooKeeper会话管理3)基于ZooKeeper的选择三、配置HDFS-HA集群1、官方地址2. 在opt目录下创建一个ha文件夹3. 将/
1:准备阶段两台服务器一主一从我这里采用了yum的方式进行安装,如想使用rpm安装,请自行下载rpm包安装epel拓展源国外的速度是在是太慢,我这里选择了阿里的拓展源,PS  感谢马云。[root@tudou ~]# rm -rf /etc/yum.repos.d/*  [root@tudou ~]# wget&nbs
原创 2016-08-08 09:05:04
1673阅读
Eureka高可用 1.设置服务器之间的host,测试环境是在window10上搭建的,所以去修改C:\Windows\System32\drivers\etc文件,如下: 2.创建项目:3.编辑配置文件: application.yml:   #一组服务需要使用相同的服务名称,才能被识别为一组!   application:     name: eureka-server applicatio
转载 2020-04-27 22:30:00
506阅读
2评论
hive 的搭建方式有三种,分别是1、Local/Embedded Metastore Dat
原创 2022-07-02 00:06:56
217阅读
可用架构搭建是现代IT基础架构的关键组成部分,目的是实现系统的持续在线和业务的无缝运行。在本文中,我们将细致探讨高可用架构的构建过程,包括环境准备、分步指导、配置详解、验证测试、优化技巧与排错指南。 ## 环境准备 ### 前置依赖安装 在搭建可用架构之前,需确保相关依赖的安装。0-1-1 的第一个依赖项目是数据库服务(如MySQL或PostgreSQL),第二个是应用服务器(如Ngin
  • 1
  • 2
  • 3
  • 4
  • 5