主从复制读写分离

一、MySQL主从复制与读写分离

1.1 主从分离和读写分离的相关概述

1)主从复制与读写分离、

img

在实质际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实院需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。

2)为什么要读写分离

因为数据库的"写"(写10000条数据可能要3分钟)操作是比较耗时的。

但是数据库的"读" (读10000条数据可能只要5秒钟)

所以读写分离,解决的是,数据库的写入,景响了查询的效率。

3)什么时候要读写分离

数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。

4)读写分离的原理

img

读写分离基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT香询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

5)mysql支持的复制类型

STATEMENT∶基于语句的复制。在服务器上执行sgl语句,在从服务器上执行同样的语句,mysgl默认采用基于语句的复制,执行效率高。

ROW∶ 基于行的复制。把改变的内容复制过去, 而不是把命令在从服务器上执行一遍。

MIXED∶混合类型的复制。黑默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。

6)主从复制的工作过程(主写从复制)

在每个事务更新数据完成之前,Master在二进制日志(Binary log)记录这些改变。写入二进制日志完成后,Master通知存储引擎提交事务。

Slave将Master复制到其中继日志(Relay log) 。首先slave开始一个工作线程(I/O),I/0线程在Master上打开一个普通的连接,然后开始Binlog dump process。Binlogdumpprocess从Master的二进制日志中读取事件,如果已经跟上Master,它会睡眠并等待Master产生新的事件,I/O线程将这些事件写入中继日志(缓存中)。

SQL slave thread (SQL从线程)处理该过程的最后一步,SQL线程从中继日志读取事件,并重放其中的事件而更新Slave数据,使其与Master 中的数据一致,只要该线程与I/O 线程保持一致,中继日志通常会位于OS(系统)缓存中,所以中继日志的开销很小。复制过程有一个很重要的限制,即复制在 Slave 上 是串行化的,也就是说Master 上的并行更新操作不能在Slave上并行操作。

7)MySOL主从复制延迟

master服务器高并发,形成大量事务

网络延迟

主从硬件设备导致 cpu主频、内存io、硬盘io

本来就不是同步复制、而是异步复制

从库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysgl内存中完成,减少磁盘操作。从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o方面性。从库使用SSD磁盘

网络优化,避免跨机房实现同步

8)MySQL 读写分离原理

读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性查询,而从数据库处理select查询。数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库。

9)目前较为常见的 MySQL

读写分离分为以下两种∶

(1)基于程序代码内部实现

在代码中根据 select、insert,进行路由分类,这类方法也是目前生产环境应用最广泛的。

优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;

缺点是需要开发人员来实现,运维人员无从下手。

但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。

(2)基于中间代理层实现

代理一般位于客户端和服务器之间, 代理服务器接到客户端请求后通过判断后转发到后端数据库, 有以下代表性程序。

①MySQL-Proxy。 MySQL-Proxy 为 MySOL开源项目, 通过其自带的 lua 脚本进行SOL 判断。

②Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy0.8.2版本的基础上,对其进行了优化, 增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以 及存储过程。

③Amoeba。 由陈思儒开发,作者曾就职于阿里巴巴。该程序由Jaya语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

二、MySQL主从复制与读写分离

2.1 主从复制的步骤(理论)

-----主服务器设置--------

systemctl stop firewalld

systemctl disable firewalld

setenforce 0

##主从服务器时间同步设置##

vim /etc/ntp.conf

##末行添加

server 127.127.153.0 #设置本地是时钟源,注意修改网段

fudge 127.127.153.0 stratum 8 #设置时间层级为8(限制在15内)

-----从服务器设置--------

systemctl stop firewalld

systemctl disable firewalld

setenforce 0

##从服务器设置时间同步

yum install -y ntp ntpdate

service ntpd start

crontab -e #创建定时任务如下

/30 * /usr/sbin/ntpdate 192.168.153.50

-----主服务器MySQL设置--------

vim /etc/my.cnf

##添加以下配置

server-id = 11 #修改服务器id为11

log-bin=master-bin #添加,主服务器开启二进制日志

binlog_format = MIXED #添加,mysql支持的复制类型为MIXED

log-slave-updates=true #添加,允许从服务器更新二进制日志

systemctl restart mysqld.service #重启服务器

mysql -uroot -pabc123

GRANT REPLICATION SLAVE ON . TO 'myslave'@'192.168.153.%' IDENTIFIED BY '123456'; #添加授权

SHOW master status; #查看主服务状态,如下代表正确

+-------------------+----------+--------------+------------------+-------------------+

| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |

+-------------------+----------+--------------+------------------+-------------------+

| master-bin.000001 | 604 | | | |

+-------------------+----------+--------------+------------------+-------------------+

1 row in set (0.01 sec)

#File列显示日志名,Position 列显示偏移量

-----从服务器MySQL设置--------

vim /etc/my.cnf

server-id = 22 #修改,注意id与Master的不同,两个Slave的id也要不同

relay-log=relay-log-bin #添加,开启中继日志,从主服务器上同步日志文件记录到本地

relay-log-index=slave-relay-bin.index #添加,定义中继日志文件的位置和名称

##配置同步,注意master_log_file和master_log_pos的值要与Master查询的一致

change master to master_host='192.168.153.50' , master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=604;

start slave; #启动同步,如有报错执行reset slave;

show slave status\G #查看Slave状态

#确保下面IO和SQL线程都是Yes,代表同步正常。

Slave_IO_Running: Yes #负责与主机的io通信

Slave_SQL_Running: Yes #负责自己的slave mysql进程

#一-般Slave_IO_Running: No的可能性:

1、网络不通

2、my. cnf配置有问题

3、密码、file文件名、pos偏移量不对

4、防火墙没有关闭

2.2 主从复制的实验操作步骤(实操)

实验环境:

主服务器:192.168.153.50 从服务器192.168.153.60 ,192.168.153.70

img

第一步:主服务器时间同步设置

1)关闭防火墙和SElinux然后安装ntp服务

img

2)修改配置文件

img

3)开启ntp

img

第二步:从服务器时间同步设置

1)关闭防火墙和SElinux

img

2)安装ntp和ntpdate

img

3)添加定时任务

img

第三步:主服务器的mysql设置

1)主服务器my.cnf配置文件修改

img

2)重启mysql并给从服务器添加授权

img

3)查看主服务器状态

img

第四步:从服务器的mysql设置

1)修改my.cnf配置文件

img

2)重启mysql并设置同步配置

img

3)查看slave状态

img

第五步:测试阶段

1)在主服务上新建TEST库

img

2)在从服务器上直接查看所有库

img

3)在主服务器上创建test表,添加数据

img

4)在从服务器上查看主服务器创建的test表,添加的数据

img

2.3 读写分离的步骤(理论)

#实验环境

Master CentOS7 192.168.153.50

Amoeba CentOS7 192.168.153.80

Slave1 CentOS7 192.168.153.60

Slave2 CentOS7 192.168.153.70

客户端 CentOS7 192.168.153.40

-----Amoeba服务器设置--------

cd /opt/

cp jdk-6u14-linux-x64.bin /usr/local/

cd /usr/local/

chmod +x jdk-6u14-linux-x64.bin

./jdk-6u14-linux-x64.bin

按空格到最后一行,按yes,然后再按enter

mv jdk1.6.0_14/ /usr/local/jdk1.6

vim /etc/profile

## 末行添加下列配置

export JAVA_HOME=/usr/local/jdk1.6

export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin

export AMOEBA_HOME=/usr/local/amoeba

export PATH=$PATH:$AMOEBA_HOME/bin

source /etc/profile

java -version

显示:java version "1.6.0_14" 代表成功

## 安装 Amoeba软件

mkdir /usr/local/amoeba

tar zxvf /opt/amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/

chmod -R 755 /usr/local/amoeba/

/usr/local/amoeba/bin/amoeba

显示:amoeba start|stop 说明安装成功

---- 配置 Amoeba读写分离,两个 Slave 读负载均衡----

## 在Master、Slave1、Slave2 的mysql上开放权限给 Amoeba 访问

mysql -uroot -pabc123

grant all on . to test@'192.168.80.%' identified by '123456';

---- amoeba服务器配置amoeba服务 -----

cd /usr/local/amoeba/conf/

cp amoeba.xml amoeba.xml.bak #备份配置文件

vim amoeba.xml

## 30行修改 ##

<property name="user">amoeba</property>

## 32行修改 ##

<property name="password">123456</property>

## 115行修改 ##

<property name="defaultPool">master</property>

## 117行去掉注释 ##

<property name="writePool">master</property>

<property name="readPool">slaves</property>

cp dbServers.xml dbServers.xml.bak

vim dbServers.xml #修改数据库配置文件

## 23行注释掉 ##

<!-- mysql schema

<property name="schema">test</property>

-->

## 26行修改 ##

<!-- mysql user -->

<property name="user">test</property>

## 28 - 30 行取消注释 ##

<property name="password">123456</property>

## 45行修改 ##

<dbServer name="master" parent="abstractServer">

## 48行修改主服务器id ##

<property name="ipAddress">192.168.80.10</property>

## 52行修改从服务器名slave1 ##

<dbServer name="slave1" parent="abstractServer">

## 55行修改为从服务器slave1的ip ##

<property name="ipAddress">192.168.80.20</property>

## 复制58行上面6行粘贴,设置从服务器2的名slave2和地址

<dbServer name="slave2" parent="abstractServer">

<property name="ipAddress">192.168.80.30</property>

## 65行修改 ##

<dbServer name="slaves" virtual="true">

## 71行修改 ##

<property name="poolNames">slave1,slave2</property>

/usr/local/amoeba/bin/amoeba start& #执行此程序,按Ctrl + c 返回

netstat -anpt | grep java #查看是否开启了8066端口

---- 测试阶段 -----

systemctl stop firewalld

systemctl disable firewalld

setenforce 0

yum install -y mariadb-server mariadb

mysql -u amoeba -p123456 -h 192.168.153.80 -P8066 #通过amoeba服务器代理访问mysql ,在通过客户端连接mysql后写入的数据只有主服务会记录,然后同步给从服务器

## 主服务器 ##

use TEST;

create table test(id int(10),name varchar(10),address varchar(20));

## 两台从服务器 ##

stop slave; #关闭同步

USE TEST;

## slave1 上

insert into test values('1','zhangsan','this_is_slave1');

## slave2 上

insert into test values('2','lisi','this_is_slave2');

## 主服务器 上

insert into test values('3','wanger','this_is_master');

## 客户端 上

use TEST;

select * from test; #客户端会分别向slave1和slave2读取数据,显示的只有在两个从服务器上添加的数据,没有在主服务器上添加的数据

insert into test values('4','赵六','this_is_client'); ##只有主服务器上有此数据

2.4 读写分离的实验操作步骤(实操)

实验环境准备:

设备 IP地址 安装的程序

Master服务器 192.168.153.50 ntp

Amoeba服务器 192.168.153.80 jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz

Slave1服务器 192.168.153.60 ntp 、ntpdate

Slave2服务器 192.168.153.70 ntp 、ntpdate

客户端 192.168.153.20 ——安装mariadb

关闭所有设备的防火墙和SElinux

img

第一步: Amoeba服务器设置

1)执行安装jdk

img

2)将jdk1.6.0_14/移动到 /usr/local/并修改名称为:jdk1.6

img

3)修改/etc/profile主配置文件

img

4)查看java版本

img

5)解压amoeba

img

6)赋予权限并运行

img

第二步: 在Master、slave1和slave2服务器开启amoeba访问

img

第三步: Amoeba服务器设置amoeba服务

1)备份配置文件

img

2)修改amoeba配置文件

img

3)修改dbServers.xml配置文件

img

img

4)确认端口开启状态

img

第四步: 使用客户机进行验证(没安装mysql,这里我用的是mariadb,也是mysql的衍生体)

1)在客户端安装mariadb及客户端

img

2)登陆amoeba查看数据库

img

3)主服务器新建test表

img

4)客户端创建数据,会同步到所有的数据库中

img

5)在主服务器和从服务器进行查看

img

6)在slave1和slave2上停止slave同步

img

7)在master、slave1和slave2

img

8)在客户端创建数据

img

9)在master上确定数据的创建

img

10)在slave1和slave2上查看数据

img