前言:

MySQL作为目前全世界嘴广泛的免费数据库,相信所有从事运维的工程师都一定接触过,但在实际生产中,单台MySQL是不能满足实际生成需求的,因此,主从复制的方式同步数据,读写分离来提升数据库的并发负载能力。

一、MySQL主从复制类型

1、支持的复制类型

  1. 基于语句的复制(statement):在服务器上执行sql语句,在从服务器上执行同样的语句,mysql默认采用基于语句的复制,执行效率高
  2. 基于行的复制(row): 把改变的内容复制过去,而不是把命令在从服务器上执行一遍
  3. 混合类型的复制(mixed): 在服务器上执行sql语句,在从服务器上执行同样的语句,mysql默认采用基于语句的复制,执行效率高

2、主从复制的工作过程是基于日志

master 二进制日志

slave中继日志

3、请求方式

I/O线程

dump线程

SQL线程

4、主从复制的原理

  1. Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中
  2. Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求 Master的二进制事件
  3. 同时Master节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存至Slave节点本地的中继日志(Relay log)中
  4. Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成 sql 语句逐一执行,使得其数据和 Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒

注意:复制过程有一个很重要的限制,即复制在 Slave 上是串行化的,也就是说 Master 上的并行更新操作不能在 Slave 上并行操作

中继日志通常会位于OS缓存中,所以中继日志的开销很小

5、用途及条件

  • MYSQL主从复制用途:

实时灾备,用于故障切换

读写分离,提供查询服务

备份,避免影响服务

  • 必要条件

主库开启binlog日志

主从server-id不同

从库服务器能够连通主库

6、MYSQL主从复制存在的问题

主库宕机后,数据可能丢失

从库只有一个SQL Thread,主库写压力大,复制很可能延时

解决办法半同步复制——解决数据丢失的问题

并行复制——解决从库复制延迟的问题

7、MYSQL主从复制延迟

  1. master服务器高并发,形成大量事务
  2. 网络延迟
  3. 主从硬件设备导致——cpu主频、内存io、硬盘io
  4. 本来就不是同步复制、而是异步复制

从库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysql内存中完成,减少磁盘操作

从库使用高性能主机,包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o方面性

从库使用SSD磁盘

网络优化,避免跨机房实现同步

二、主从复制的形式

1、一主多从

MySQL主从复制与读写分离_二进制日志

2、M-S-S

MySQL主从复制与读写分离_服务器_02

3、M-M双主互备(互为主从)

MySQL主从复制与读写分离_二进制日志_03

4、M-M-M

MySQL主从复制与读写分离_服务器_04

三、案例

搭建MySQL主从复制

3.1环境

master服务器: 192.168.131.24    mysql5.7

slave1服务器:192.168.131.19    mysql5.7

slave2服务器:192.168.131.17

3.2、将防火墙关闭

#服务器上都初始化
systemctl stop firewalld
setenforce 0

MySQL主从复制与读写分离_二进制日志_05

3.3、搭建mysql主从复制

3.3.1、搭建时间同步(192.168.131.24)

#安装时间同步服务器
yum install ntp -y

#修改配置文件
vim /etc/ntp.conf
server 127.127.131.0 #设置本地时钟源
fudge 127.127.131.0 stratum 8 #设置时间层级为8 限制在15 以内

#开启服务
service ntpd start

MySQL主从复制与读写分离_mysql_06

MySQL主从复制与读写分离_二进制日志_07

MySQL主从复制与读写分离_二进制日志_08

3.3.2、从服务器1:192.168.131.19

#安装时间同步服务器
yum -y install ntp ntpdate
#开启服务
service ntpd start
#执行同步
/usr/sbin/ntpdate 192.168.131.50 #执行时间同步,指向(master服务器)
#计划定时任务
Crontab -e
*/30 * * * * /usr/sbin/ntpdate 192.168.131.50

服务器1

MySQL主从复制与读写分离_二进制日志_09

MySQL主从复制与读写分离_二进制日志_10

MySQL主从复制与读写分离_服务器_11

服务器2

MySQL主从复制与读写分离_mysql_12

MySQL主从复制与读写分离_mysql_13

3.3.3、配置MYSQL MASTER主服务器

开启二进制文件
vim /etc/my.cnf

log-bin=master-bin #开启二进制日志
binlog_format=MIXED #二进制日志格式
log-slave-updates=true #开启从服务器同步

重启服务
systemctl restart mysqld

登录数据库,给从服务器在网段授权
mysql -uroot -p
grant replication slave on *.* to 'myslave'@'192.168.131.%' identified by '123456';

刷新数据库
flush privileges;
查看主服务器二进制文件
show master status;

MySQL主从复制与读写分离_二进制日志_14

MySQL主从复制与读写分离_服务器_15

MySQL主从复制与读写分离_服务器_16

3.3.4、配置从服务器(192.168.131.19 192.168.131.17)

开启二进制日志
vim /etc/my.cnf
server-id = 2 #slave1和slave2的id不能相同
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
relay_log_recovery=1 #可以在第二个从加上中继日志恢复

重启服务
systemctl restart mysqld

登录MySQL数据库,配置同步master_log_file和master_log_pos的值要和master查询的一致
mysql -uroot -p
change master to master_host='192.168.131.24',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=604;

启动同步
start slave;
show slave status\G;

下面俩个需要都是yes
Slave_IO_Running: Yes
Slave_SQL_Running: Yes

以上配置从服务器192.168.131.17一样的配置上

服务器1

MySQL主从复制与读写分离_二进制日志_17

MySQL主从复制与读写分离_二进制日志_18

MySQL主从复制与读写分离_二进制日志_19

MySQL主从复制与读写分离_服务器_20

服务器2

MySQL主从复制与读写分离_服务器_21

MySQL主从复制与读写分离_服务器_22

MySQL主从复制与读写分离_mysql_23

MySQL主从复制与读写分离_mysql_24

3.4、验证主从同步

#在主服务器上创建一个库
create database yr;

#在从服务器上查看
show databases;

主:

MySQL主从复制与读写分离_mysql_25

从1:

MySQL主从复制与读写分离_mysql_26

从2:

MySQL主从复制与读写分离_服务器_27

四、读写分离

4.1、什么是读写分离

1、读写分离基本原理

基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

2、MySQL 读写分离原理

读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性操作,而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。

常见的MySQL读写分离方式为以下两种:

1)基于程序代码内部实现

优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手。 

2)基于中间代理层实现

代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库

  • 由于使用MySQL Proxy 需要写大量的Lua脚本,这些Lua并不是现成的,而是需要自己去写。这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的。
  • Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。

3、为什么要读写分离

  • 因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的。
  • 但是数据库的“读”(读10000条数据可能只要5秒钟)。
  • 所以读写分离,解决的是,数据库的写入,影响了查询的效率。

4、什么时候要读写分离

  • 数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。
  • 利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。

五、读写分离实验

环境:

master服务器: 192.168.131.24    mysql5.7

slave1服务器:192.168.131.19    mysql5.7

slave2服务器:192.168.131.17

amoeba:192.168.131.18

5.1、按照java及其环境

#准备按照包jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz 
cd /opt

#把jdk复制到/usr/local下
cp jdk-6u14-linux-x64.bin /usr/local/

#赋予jdk权限并执行
chmod +x /usr/local/jdk-6u14-linux-x64.bin
cd /usr/local/
./jdk-6u14-linux-x64.bin #一路回车到底,最后输入yes 自动安装

#jdk改个名字
mv jdk1.6.0_14/ jdk1.6

#配置环境并刷新
vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin

source /etc/profile #刷新配置文件

jdk复制到/usr/local下

MySQL主从复制与读写分离_二进制日志_28

赋予jdk权限并执行

MySQL主从复制与读写分离_服务器_29

MySQL主从复制与读写分离_mysql_30

MySQL主从复制与读写分离_mysql_31

MySQL主从复制与读写分离_二进制日志_32

给jdk改名

MySQL主从复制与读写分离_服务器_33

配置环境

MySQL主从复制与读写分离_服务器_34

MySQL主从复制与读写分离_mysql_35

MySQL主从复制与读写分离_mysql_36

5.2、配置amoeba

############## 安装amoeba ###########

1.#在/usr/local目录下创建amoeba目录
mkdir /usr/local/amoeba

2.#切换至opt解压amoeba
cd /opt/
tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba

cd /usr/local/ 切换至目录查看


3.#给目录/usr/local/amoeba赋予执行权限
chmod -R 755 /usr/local/amoeba/

4.#运行amoeba
/usr/local/amoeba/bin/amoeba


###########配置 Amoeba读写分离 ####
5.#先在Master、Slave1mysql上开放权限给 Amoeba 访问
grant all on *.* to test@'192.168.131.%' identified by '123456';
flush privileges;

6.#备份amoeba配置
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
cp dbserver.dtd dbserver.dtd.bak

7.#修改amoeba配置
vim amoeba.xml
30 <property name="user">amoeba</property>
#设置登录用户名
32<property name="password">123456</property>
#设置密码

115<property name="defaultPool">master</property>
#设置默认池为master
118<property name="writePool">master</property>
#设置写池
119<property name="readPool">slaves</property>
#设置读池

vim dbServers.xml
23 <!-- <property name="schema">test</property> -->
#23行注释
26<property name="user">test</property>
#设置登录用户
28 <!-- mysql password -->
#删除
29<property name="password">123456</property>
#解决28注释,添加密码

45<dbServer name="master" parent="abstractServer">
#服务池名
48<property name="ipAddress">192.168.131.24</property>
#添加地址

52<dbServer name="slave1" parent="abstractServer">
55<property name="ipAddress">192.168.131.19</property>
复制6行 添加另一从节点
59<dbServer name="slave2" parent="abstractServer">
62<property name="ipAddress">192.168.131.17</property>

66<dbServer name="slaves" virtual="true">
#定义池名
72<property name="poolNames">slave1,slave2</property>
#写上从节点名

8.#启动amoeba,并测试
amoeba start
netstat -ntap |grep java

/usr/local目录下创建amoeba目录,切换到opt解压amoeba

MySQL主从复制与读写分离_mysql_37

MySQL主从复制与读写分离_二进制日志_38

目录/usr/local/amoeba赋予执行权限

MySQL主从复制与读写分离_服务器_39

运行amoeba

MySQL主从复制与读写分离_mysql_40

先在Master、Slave1和2的mysql上开放权限给 Amoeba 访问

MySQL主从复制与读写分离_mysql_41

MySQL主从复制与读写分离_mysql_42

MySQL主从复制与读写分离_mysql_43

备份amoeba配置

MySQL主从复制与读写分离_二进制日志_44

修改配置文件

MySQL主从复制与读写分离_服务器_45

MySQL主从复制与读写分离_服务器_46

第二个配置文件

MySQL主从复制与读写分离_二进制日志_47

MySQL主从复制与读写分离_mysql_48

MySQL主从复制与读写分离_mysql_49

启动amoeba

MySQL主从复制与读写分离_二进制日志_50

MySQL主从复制与读写分离_二进制日志_51

5.3、测试(192.168.131.18)

1.#安装mariadb
yum install mariadb mariadb-server.x86_64 -y

2.#登入并查看数据库
mysql -uamoeba -p123123 -h 192.168.59.113 -P8066


3.#测试同步
##在主服务器服务器上新建表
use test1;
create table info(id int(10),name char(40));
show tables;

##在客户机上,插入数据会同步到所有数据库中
use test1;
insert into info values(1,'小明');

##在主从服务器上查看

4.#测试读写分离
#停止slave1和slave2的slave同步功能
stop slave;

#在master、slave1和slave2上插入数据

安装mariadb

MySQL主从复制与读写分离_二进制日志_52

登录数据库查看是否是主服务器数据

MySQL主从复制与读写分离_二进制日志_53

测试

MySQL主从复制与读写分离_服务器_54

测试在客户机插入数据会不会同步到所有数据库

MySQL主从复制与读写分离_服务器_55

查看主从服务器是否有数据插入

MySQL主从复制与读写分离_服务器_56

MySQL主从复制与读写分离_服务器_57

MySQL主从复制与读写分离_二进制日志_58

测试读写分离

MySQL主从复制与读写分离_服务器_59

MySQL主从复制与读写分离_二进制日志_60

MySQL主从复制与读写分离_服务器_61

MySQL主从复制与读写分离_服务器_62

MySQL主从复制与读写分离_mysql_63

MySQL主从复制与读写分离_服务器_64

MySQL主从复制与读写分离_二进制日志_65

MySQL主从复制与读写分离_mysql_66

MySQL主从复制与读写分离_mysql_67

MySQL主从复制与读写分离_二进制日志_68

MySQL主从复制与读写分离_mysql_69