mysql读写分离性能测试 mysql读写分离工具

转载

风华正茂的AI 2023-08-21 15:55:34

文章标签 mysql读写分离性能测试 mysql mycat读写分离 mysql 数据库 java 文章分类 MySQL 数据库

(1).读写分离概述

1)工作原理

读写分离是让主数据库处理事务性增删改操作(insert、delete、update)，让从数据库处理查询查询操作(select)。

2)作用

1.分担负载

2.主从只负责各自的写和读，极大的缓解X锁和S锁争用

3.从库可配置MyISAM引擎，提升查询性能以及节约系统开销

4.增加冗余，提高可用性

3)实现方法

一、应用程序和网站程序的实现。指的是在应用程序内部及连接器中实现读写分离。

优点：1.应用程序内部实现读写分离，安装就可以使用；2. 减少一定部署难度；3.访问压力在一定级别以下，性能很好。

缺点：1.架构一旦调整，代码要跟着变；2.难以实现高级应用，如自动分库，分表；3.无法适用大型应用场景。

二、中间件实现。指的是在外部中间件程序实现读写分离。

优点：1.架构设计更灵活；2.可以在程序上实现一些高级控制，如：透明化水平拆分，failover,监控；3.可以依靠些技术手段提高mysql性能；4.对业务代码的影响小，同时也安全

缺点：需要一定的开发运维团队的支持。

4)常见的Mysql中间键

Cobar、MyCAT、OneProxy、Vitess、Kingshard、Atlas、MaxScale与MySQL Route。

使用mycat原因是这是一款开源的免费的Mysql中间件，基于Cobar基础上二次开发，其功能也是相当完善。而且目前Mycat社区很活跃，支持度比较高，维护短期内应该不会中断。

(2).实验环境

youxi1　　192.168.5.101　　CentOS7.5　　Mysql5.7.16　　Mysql端口3306　　Mycat中间件

youxi2　　192.168.5.102　　CentOS7.5　　Mysql5.7.16　　Mysql端口3306　　Master

youxi3　　192.168.5.103　　CentOS7.5　　Mysql5.7.16　　Mysql端口3306　　Slave

(3).Mycat服务的安装与配置

使用mycat中间件搭建读写分离，那么应访问的是mycat中间件，再由mycat访问主从服务器。

Mycat的官网是

Mycat需要安装JDK1.7或以上版本，我下载的是jdk-8u191-linux-x64.tar.gz，然后上传到youxi1服务器上。

然后解压到/usr/local/目录下

[root@youxi1 ~]# tar zxf Mycat-server-1.6.7.1-release-20190213150257-linux.tar.gz -C /usr/local/

[root@youxi1 ~]# ls /usr/local/

bin etc games include lib lib64 libexec mycat sbin share src

[root@youxi1 logs]# ls /usr/local/mycat/

bin catlet conf lib version.txt

[root@youxi1 logs]# mkdir /usr/local/mycat/logs　　//少一个logs目录就创建一个

添加mysql用户以及修改文件夹权限

[root@youxi1 ~]# useradd mycat

[root@youxi1 ~]# echo "mycat:123456" | chpasswd

[root@youxi1 ~]# chown -R mycat:mycat /usr/local/mycat/

[root@youxi1 ~]# ll /usr/local/mycat/

总用量 12

drwxr-xr-x 2 mycat mycat 190 6月 18 15:30 bin

drwxrwxrwx 2 mycat mycat 6 2月 13 14:46 catlet

drwxrwxrwx 4 mycat mycat 4096 6月 18 15:30 conf

drwxr-xr-x 2 mycat mycat 4096 6月 18 15:30 lib

drwxr-xr-x 2 mycat mycat 6 6月 20 15:09 logs

-rwxrwxrwx 1 mycat mycat 185 2月 13 15:02 version.txt

说明：bin 程序目录，存放了封装成服务的版本，还存放了nowrap的shell脚本命令，方便大家选择和修改。mycat支持的命令有{ console | start | stop | restart | status | dump }

conf目录下存放了配置文件，其中server.xml是Mycat服务器参数调整和用户授权的配置文件，schema.xml是逻辑库、表和分片定义的配置文件，rule.xml是分片规则的配置文件。另外分片规则的一些具体参数信息单独作为一个文件，也是存放在这个目录下。配置文件修改后，需要重启Mycat或者通过9066端口reload。

lib目录下主要存放mycat依赖的一些jar文件。

另外mycat启动后还会生成${sys:MYCAT_HOME}/logs/mycat.log，日志会存放在其中(默认250M上限，时间上限为1天，超出会创建新的日志文件，并且会自动备份)，可以在conf/log4j.xml中配置日志文件，默认输出级别为info，可以调整为debug，输出更多信息方便排错。

注意：Linux下部署安装MySQL，默认不忽略表名大小写，需要手动到/etc/my.cnf下配置lower_case_table_names=1，使Linux环境下MySQL忽略表名大小写，否则使用MyCAT的时候会提示找不到表的错误！

解压JDK，添加jdk的环境变量文件，然后加载环境变量

[root@youxi1 ~]# mkdir /usr/local/java/

[root@youxi1 ~]# tar xf jdk-8u191-linux-x64.tar.gz -C /usr/local/java/

[root@youxi1 ~]# ls /usr/local/java/

jdk1.8.0_191

[root@youxi1 ~]# vim /etc/profile.d/java.sh　　//配置环境变量

JAVA_HOME=/usr/local/java/jdk1.8.0_191

PATH=$JAVA_HOME/bin:$PATH

CLASSPATH=$JAVA_HOME/jre/lib/ext:$JAVA_HOME/lib/tools.jar

export PATH JAVA_HOME CLASSPATH

[root@youxi1 ~]# source /etc/profile.d/java.sh　　//加载环境变量

[root@youxi1 ~]# java -version　　//查看是否生效

java version "1.8.0_191"

Java(TM) SE Runtime Environment (build 1.8.0_191-b12)

Java HotSpot(TM) 64-Bit Server VM (build 25.191-b12, mixed mode)

(4).Mycat启动

添加mycat的环境变量文件，然后加载环境变量

[root@youxi1 ~]# vim /etc/profile.d/mycat.sh

MYCAT_HOME=/usr/local/mycat

PATH=$MYCAT_HOME/bin:$PATH

[root@youxi1 ~]# source /etc/profile.d/mycat.sh

注意：JDK的环境变量和Mycat的环境变量也可以一次性添加到/etc/profile文件中，然后重新加载。不过没有分开编辑好管理。

配置mycat本身的用户信息server.xml文件

[root@youxi1 ~]# vim /usr/local/mycat/conf/server.xml

//直接拉到最后修改部分，设置访问mycat的用户信息，以及其能够访问的逻辑库

　　//设置用户名。如果存在defaultAccount="true"，则表示在不指定用户的情况下，默认以该用户访问mycat。

123456　　//设置当前用户的密码

TESTDB　　//能够访问的逻辑库(虚拟库)，逻辑库需要在同目录下的schema.xml定义

//没有设置任何权限，则默认具有所有权限

　　//设置用户名

123456　　//设置当前用户的密码

TESTDB　　//能够访问的逻辑库(虚拟库)

true　　//设置只读权限

配置schema.xml文件，定义逻辑库信息

[root@youxi1 ~]# cp /usr/local/mycat/conf/schema.xml /usr/local/mycat/conf/schema.xml.bak　　//提供的是分库分表，用法比较高级了

[root@youxi1 ~]# vim /usr/local/mycat/conf/schema.xml

　　//框定服务配置范围

/*schema标签用于定义mycat中的逻辑库。

*name是逻辑库名；

*checkSQLschema默认为false，含义为是否去掉表名前的逻辑库名，只能去除当前定义的逻辑库名；

*sqlMaxLimit是隐式limit，如果查询没有定义limit，则自动加上limit；

*dataNode指定所属的数据节点，也就是常说的数据分片。*/

//dataNote标签用于定义数据节点。name是数据节点名称；dataHost指定所属数据库实例；database指定数据库实例上的实际数据库名(要和真实数据库一样的名字)。

/*dataHost标签用于定义数据库实例。

*name数据库实例名称；

*maxCon指定每个读写实例连接池的最大连接；

*minCon指定每个读写实例连接池的最小连接，初始化连接池的大小

*balance和writeType请看下方说明；

*dbType指定后端连接的数据库类型，支持二进制的mysql协议，以及其他使用JDBC连接的数据库，例如mongodb、oracle、spark等;

*dbDriver指定后端数据库使用的驱动，可选值JDBC和native,其中native对应二进制的mysql协议，即mysql和maridb，其余都使用JDBC;

*switchType请看下发说明

*slaveThreshold slave服务器读的安全边界，如果Seconds_Behind_Master大于这个值，这台slave服务器会被临时剔除，以免被读。*/

//heartbeat标签用于定义心跳语句，用语句执行成功与否来判断数据库的可用性

select user()

/*writeHost和readHost标签都指定数据库的相关配置，用于实例化后端连接池。writeHost定义写实例，readHost定义读实例。

*host是writeHost或readHost的名称，也是唯一标识；

*usrl指定后端实例连接地址；

*user指定后端存储实例需要的用户名(数据库的用户名)；

*password指定后端存储实例需要的密码(数据库用户的密码)；

*weight权重，是配置在readHost中作为读节点的权重*/

注意：如果使用readHost标签，请使用writeHost标签将readHost标签包裹。

说明：

balance负载均衡类型。0表示不开启读写分离，所有读操作(select查询)都发送到当前writeHost上。1表示全部的readHost和备用writeHost都参与读操作(select查询)的负载均衡。2表示读操作随机在writeHost和readHost上发布。3表示所有读操作随机分发到当前writeHost对应的readHost上执行，writeHost不用执行。

writeType负载均衡类型。0表示所有写操作发送到配置的第一个writeHost，挂了后切换到还生存的第二个writeHost，重新启动后以切换后的为准，切换记录在配置文件dnindex.properties中。1表示所有写操作都随机发送到配置的writeHost，mycat1.5以后已经废弃。

switchType切换类型。-1表示不自动切换。1表示自动切换，默认值。2表示基于Mysql主从同步状态决定是否切换，心跳语句为show slave status。3表示基于MySQL galary cluster的切换机制(适合集群)，心跳语句为show status like 'wsrep%'。

启动测试Mycat，并设置开机自启

[root@youxi1 conf]# mycat start　　//因为已经配置环境变量，所以可以不写绝对路径
Starting Mycat-server...
[root@youxi1 conf]# tail /usr/local/mycat/logs/wrapper.log
STATUS | wrapper | 2019/06/20 15:26:47 | --> Wrapper Started as Daemon
STATUS | wrapper | 2019/06/20 15:26:47 | Launching a JVM...
INFO | jvm 1 | 2019/06/20 15:26:47 | Java HotSpot(TM) 64-Bit Server VM warning: ignoring option MaxPermSize=64M; support was removed in 8.0
INFO | jvm 1 | 2019/06/20 15:26:48 | Wrapper (Version 3.2.3) http://wrapper.tanukisoftware.orgINFO | jvm 1 | 2019/06/20 15:26:48 | Copyright 1999-2006 Tanuki Software, Inc. All Rights Reserved.
INFO | jvm 1 | 2019/06/20 15:26:48 |
INFO | jvm 1 | 2019/06/20 15:26:57 | MyCAT Server startup successfully. see logs in logs/mycat.log　　//成功启动
[root@youxi1 conf]# echo "/usr/local/mycat/bin/mycat start" >> /etc/rc.local
[root@youxi1 conf]# chmod +x /etc/rc.d/rc.local
[root@youxi1 conf]# vim /usr/local/mycat/conf/wrapper.conf
wrapper.java.command=/usr/local/java/jdk1.8.0_191/bin/java　　//第5行，指向java注意：如果防火墙是打开的，记得添加mysql的端口号。
[root@youxi1 ~]# firewall-cmd --permanent --zone=public --add-port=8066/tcp
success
[root@youxi2 ~]# firewall-cmd --reload
success
[root@youxi2 ~]# firewall-cmd --zone=public --list-ports
8066/tcp
(5).配置主从复制
1)youxi2上操作
创建mycat中schema.xml文件设置的用户名和密码，以及指定的数据库。创建复制用的用户
mysql> grant all privileges on *.* to 'mycat'@'192.168.5.%' identified by '123456';　　//mycat指定的用户
Query OK, 0 rows affected, 1 warning (0.01 sec)
mysql> grant replication slave on *.* to 'slave'@'192.168.5.%' identified by '123456';　　//复制用的用户
Query OK, 0 rows affected, 1 warning (0.00 sec)
mysql> flush privileges;　　//刷新权限表
Query OK, 0 rows affected (0.00 sec)
mysql> create database ha;　　//mycat指定的数据库
Query OK, 1 row affected (0.00 sec)
修改配置文件，并重启
[root@youxi2 ~]# vim /etc/my.cnfserver-id=1
log-bin=mysql-bin-master
binlog-do-db=ha
[root@youxi2 ~]# systemctl restart mysqld
查看master状态
mysql> show master status\G
*************************** 1. row ***************************
File: mysql-bin-master.000001
Position: 154
Binlog_Do_DB: ha
Binlog_Ignore_DB:
Executed_Gtid_Set:
1 row in set (0.00 sec)
注意：如果防火墙是打开的，记得添加mysql的端口号。
[root@youxi2 ~]# firewall-cmd --permanent --zone=public --add-port=3306/tcp
success
[root@youxi2 ~]# firewall-cmd --reload
success
[root@youxi2 ~]# firewall-cmd --zone=public --list-ports
3306/tcp
2)youxi3上操作
创建mycat中schema.xml文件设置的用户名和密码，以及指定的数据库。
mysql> grant all privileges on *.* to 'mycat'@'192.168.5.%' identified by '123456';　　//mycat指定的用户
Query OK, 0 rows affected, 1 warning (0.01 sec)
mysql> flush privileges;　　//刷新权限表
Query OK, 0 rows affected (0.00 sec)
mysql> create database ha;　　//mycat指定的数据库
Query OK, 1 row affected (0.01 sec)
修改配置文件
[root@youxi3 ~]# vim /etc/my.cnfserver-id=2
[root@youxi3 ~]# systemctl restart mysqld
配置master信息
mysql> stop slave;
Query OK, 0 rows affected (0.01 sec)
mysql> change master to master_host='192.168.5.102',master_user='slave',master_password='123456',master_log_file='mysql-bin-master.000001',master_log_pos=154;
Query OK, 0 rows affected, 2 warnings (0.01 sec)
mysql> start slave;
Query OK, 0 rows affected (0.00 sec)
查看slave状态
mysql> show slave status\G
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.5.102
Master_User: slave
Master_Port: 3306
Connect_Retry: 60
Master_Log_File: mysql-bin-master.000001
Read_Master_Log_Pos: 154
Relay_Log_File: youxi3-relay-bin.000003
Relay_Log_Pos: 327
Relay_Master_Log_File: mysql-bin-master.000001
Slave_IO_Running: Yes
Slave_SQL_Running: Yes
注意：如果防火墙是打开的，记得添加mysql的端口号。
[root@youxi3 ~]# firewall-cmd --permanent --zone=public --add-port=3306/tcp
success
[root@youxi3 ~]# firewall-cmd --reload
success
[root@youxi3 ~]# firewall-cmd --zone=public --list-ports
3306/tcp
(6).测试
在youxi1上连接mycat，当然也可以使用软件客户端远程连接mycat。并创建测试数据
[root@youxi1 ~]# mysql -uroot -p123456 -h192.168.5.101 -P8066　　//这边的用户名和密码必须是mycat配置文件server.xml中定义的用户
mysql> show databases;　　//注意这里显示的是mycat定义的逻辑库TESTDB
+----------+
| DATABASE |
+----------+
| TESTDB |
+----------+
1 row in set (0.00 sec)
mysql> use TESTDB;
Database changed
mysql> show tables;
Empty set (0.00 sec)
mysql> create table user_tb(user int,name varchar(20));
Query OK, 0 rows affected (0.03 sec)
mysql> insert into user_tb values(1,'zhangsan');
Query OK, 1 row affected (0.05 sec)
再到youxi2和yousi3上查看
[root@youxi2 ~]# mysql -uroot -p123456
mysql> select * from ha.user_tb;　　//查询时需要查询实际存在的数据库
+------+----------+
| user | name |
+------+----------+
| 1 | zhangsan |
+------+----------+
1 row in set (0.00 sec)
[root@youxi3 ~]# mysql -uroot -p123456
mysql> select * from ha.user_tb;
+------+----------+
| user | name |
+------+----------+
| 1 | zhangsan |
+------+----------+
1 row in set (0.01 sec)
再试一下只读用户user
[root@youxi1 ~]# mysql -uuser -p123456 -h192.168.5.101 -P8066
mysql> use TESTDB;
Reading table information for completion of table and column namesYou can turn off this feature to get a quicker startup with -A
Database changed
mysql> insert into user_tb values(2,'lisi');
ERROR 1495 (HY000): User readonly
如果master服务器youxi2宕机，那么mycat将只能读不能写。
//youxi2上停止mysqld，模拟宕机
[root@youxi2 ~]# systemctl stop mysqld
//此时的再进行测试
[root@youxi1 logs]# mysql -uroot -p123456 -h192.168.5.101 -P8066
mysql> use TESTDB;
Reading table information for completion of table and column namesYou can turn off this feature to get a quicker startup with -A
Database changed
mysql> select * from user_tb;
+------+----------+
| user | name |
+------+----------+
| 1 | zhangsan |
+------+----------+
1 row in set (0.03 sec)
mysql> insert into user_tb values(2,'lisi');
ERROR 1184 (HY000): java.net.ConnectException: 拒绝连接
注意：再次启动mysqld，能够恢复正常

本文章为转载内容，我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题，欢迎原作者联系我们进行内容更正或删除文章。