前几天看到了一个数据库中间件Mycat,感觉很不错,所以准备研究研究,挺好用的,Mycat简单来说,就是一个数据库的代理, 让Mycat完成数据库的分片,管理后端的数据库集群,很轻松的解决这个问题。mycat是基于基于阿里开源的Cobar产品而研发,相比而言,Mycat有取代Cobar的趋势。
下载地址
#官网下载地址
http://dl.mycat.io/
#下载地址2
https://github.com/MyCATApache/Mycat-download/
#俺的下载地址
http://yellowcong.qiniudn.com/Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz
文档地址
#使用文档地址
https://github.com/MyCATApache/Mycat-Server/wiki/
#pdf版本的文档
http://yellowcong.qiniudn.com/Mycat_V1.6.0.pdf
Mycat安装
#下载安装文件
wget http://yellowcong.qiniudn.com/Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz
#解压文件
tar -zxvf Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz
#添加数据库配置
vim mycat/conf/schema.xml
#配置mycat的用户名密码
vim mycat/conf/server.xml
下载安装文件
解压后的目录结构
conf 是配置文件目录
lib 一些jar包
bin 执行命令
logs 日志文件
配置文件说明
配置文件说明
文件名 | 作用 |
server.xml | 是Mycat服务器参数调整和用户授权的配置文件。 |
schema.xml | 是逻辑库定义和表以及分片定义的配置文件。 |
log4j.xml | 日志存放在logs/log中,每天一个文件,日志的配置是在conf/log4j.xml中,根据自己的需要可以调整输出级别为debug debug级别下,会输出更多的信息,方便排查问题。 |
autopartition-long.txt,partition-hash-int.txt,sequence_conf.properties, sequence_db_conf.properties | 分片相关的id分片规则配置文件 |
lib | MyCAT自身的jar包或依赖的jar包的存放目录。 |
logs | MyCAT日志的存放目录。日志存放在logs/log中,每天一个文件 |
添加数据库配置
创建数据库
添加数据库
#创建数据库
create database mycat;
#添加表
use mycat
#创建表test
create table test(id int auto_increment primary key,name varchar(32)) ;
创建的数据库mycat
创建的数据库表
配置schema.xml
schema.xml 配置
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<!--配置虚拟的数据库-->
<schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="100">
<!--表对象,name需要和实际数据库的表名对应上-->
<table name="test" dataNode="jdbc_dn1"/>
</schema>
<!--配置分片,database指向的是数据库实例,不是虚拟的库-->
<dataNode name="jdbc_dn1" dataHost="localhost" database="mycat" />
<!--配置mysql的物理主机节点-->
<dataHost name="localhost" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="root" />
</dataHost>
</mycat:schema>
配置mycat的用户名密码
server.xml配置文件,配置mycat的信息
<?xml version="1.0" encoding="UTF-8"?>
<!-- - - Licensed under the Apache License, Version 2.0 (the "License");
- you may not use this file except in compliance with the License. - You
may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
- - Unless required by applicable law or agreed to in writing, software -
distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
License for the specific language governing permissions and - limitations
under the License. -->
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
<system>
<property name="serverPort">8066</property>
<property name="useSqlStat">0</property> <!-- 1为开启实时统计、0为关闭 -->
<property name="useGlobleTableCheck">0</property> <!-- 1为开启全加班一致性检测、0为关闭 -->
<property name="sequnceHandlerType">2</property>
<!-- <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议-->
<!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号-->
<!-- <property name="processorBufferChunk">40960</property> -->
<!--
<property name="processors">1</property>
<property name="processorExecutor">32</property>
-->
<!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
<property name="processorBufferPoolType">0</property>
<!--默认是65535 64K 用于sql解析时最大文本长度 -->
<!--<property name="maxStringLiteralLength">65535</property>-->
<!--<property name="sequnceHandlerType">0</property>-->
<!--<property name="backSocketNoDelay">1</property>-->
<!--<property name="frontSocketNoDelay">1</property>-->
<!--<property name="processorExecutor">16</property>-->
<!--
<property name="serverPort">8066</property> <property name="managerPort">9066</property>
<property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property>
<property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> -->
<!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志-->
<property name="handleDistributedTransactions">0</property>
<!--off heap for merge/order/group/limit 1开启 0关闭 -->
<property name="useOffHeapForMerge">1</property>
<!--单位为m-->
<property name="memoryPageSize">1m</property>
<!--单位为k-->
<property name="spillsFileBufferSize">1k</property>
<property name="useStreamOutput">0</property>
<!--单位为m-->
<property name="systemReserveMemorySize">384m</property>
<!--是否采用zookeeper协调切换 -->
<property name="useZKSwitch">true</property>
</system>
<!--配置管理员用户-->
<user name="root">
<property name="password">root</property>
<property name="schemas">yellowcong</property>
</user>
<!--配置只读用户-->
<user name="user">
<property name="password">user</property>
<property name="schemas">yellowcong</property>
<property name="readOnly">true</property>
</user>
</mycat:server>
实现后的结果
连接mycat
测试结果
错误查看
#错误日志查看,不然真不知道啥问题啊
tail -f -n 100 logs/wrapper.log
错误集合
schema TESTDB didn’t config tables,so you must set dataNode property!
出现下面的问题,可以看到是,必须设定schema的dataNode,大白话来讲,就是你这个库里面需要创建表,修改schema.xml 配置文件,添加dataNode 节点
io.mycat.config.util.ConfigException: dataNode jdbc_dn1 reference dataHost:jdbchost not exists!
问题是jdbchost 不存在,我的datanode的 节点中,dataHost指定错误
<dataNode name="jdbc_dn1" dataHost="localhost" database="mycat" />
配置说明
名称 | 意义 |
name | 节点的名称 |
dataHost | 数据源主机,下面dataHost节点配置的 |
database | 实体数据库 |
io.mycat.config.util.ConfigException: schema TESTDB didn’t config tables,so you must set dataNode property!
这个问题是数据没有配置表,需要配置表,在schema节点中添加表的配置
<schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="100">
<table name="test" dataNode="jdbc_dn1" rule="rule1"/>
</schema>
配置说明
名称 | 意义 |
name | 数据库对应的实体表的名称 |
dataNode | 所对应的dataNode名称,分片名称 |
rule | 需要和conf目录下面的rule.xml对应,不是瞎填的 |
find no Route:
这个问题的原因是,首先是使用Mycat连接到数据库之后,如果不切换到具体的数据库下,使用[数据库名].[表名]的方式会抛出下面的错误,可见整个过程中,Mycat拦截了SQL信息做了过滤,在转换的时候找不到目标路由。当然实际使用中,规范使用肯定不会有这个问题。
第一种解决方案
不修改shcemal的checkSQLschema="false"
的配置,访问数据库的表的时候,不带db名称
<schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="1000">
<table name="test" dataNode="jdbc_node1,jdbc_node2" />
</schema>
#将sql从
SELECT COUNT(*) FROM yellowcong.test
#修改为,直接使用的是具体的库,不需要选择,使用那一个数据库
SELECT COUNT(*) FROM test
使用直接查询,不带表明的方式
第二种解决方案
修改shcema,配置checkSQLschema="true"
,重启mycat,你就会发现就算带了db ,也不会报错的。
<schema name="yellowcong" checkSQLschema="true" sqlMaxLimit="1000">
<table name="test" dataNode="jdbc_node1,jdbc_node2" />
</schema>
参考文章
https://github.com/MyCATApache/Mycat-Server/wiki