前几天看到了一个数据库中间件Mycat,感觉很不错,所以准备研究研究,挺好用的,Mycat简单来说,就是一个数据库的代理, 让Mycat完成数据库的分片,管理后端的数据库集群,很轻松的解决这个问题。mycat是基于基于阿里开源的Cobar产品而研发,相比而言,Mycat有取代Cobar的趋势。

下载地址

#官网下载地址
http://dl.mycat.io/

#下载地址2
https://github.com/MyCATApache/Mycat-download/


#俺的下载地址
http://yellowcong.qiniudn.com/Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz

文档地址

#使用文档地址
https://github.com/MyCATApache/Mycat-Server/wiki/

#pdf版本的文档
http://yellowcong.qiniudn.com/Mycat_V1.6.0.pdf

Mycat安装

#下载安装文件
wget http://yellowcong.qiniudn.com/Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz

#解压文件
tar -zxvf Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz

#添加数据库配置
vim mycat/conf/schema.xml

#配置mycat的用户名密码
vim mycat/conf/server.xml

下载安装文件

MyCat之环境搭建-yellowcong_数据库

解压后的目录结构

conf 是配置文件目录

lib 一些jar包

bin 执行命令

logs 日志文件

MyCat之环境搭建-yellowcong_数据库_02

配置文件说明

MyCat之环境搭建-yellowcong_数据库_03

配置文件说明

文件名

作用

server.xml

是Mycat服务器参数调整和用户授权的配置文件。

schema.xml

是逻辑库定义和表以及分片定义的配置文件。

log4j.xml

日志存放在logs/log中,每天一个文件,日志的配置是在conf/log4j.xml中,根据自己的需要可以调整输出级别为debug debug级别下,会输出更多的信息,方便排查问题。

autopartition-long.txt,partition-hash-int.txt,sequence_conf.properties, sequence_db_conf.properties

分片相关的id分片规则配置文件

lib

MyCAT自身的jar包或依赖的jar包的存放目录。

logs

MyCAT日志的存放目录。日志存放在logs/log中,每天一个文件

添加数据库配置

创建数据库

添加数据库

#创建数据库
create database mycat;

#添加表
use mycat 
#创建表test
create table test(id int auto_increment primary key,name varchar(32)) ;

创建的数据库mycat

MyCat之环境搭建-yellowcong_数据库_04

创建的数据库表

MyCat之环境搭建-yellowcong_xml_05

配置schema.xml

schema.xml 配置

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
    <!--配置虚拟的数据库-->
        <schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="100">
            <!--表对象,name需要和实际数据库的表名对应上-->
                <table name="test" dataNode="jdbc_dn1"/>
        </schema>

    <!--配置分片,database指向的是数据库实例,不是虚拟的库--> 
        <dataNode name="jdbc_dn1" dataHost="localhost" database="mycat" />

        <!--配置mysql的物理主机节点-->
        <dataHost name="localhost" maxCon="1000" minCon="10" balance="0"
                          writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
                <heartbeat>select user()</heartbeat>
                <writeHost host="hostM1" url="127.0.0.1:3306" user="root" password="root" />

        </dataHost>
</mycat:schema>

配置mycat的用户名密码

server.xml配置文件,配置mycat的信息

<?xml version="1.0" encoding="UTF-8"?>
<!-- - - Licensed under the Apache License, Version 2.0 (the "License");
        - you may not use this file except in compliance with the License. - You
        may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
        - - Unless required by applicable law or agreed to in writing, software -
        distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
        WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
        License for the specific language governing permissions and - limitations
        under the License. -->
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
        <system>
        <property name="serverPort">8066</property>
        <property name="useSqlStat">0</property>  <!-- 1为开启实时统计、0为关闭 -->
        <property name="useGlobleTableCheck">0</property>  <!-- 1为开启全加班一致性检测、0为关闭 -->

                <property name="sequnceHandlerType">2</property>
      <!--  <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议-->
        <!--  <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号-->
        <!-- <property name="processorBufferChunk">40960</property> -->
        <!--
        <property name="processors">1</property>
        <property name="processorExecutor">32</property>
         -->
                <!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
                <property name="processorBufferPoolType">0</property>
                <!--默认是65535 64K 用于sql解析时最大文本长度 -->
                <!--<property name="maxStringLiteralLength">65535</property>-->
                <!--<property name="sequnceHandlerType">0</property>-->
                <!--<property name="backSocketNoDelay">1</property>-->
                <!--<property name="frontSocketNoDelay">1</property>-->
                <!--<property name="processorExecutor">16</property>-->
                <!--
                        <property name="serverPort">8066</property> <property name="managerPort">9066</property>
                        <property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property>
                        <property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> -->
                <!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志-->
                <property name="handleDistributedTransactions">0</property>

                <!--off heap for merge/order/group/limit      1开启   0关闭 -->
                <property name="useOffHeapForMerge">1</property>

                <!--单位为m-->
                <property name="memoryPageSize">1m</property>

                <!--单位为k-->
                <property name="spillsFileBufferSize">1k</property>

                <property name="useStreamOutput">0</property>

                <!--单位为m-->
                <property name="systemReserveMemorySize">384m</property>


                <!--是否采用zookeeper协调切换  -->
                <property name="useZKSwitch">true</property>
        </system>

    <!--配置管理员用户-->
        <user name="root">
                <property name="password">root</property>
                <property name="schemas">yellowcong</property>
        </user>
    <!--配置只读用户-->
        <user name="user">
                <property name="password">user</property>
                <property name="schemas">yellowcong</property>
                <property name="readOnly">true</property>
        </user>

</mycat:server>

实现后的结果

连接mycat

MyCat之环境搭建-yellowcong_bc_06

测试结果

MyCat之环境搭建-yellowcong_bc_07

错误查看

#错误日志查看,不然真不知道啥问题啊
tail -f -n 100 logs/wrapper.log

MyCat之环境搭建-yellowcong_xml_08

错误集合

schema TESTDB didn’t config tables,so you must set dataNode property!

出现下面的问题,可以看到是,必须设定schema的dataNode,大白话来讲,就是你这个库里面需要创建表,修改schema.xml 配置文件,添加dataNode 节点

MyCat之环境搭建-yellowcong_xml_09

io.mycat.config.util.ConfigException: dataNode jdbc_dn1 reference dataHost:jdbchost not exists!

问题是jdbchost 不存在,我的datanode的 节点中,dataHost指定错误

<dataNode name="jdbc_dn1" dataHost="localhost" database="mycat" />

配置说明

名称

意义

name

节点的名称

dataHost

数据源主机,下面dataHost节点配置的

database

实体数据库

MyCat之环境搭建-yellowcong_数据库_10

io.mycat.config.util.ConfigException: schema TESTDB didn’t config tables,so you must set dataNode property!

这个问题是数据没有配置表,需要配置表,在schema节点中添加表的配置

<schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="100">
        <table name="test" dataNode="jdbc_dn1" rule="rule1"/>
</schema>

配置说明

名称

意义

name

数据库对应的实体表的名称

dataNode

所对应的dataNode名称,分片名称

rule

需要和conf目录下面的rule.xml对应,不是瞎填的

MyCat之环境搭建-yellowcong_数据库_11

find no Route:

这个问题的原因是,首先是使用Mycat连接到数据库之后,如果不切换到具体的数据库下,使用[数据库名].[表名]的方式会抛出下面的错误,可见整个过程中,Mycat拦截了SQL信息做了过滤,在转换的时候找不到目标路由。当然实际使用中,规范使用肯定不会有这个问题。

第一种解决方案

不修改shcemal的checkSQLschema="false"的配置,访问数据库的表的时候,不带db名称

<schema name="yellowcong" checkSQLschema="false" sqlMaxLimit="1000">
                <table name="test" dataNode="jdbc_node1,jdbc_node2" />
  </schema>
#将sql从
SELECT COUNT(*) FROM yellowcong.test

#修改为,直接使用的是具体的库,不需要选择,使用那一个数据库
SELECT COUNT(*) FROM test

MyCat之环境搭建-yellowcong_数据库_12

使用直接查询,不带表明的方式

MyCat之环境搭建-yellowcong_数据库_13

第二种解决方案

修改shcema,配置checkSQLschema="true",重启mycat,你就会发现就算带了db ,也不会报错的。

<schema name="yellowcong" checkSQLschema="true" sqlMaxLimit="1000">
                <table name="test" dataNode="jdbc_node1,jdbc_node2" />
  </schema>

MyCat之环境搭建-yellowcong_xml_14

参考文章

https://github.com/MyCATApache/Mycat-Server/wiki