Spring Boot 整合 MyCat 實現(xiàn)讀寫分離

鷹兔牛熊眼 2020-04-29

展開全文

Java大聯(lián)盟

幫助萬千Java學習者持續(xù)成長

關(guān)注

作者 | 顏不喜

cnblogs.com/muycode/p/12603037.html

B 站搜索：楠哥教你學Java

獲取更多優(yōu)質(zhì)視頻教程

前言

MyCat 一個徹底開源的，面向企業(yè)應(yīng)用開發(fā)的大數(shù)據(jù)庫集群?；诎⒗镩_源的 Cobar 產(chǎn)品而研發(fā)。能滿足數(shù)據(jù)庫數(shù)據(jù)大量存儲；提高了查詢性能。文章介紹如何實現(xiàn) MyCat 連接 MySQL 實現(xiàn)主從分離，并集成 Spring Boot 實現(xiàn)讀寫分離。

MySQL配置主從關(guān)系

說明

192.168.0.105 Linux 數(shù)據(jù)庫作為主master數(shù)據(jù)庫
127.0.0.1 Window 作為從slave數(shù)據(jù)庫

master主數(shù)據(jù)庫配置

binlog是Mysql sever層維護的一種二進制日志，主要是用來記錄對Mysql數(shù)據(jù)更新或潛在發(fā)生更新的SQL語句，記錄了所有的寫語句，并以事務(wù)的形式保存在磁盤中，還包含語句所執(zhí)行的消耗的時間，MySQL的二進制日志是事務(wù)安全型的。

master上開啟log_bin

$ vim /etc/my.cnf


log-bin           = mysql-bin  #[必須]啟用二進制日志
server-id         = 4          #[必須]服務(wù)器唯一ID，默認是1，最好取ip的后3位
expire-logs-days  = 7           #只保留7天的二進制日志，以防磁盤被日志占滿
binlog-ignore-db  = mysql       #不備份的數(shù)據(jù)庫
binlog-ignore-db  = information_schema
binlog-ignore-db  = performation_schema
binlog-ignore-db  = sys
binlog-do-db=itools_simple #需要做復制的數(shù)據(jù)庫名，如果有多個，復制binlog-do-db即可

登錄mysql，測試log_bin是否成功開啟

$ mysql -u root -p
  Root@123

// log_bin ON表示開啟成功，OFF表示開啟失敗
mysql> show variables like '%log_bin%';
+---------------------------------+--------------------------------+
| Variable_name                   | Value                          |
+---------------------------------+--------------------------------+
| log_bin                         | ON                             |
| log_bin_basename                | /var/lib/mysql/mysql-bin       |
| log_bin_index                   | /var/lib/mysql/mysql-bin.index |
| log_bin_trust_function_creators | OFF                            |
| log_bin_use_v1_row_events       | OFF                            |
| sql_log_bin                     | ON                             |
+---------------------------------+--------------------------------+
6 rows in set (0.01 sec)

新增備份賬戶

mysql> grant replication slave on *.* to 'backup'@'%' identified by 'Root@123';
mysql> use mysql
mysql> select user,authentication_string,host from user;

重啟mysql

$ systemctl restart mysqld

登錄mysql，并設(shè)置只讀

$ mysql -u root -p
  Root@123

mysql> flush tables with read lock;

mysql> show master status \G
*************************** 1. row ***************************
             File: mysql-bin.000003
         Position: 154
     Binlog_Do_DB: itools_simple
 Binlog_Ignore_DB: mysql,information_schema,performation_schema,sys
Executed_Gtid_Set: 
1 row in set (0.01 sec)

// 導出數(shù)據(jù)庫，進入到一個合適的文件夾
$ mysqldump -u root -p itools_simple > itools_simple.txt
// 把生成的文件導出到本機
$ sz itools_simple.txt

// 在window本機打開cmd，登錄slave本機mysql數(shù)據(jù)庫，導入數(shù)據(jù)庫
$ .\mysql -u root -p -hlocalhost mycat_master < .\itools_simple.txt

slave從數(shù)據(jù)庫配置

配置 my.ini 文件

[mysql]
#default-character-set=utf8

[mysqld] 
max_connections=200
character-set-server=utf8
default-storage-engine=INNODB

# 添加一下配置
log-bin=mysql-bin
server-id=223

重啟slave數(shù)據(jù)庫

net stop mysql
net start mysql

登錄slave數(shù)據(jù)庫

$ mysql -u root -p
  123456

// 停止 slave
mysql> stop slave;
// 根據(jù)master中的status，添加以下配置
msyql> change master to master_host='192.168.0.105',master_user='backup',master_password='Root@123',master_log_file='mysql-bin.000003',master_log_pos=154;
// 啟用slave
mysql> start slave;
// 查看slave狀態(tài)
mysql> show slave status \G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 192.168.0.105
                  Master_User: backup
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000003
          Read_Master_Log_Pos: 154
               Relay_Log_File: DESKTOP-OB9O5N7-relay-bin.000002
                Relay_Log_Pos: 320
        Relay_Master_Log_File: mysql-bin.000003
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
             ..............
1 row in set (0.00 sec)

// 出現(xiàn)下面兩個說明配置正確
 Slave_IO_Running: Yes
Slave_SQL_Running: Yes

關(guān)閉master數(shù)據(jù)庫的只讀設(shè)置

mysql> unlock tables;

存儲引擎

InnoDB特性

MySQL5.5版本后，MySQL的默認內(nèi)置存儲引擎已經(jīng)從MyISAM變成InnoDB

支持事務(wù);
行級鎖定(更新數(shù)據(jù)時一般指鎖定當前行)：通過索引實現(xiàn)、全表掃描忍讓時表鎖、注意間隙所的影響;
讀寫阻塞與事務(wù)的隔離級別相關(guān)；
具有非常高的緩存特性(既能緩存索引、也能緩存數(shù)據(jù))；
這個表和主鍵以組(Cluster)的方式存儲、組成一顆平衡樹；
所有的輔助索引(secondary indexes)都會保存主鍵信息；
支持分區(qū)、表空間類似與oracle 數(shù)據(jù)庫；
支持外鍵約束、不支持全文檢索(5.5.5之前的MyISAM支持全文檢索、5.5.5之后就不在支持);
相對MyISAM而言、對硬件的要求比較高

MyISAM特性

不支持事務(wù)
表級鎖定，數(shù)據(jù)更新時鎖定整個表：其鎖定機制是表級鎖定，這雖然可以讓鎖定的實現(xiàn)成本很小但是也同時大大降低了其并發(fā)性能。
讀寫互相阻塞：不僅會在寫入的時候阻塞讀取，myisam還會在讀取的時候阻塞寫入，但讀本身并不會阻塞另外的讀。
只會緩存索引：MyISAM可以通過key_buffer_size緩存索引，以大大提高訪問性能，減少產(chǎn)品IO，但是這個緩存區(qū)只會緩存索引，而不會緩存數(shù)據(jù)。
讀取速度較快，占用資源相對少。
不支持外鍵約束，但支持全文索引。

修改slave數(shù)據(jù)庫存儲引擎

mysql> show variables like '%storage_engine%';
+----------------------------------+--------+
| Variable_name                    | Value  |
+----------------------------------+--------+
| default_storage_engine           | InnoDB |
| default_tmp_storage_engine       | InnoDB |
| disabled_storage_engines         |        |
| internal_tmp_disk_storage_engine | InnoDB |
+----------------------------------+--------+
4 rows in set (0.00 sec)

// 修改配置文件
$ vim /etc/my.ini
    [mysqld]
    default-storage-engine=MyISAM

$ systemctl restart mysqld

mysql> show variables like '%storage_engine%';
+----------------------------------+--------+
| Variable_name                    | Value  |
+----------------------------------+--------+
| default_storage_engine           | MyISAM |
| default_tmp_storage_engine       | InnoDB |
| disabled_storage_engines         |        |
| internal_tmp_disk_storage_engine | InnoDB |
+----------------------------------+--------+
4 rows in set (0.00 sec)

修改表存儲引擎

如果是slave數(shù)據(jù)庫的表是MyISAM，master數(shù)據(jù)庫的表是InnoDB。直接覆蓋master數(shù)據(jù)庫來同步數(shù)據(jù)的話，slave數(shù)據(jù)庫表的存儲引擎也將會同步變成InnoDB。擴展：InnoDB一棵B+樹可以存放多少行數(shù)據(jù)？

更換存儲引擎遇到的問題

This function has none of DETERMINISTIC, NO SQL, or READS SQL DATA in its declaration and binary logging is enabled (you might want to use the less safe log_bin_trust_function_creators variable)

出現(xiàn)的原因

在function里面，只有 DETERMINISTIC, NO SQL 和 READS SQL DATA 被支持。
如果我們開啟了 bin-log, 我們就必須為我們的function指定一個參數(shù)。

解決方案

mysql> set global log_bin_trust_function_creators=TRUE;

Specified key was too long; max key length is 1000 bytes

出現(xiàn)的原因

DB的 engine 是 MyISAM
字符集是 utf8 ，1個 utf8=3bytes
(索引長度總和) * 3 > 1000。

解決方案

修改DB engine 至 innodb
更改字符集
減小字段長度

注意：一定不要手動去修改slave數(shù)據(jù)庫中的數(shù)據(jù)，需要給slave的用戶設(shè)置只讀。

至此，mysql的數(shù)據(jù)庫主從設(shè)置已經(jīng)配置成功。在master中修改數(shù)據(jù)庫，會同步到slave中。

Mycat基于MySQL的讀寫分離

Mycat不負責數(shù)據(jù)的同步，所以要還是要基于 MySQL 的主從配置來實現(xiàn)讀寫分離。

安裝Mycat

由于github限制，所以以后新版本從以下地址下載 http://dl.

Linux創(chuàng)建文件夾/usr/local/mycat，進入文件夾，下載安裝包

$ wget http://dl./1.6.7.5/2020-3-3/Mycat-server-1.6.7.5-test-20200303154735-linux.tar.gz
$ tar -zxvf Mycat-server-1.6.7.5-test-20200303154735-linux.tar.gz
$ cd mycat
$ useradd mycat
$ chown -R mycat:mycat /usr/local/mycat/mycat
$ passwd mycat

// 配置hostname，添加以下配置
[root@localhost mycat] vim /etc/sysconfig/network
    HOSTNAME=localhost（主機名）

// 查看是否配置主機
$ vim /etc/hosts

將Mycat配置到環(huán)境變量中

$ vim /etc/profile
// 在最后添加
MYCAT_HOME=/usr/local/mycat/mycat
PATH=$MYCAT_HOME/bin:$PATH
export PATH

// 使配置生效
$ source /etc/profile

在master數(shù)據(jù)庫中添加user1（寫）、user2（只讀）兩個賬戶，并配置權(quán)限。

配置mycat的schema.xml

<?xml version='1.0'?>
<!DOCTYPE mycat:schema SYSTEM 'schema.dtd'>
<mycat:schema xmlns:mycat='http://cat/'>

    <schema name='itools_simple' checkSQLschema='false' sqlMaxLimit='100' dataNode='dn1'>
    </schema>
    <dataNode name='dn1' dataHost='localhost' database='itools_simple' />
    <dataHost name='localhost' maxCon='1000' minCon='10' balance='0'
              writeType='0' dbType='mysql' dbDriver='native' switchType='1'  slaveThreshold='100'>
        <heartbeat>select user()</heartbeat>
        <writeHost host='hostM1' url='192.168.0.105:3306' user='user1' password='Root@123'>
            <!-- 可以配置多個從庫 -->
            <readHost host='hostS2' url='127.0.0.1:3306' user='user2' password='Root@123' />
        </writeHost>
    </dataHost>
</mycat:schema>

配置mycat的server.xml，增加兩個用戶

<user name='user1' defaultAccount='true'>
    <property name='password'>Root@123</property>
    <property name='schemas'>itools_simple</property>
    <property name='defaultSchema'>itools_simple</property>
</user>

<user name='user2'>
    <property name='password'>Root@123</property>
    <property name='schemas'>itools_simple</property>
    <property name='readOnly'>true</property>
    <property name='defaultSchema'>itools_simple</property>
</user>

啟動Mycat

啟動mycat

$ mycat start
Starting Mycat-server...

查看啟動日志

$ cat wrapper.log
MyCAT Server startup successfully. see logs in logs/mycat.log

使用客戶端連接mycat

使用SQLyog連接(使用此方式連接，不能直接通過點擊表查看數(shù)據(jù))

使用Navicat連接

可通過客戶端直接查看master數(shù)據(jù)，也可通過修改mycat數(shù)據(jù)，查看master和slave的數(shù)據(jù)是否會同步。

Spring Boot 整合 MyCat 實現(xiàn)讀寫分離

首先需要配置好數(shù)據(jù)庫的主從關(guān)系。
配置好MyCat服務(wù)。
實現(xiàn)MyCat與MySQL讀寫分離。

添加依賴

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-aop</artifactId>
</dependency>

<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>druid</artifactId>
    <version>1.0.23</version>
</dependency>

創(chuàng)建數(shù)據(jù)源

package com.muycode.itoolsimple.datasource;

import org.springframework.boot.context.properties.ConfigurationProperties;
import org.springframework.boot.jdbc.DataSourceBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import javax.sql.DataSource;

@Configuration
public class DataSourceConfig {

    /**
     * 創(chuàng)建可讀數(shù)據(jù)源
     *
     * @return
     */
    @Bean(name = 'selectDataSource')
    @ConfigurationProperties(prefix = 'spring.datasource.select')
    public DataSource dataSource1() {
        return DataSourceBuilder.create().build();
    }

    /**
     * 創(chuàng)建可寫數(shù)據(jù)源
     *
     * @return
     */
    @Bean(name = 'updateDataSource')
    @ConfigurationProperties(prefix = 'spring.datasource.update')
    public DataSource dataSource2() {
        return DataSourceBuilder.create().build();
    }
}

設(shè)置數(shù)據(jù)源

package com.muycode.itoolsimple.datasource;

import org.springframework.context.annotation.Lazy;
import org.springframework.stereotype.Component;

@Component
@Lazy(false)
public class DataSourceContextHolder {

    /**
     * 采用ThreadLocal 保存本地多數(shù)據(jù)源
     */
    private static final ThreadLocal<String> contextHolder = new ThreadLocal<>();

    /**
     * 設(shè)置數(shù)據(jù)源類型
     *
     * @param dbType
     */
    public static void setDbType(String dbType) {
        contextHolder.set(dbType);
    }

    /**
     * 獲取數(shù)據(jù)源類型
     */
    public static String getDbType() {
        return contextHolder.get();
    }

    public static void clearDbType() {
        contextHolder.remove();
    }
}

返回數(shù)據(jù)源

package com.muycode.itoolsimple.datasource;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.context.annotation.Primary;
import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;
import org.springframework.stereotype.Component;

import javax.sql.DataSource;
import java.util.HashMap;
import java.util.Map;

@Component
@Primary
public class DynamicDataSource extends AbstractRoutingDataSource {

    @Autowired
    @Qualifier('selectDataSource')
    private DataSource selectDataSource;

    @Autowired
    @Qualifier('updateDataSource')
    private DataSource updateDataSource;

    /**
     * 返回生效的數(shù)據(jù)源名稱
     */
    @Override
    protected Object determineCurrentLookupKey() {
        return DataSourceContextHolder.getDbType();
    }

    /**
     * 配置數(shù)據(jù)源信息
     */
    @Override
    public void afterPropertiesSet() {
        Map<Object, Object> map = new HashMap<>(16);
        map.put('selectDataSource', selectDataSource);
        map.put('updateDataSource', updateDataSource);
        setTargetDataSources(map);
        setDefaultTargetDataSource(updateDataSource);
        super.afterPropertiesSet();
    }
}

創(chuàng)建切面，動態(tài)設(shè)置數(shù)據(jù)源

package com.muycode.itoolsimple.datasource;

import org.aspectj.lang.JoinPoint;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Before;
import org.springframework.context.annotation.Lazy;
import org.springframework.core.annotation.Order;
import org.springframework.stereotype.Component;

@Aspect
@Component
@Lazy(false)
@Order(0) // Order設(shè)定AOP執(zhí)行順序 使之在數(shù)據(jù)庫事務(wù)上先執(zhí)行
public class DataSourceOptionAop {

    /**
     * 可讀數(shù)據(jù)源
     */
    private final static String DATASOURCE_TYPE_SELECT = 'selectDataSource';
    /**
     * 可寫數(shù)據(jù)源
     */
    private final static String DATASOURCE_TYPE_UPDATE = 'updateDataSource';

    /**
     * 創(chuàng)建切面，根據(jù)方法類型選擇不同的數(shù)據(jù)源
     *
     * @param joinPoint
     */
    @Before('execution(* com.muycode.itoolsimple.service.*.*(..))')
    public void process(JoinPoint joinPoint) {
        String methodName = joinPoint.getSignature().getName();
        System.out.print('=========== ' + methodName);
        if (methodName.startsWith('get') || methodName.startsWith('count') || methodName.startsWith('find')
                || methodName.startsWith('list') || methodName.startsWith('select') || methodName.startsWith('check')
                || methodName.startsWith('query')) {
            DataSourceContextHolder.setDbType(DATASOURCE_TYPE_SELECT);
            System.out.println('-----------------使用selectDataSource數(shù)據(jù)源-------------------');
        } else {
            DataSourceContextHolder.setDbType(DATASOURCE_TYPE_UPDATE);
            System.out.println('-----------------使用updateDataSource數(shù)據(jù)源-------------------');
        }
    }
}

輸出結(jié)果

=========== getByUsername-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== getPermissionStringByUserId-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== getPermissionByUserId-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== getRolePermissionLinkByUserId-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== save-----------------使用updateDataSource數(shù)據(jù)源-------------------
=========== queryByPage-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== save-----------------使用updateDataSource數(shù)據(jù)源-------------------
=========== getPermissionAll-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== save-----------------使用updateDataSource數(shù)據(jù)源-------------------
=========== getSysCodeAll-----------------使用selectDataSource數(shù)據(jù)源-------------------
=========== save-----------------使用updateDataSource數(shù)據(jù)源-------------------
=========== getByRid-----------------使用selectDataSource數(shù)據(jù)源-------------------