【MYSQL | 高级篇 日志、主从复制与读写分离】
摘要:本文详述 MySQL 日志(错误、二进制、查询、慢查询)的开启、查看与清理,主从复制的原理、搭建步骤(主从库配置、同步设置),以及基于 MyCat 的读写分离(一主一从配置、balance 参数控制),助力数据库运维优化。
思维导图
1. 日志
1.1 错误日志
错误日志是 MySQL 中最重要的日志之一,它记录了当 mysqld 启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,建议首先查看此日志。
该日志是默认开启的,默认存放目录 /var/log/
,默认的日志文件名为 mysqld.log
。查看日志位置:
show variables like '%log_error%';
1.2 二进制日志
1.2.1 介绍
二进制日志(BINLOG)记录了所有的 DDL语句和 DML语句,但不包括数据查询语句。
作用:
灾难时的数据恢复;
MySQL 的主从复制。
在 MySQL8 版本中,默认二进制日志是开启着的,涉及到的参数如下:
show variables like '%log_bin%';
参数说明:
log_bin_basename
:当前数据库服务器的 binlog 日志的基础名称(前缀),具体的 binlog 文件名需要在该 basename 的基础上加上编号(编号从 000001 开始)。log_bin_index
:binlog 的索引文件,里面记录了当前服务器关联的 binlog 文件有哪些。
1.2.2 格式
MySQL 服务器中提供了多种格式来记录二进制日志,具体格式及特点如下:
查看二进制日志格式:
show variables like '%binlog_format%';
如果需要配置二进制日志的格式,只需要在 /etc/my.cnf
中配置 binlog_format
参数即可。
1.2.3 查看
由于日志是以二进制方式存储的,不能直接读取,需要通过二进制日志查询工具 mysqlbinlog
来查看,具体语法:
mysqlbinlog binlog0000002
1.2.4 删除
对于比较繁忙的业务系统,每天生成的 binlog 数据巨大,如果长时间不清除,将会占用大量磁盘空间。可以通过以下几种方式清理日志:
查看二进制日志过期时间参数:
show variables like '%binlog_expire_logs_seconds%';
1.3 查询日志
查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的 SQL 语句。默认情况下,查询日志是未开启的。
如果需要开启查询日志,可以修改 MySQL 的配置文件 /etc/my.cnf
文件,添加如下内容:
该选项用来开启查询日志,可选值:0 或者 1;0 代表关闭,1 代表开启
general_log=1
设置日志的文件名,如果没有指定,默认的文件名为 host_name.log
general_log_file=mysql_query.log
开启了查询日志之后,在 MySQL 的数据存放目录,也就是 /var/lib/mysql/
目录下就会出现 mysql_query.log
文件。之后所有的客户端的增删改查操作都会记录在该日志文件之中,长时间运行后,该日志文件将会非常大。
1.4 慢查询日志
慢查询日志记录了所有执行时间超过参数 long_query_time
设置值并且扫描记录数不小于 min_examined_row_limit
的所有的 SQL 语句的日志,默认未开启。long_query_time
默认为 10 秒,最小为 0,精度可以到微秒。
如果需要开启慢查询日志,需要在 MySQL 的配置文件 /etc/my.cnf
中配置如下参数:
#慢查询日志
slow_query_log=1#执行时间参数
long_query_time=2#记录执行较慢的管理语句
log_slow_admin_statements =1#记录执行较慢的未使用索引的语句
log_queries_not_using_indexes = 1
上述所有的参数配置完成之后,都需要重新启动 MySQL 服务器才可以生效。
2. 主从复制
2.1 概述
主从复制是指将主数据库的 DDL 和 DML 操作通过二进制日志传到从库服务器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。
MySQL 支持一台主库同时向多台从库进行复制,从库同时也可以作为其他从服务器的主库,实现链状复制。
MySQL 复制的优点主要包含以下三个方面:
主库出现问题,可以快速切换到从库提供服务。
实现读写分离,降低主库的访问压力。
可以在从库中执行备份,以避免备份期间影响主库服务。
2.2 原理
MySQL 主从复制的核心就是二进制日志,具体的过程如下:
Master 主库在事务提交时,会把数据变更记录在二进制日志文件 Binlog 中。
从库读取主库的二进制日志文件 Binlog,写入到从库的中继日志 Relay Log。
Slave 重做中继日志中的事件,将改变反映到它自己的数据。
2.3 搭建
2.3.1 准备
192.168.200.200(master)开放指定的 3306 端口号:
firewall-cmd --zone=public --add-port=3306/tcp --permanent
firewall-cmd --reload
关闭服务器的防火墙:
systemctl stop firewalldsystemctl disable firewalld
192.168.200.201(slave)同样执行上述关闭防火墙操作。
准备好两台服务器之后,在上述的两台服务器中分别安装好 MySQL,并完成基础的初始化准备(安装、密码配置等操作)工作。其中:
192.168.200.200 作为主服务器 master
192.168.200.201 作为从服务器 slave
2.3.2 主库配置
修改配置文件 /etc/my.cnf
:
# mysql 服务 ID,保证整个集群环境中唯一,取值范围:1 – 2^32-1,默认为 1server-id=1# 是否只读,1 代表只读,0 代表读写read-only=0# 忽略的数据,指不需要同步的数据库# binlog-ignore-db=mysql# 指定同步的数据库# binlog-do-db=db01
重启 MySQL 服务器:
systemctl restart mysqld
登录 mysql,创建远程连接的账号,并授予主从复制权限:
#创建itcast用户,并设置密码,该用户可在任意主机连接该MySQL服务
CREATE USER 'itcast'@'%' IDENTIFIED WITH mysql_native_password BY 'Root@123456';#为 'itcast'@'%' 用户分配主从复制权限
GRANT REPLICATION SLAVE ON *.* TO 'itcast'@'%';
通过指令,查看二进制日志坐标:
show master status;
字段含义说明:
file
:从哪个日志文件开始推送日志文件position
:从哪个位置开始推送日志binlog_ignore_db
:指定不需要同步的数据库
2.3.3 从库配置
修改配置文件 /etc/my.cnf
:
#mysql 服务ID,保证整个集群环境中唯一,取值范围:1 – 2^32-1,和主库不一样即可
server-id=2#是否只读,1 代表只读, 0 代表读写
read-only=1
重新启动 MySQL 服务:
systemctl restart mysqld
登录 mysql,设置主库配置:
若 mysql 是 8.0.23 及之后版本,执行:
CHANGE REPLICATION SOURCE TO SOURCE_HOST='192.168.200.200', SOURCE_USER='itcast',
SOURCE_PASSWORD='Root@123456', SOURCE_LOG_FILE='binlog.000004',
SOURCE_LOG_POS=663;
若 mysql 是 8.0.23 之前的版本,执行:
CHANGE MASTER TO MASTER_HOST='192.168.200.200', MASTER_USER='itcast',
MASTER_PASSWORD='Root@123456', MASTER_LOG_FILE='binlog.000004',
MASTER_LOG_POS=663;
参数对应关系如下:
参数名 | 含义 | 8.0.23 之前 |
---|---|---|
SOURCE_HOST | 主库 IP 地址 | MASTER_HOST |
SOURCE_USER | 连接主库的用户名 | MASTER_USER |
SOURCE_PASSWORD | 连接主库的密码 | MASTER_PASSWORD |
SOURCE_LOG_FILE | binlog 日志文件名 | MASTER_LOG_FILE |
SOURCE_LOG_POS | binlog 日志文件位置 | MASTER_LOG_POS |
开启同步操作:
#8.0.22 之后
start replica;#8.0.22 之前
start slave ;
查看主从同步状态:
# 8.0.22 之后
show replica status ;# 8.0.22 之前
show slave status ;
如果出现以下界面,说明主从复制的状态正常
总结
3. 读写分离
3.1 介绍
读写分离,简单地说是把对数据库的读和写操作分开,以对应不同的数据库服务器。主数据库提供写操作,从数据库提供读操作,这样能有效地减轻单台数据库的压力。
分离前:
分离后:
通过 MyCat 即可轻易实现上述功能,不仅可以支持 MySQL,也可以支持 Oracle 和 SQL Server。
3.2 一主一从
3.2.1 原理
MySQL 的主从复制,是基于二进制日志(binlog)实现的。
Master 主库在事务提交时,会把数据变更记录在二进制日志文件 Binlog 中。
从库的 IO 线程读取主库的二进制日志文件 Binlog,写入到从库的中继日志 Relay Log。
从库的 SQL 线程重做中继日志中的事件,将改变反映到它自己的数据。
3.2.2 准备
主机 | 角色 | 用户名 | 密码 |
---|---|---|---|
192.168.200.211 | master | root | 1234 |
192.168.200.212 | slave | root | 1234 |
备注:主从复制的搭建,可以参考前面课程中主从复制章节讲解的步骤操作。
3.3 一主一从读写分离
MyCat 控制后台数据库的读写分离和负载均衡由 schema.xml
中 datahost
标签的 balance
属性控制。
3.3.1 schema.xml 配置
<!-- 配置逻辑库 -->
<schema name="ITCAST_RW" checkSQLschema="true" sqlMaxLimit="100" dataNode="dn7">
</schema>
<dataNode name="dn7" dataHost="dhost7" database="itcast" />
<dataHost name="dhost7" maxCon="1000" minCon="10" balance="1" writeType="0"
dbType="mysql" dbDriver="jdbc" switchType="1" slaveThreshold="100"><heartbeat>select user()</heartbeat><writeHost host="master1" url="jdbc:mysql://192.168.200.211:3306?
useSSL=false&serverTimezone=Asia/Shanghai&characterEncoding=utf8"
user="root" password="1234" ><readHost host="slave1" url="jdbc:mysql://192.168.200.212:3306?
useSSL=false&serverTimezone=Asia/Shanghai&characterEncoding=utf8"
user="root" password="1234" /></writeHost>
</dataHost>
上述配置中,writeHost
代表的是写操作对应的数据库,readHost
代表的是读操作对应的数据库。所以要实现读写分离,需配置 writeHost
关联主库,readHost
关联从库。
balance
参数取值及含义如下:
参数值 | 含义 |
---|---|
0 | 不开启读写分离机制,所有读操作都发送到当前可用的 writeHost 上 |
1 | 全部的 readHost 与备用的 writeHost 都参与 select 语句的负载均衡(主要针对于双主双从模式) |
2 | 所有的读写操作都随机在 writeHost,readHost 上分发 |
3 | 所有的读请求随机分发到 writeHost 对应的 readHost 上执行,writeHost 不负担读压力 |
在一主一从模式的读写分离中,balance
配置 1 或 3 都可以完成读写分离。
3.3.2 server.xml 配置
配置 root 用户可以访问 SHOPPING、ITCAST 以及 ITCAST_RW 逻辑库:
<user name="root" defaultAccount="true"><property name="password">123456</property><property name="schemas">SHOPPING,ITCAST,ITCAST_RW</property><!-- 表级 DML 权限设置 --><!-- <privileges check="true"><schema name="DB01" dml="0110" > <table name="TB_ORDER" dml="1110"></table></schema></privileges> -->
</user>
大功告成!