日志

MySQL的日志默认保存位置为/usr/ local/mysql/data

日志类型与作用:

1.redo重做日志:达到事务一致性(每次重启会重做)

作用:确保日志的持久性,防止在发生故障,脏页未写入磁盘。重启数据库会进行redo log执行重做,达到事务一致性

2.undo回滚日志

作用:保证数据的原子性,记录事务发生之前的一个版本,用于回滚,innodb事务可重复读和读取已提交隔离级别就是通过mvcc+undo实现

3.errorlog错误日志★★

作用:Mysql本身启动,停止,运行期间发生的错误信息

4.slow query log 慢查询日志★☆☆

作用:记录执行时间过长的sql,时间阈值(10s)可以配置,只记录执行成功

另一个作用:在于提醒优化

慢查询日志面试题:

慢查询日志记录的数据是什么数据,你们给的阈值是多少?

体现在mysql优化这里,开启慢查询日志,然后根据慢查询日志种记录的语句,来排查定位_查询时间过长的语句,从而找到对应的表,考虑,是否需要对此表进行优化(索引、分库、分表优化、主外键关联、存储过程)

5.bin log二进制日志☆☆☆☆

作用:用于基于日志形式的数据恢复,用于主从复制,实现主从同步

记录的内容是:数据库中执行的sql语句

6.relay log 中继日志★☆☆

作用:用于数据库主从同步,将主库发来的bin log保存在本地,然后从库进行回放

7.general log普通日志

作用:记录数据库的操作明细,默认关闭,开启后会降低数据库性能

mysql日志管理备份恢复_数据库

查看二进制日志开启状态

show variables like '%log_bin%';

mysql日志管理备份恢复_mysql_02

查看慢查询日志功能是否开启

show variables like '%slow%';

mysql日志管理备份恢复_mysql_03

查看慢查询时间设置

show variables like 'long_query_time';

mysql日志管理备份恢复_数据库_04

在数据库中设置开启慢查询的办法(临时)

set global slow_query_log=ON;

备份

1、概述

备份的主要目的是灾难恢复

还可以用来测试应用、回滚数据修改、查询历史数据、审计等

在生产环境中,数据的安全性至关重要

任何数据的丢失都可能产生严重的后果

2、备份的重要性

在企业中,数据的价值至关重要,数据保障了企业业务的正常运行。

因此,数据的安全性及数据的可靠性是运维的重中之重,任何数据的吊事都可能对企业产生严重的后果。

通常情况下,造成数据丢失的原因有一下几种:

程序错误

人为操作错误

运算错误

磁盘故障

灾难(火灾、地震、盗窃等)

3、备份类型

①、从物理与逻辑的角度分类(逻辑备份、物理备份)

数据库备份可以分为物理备份和逻辑备份。

逻辑备份是对数据库逻辑组件(如表等数据库对象)的备份,表辑数据库结构(CREATE DATABASE, CREATETABLEia)和内容(INSERT语句或分隔文本文件)的信息。

逻辑备份适用于可以编辑数据值或表结构较小的数据量,或者在不同的机器体系结构上重新创建数据

物理备份是对数据库操作系统的物理文件(如数据文件、日志文件等)的备份。

物理备份适用于在出现问题时需要快速恢复的大型重要数据库。

物理备份又可以分为冷备份(脱机备份)、热备份(联机备份)和温备份。

冷备份:在数据库关闭状态下进行备份操作。(tar)

热备份:在数据库处于运行状态时进行备份操作,该备份方法依赖数据库的日志文件。(mysqldump)

温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作。

②、从数据库的备份策略角度分类(完全备份、差异备份、增量备份)

从数据库的备份策略角度,数据库的备份可分为完全备份、差异备份和增量备份(面试点)。

完全备份:每次对数据进行完整的备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础。完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复,并且会占用大量的磁盘空间,备份的时间也很长。

差异备份:备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时,只需恢复上次的完全备份与最近的一次差异备份。

增量备份:只有那些在上次完全备份或者增量备份后被修改的文件才会被备份。以上次完整备份或上次增量备份的时间为时间点,仅备份这之间的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失。

4、备份方法

数据库的备份可以采用很多种方式,如直接打包数据库文件(物理冷备份)、专用备份工具(mysqldump)、二进制日志增量备份、第三方工具备份等

①、物理冷备份

物理冷备份时需要在数据库处于关闭状态下,能够较好地保证数据库的完整性。

物理冷备份一般用于非核心业务,这类业务一般都允许中断。

物理冷备份的特点就是速度快,恢复时也是最为简单的。

通常通过直接打包数据库文件夹(/usr/loc.al/mysql/data)来实现备份。

②、专用备份工具 mysqldump 或 mysqlhotcopy

mysqldump程序和mysqlhotcopy都可以做备份。

mysqldump是客户端常用逻辑备份程序,能够产生一组被执行以后再现原始数据库对象定义和表数据的SQL语句。它可以转储一个到多个MySQL数据库,对其进行备份或传输到远程SQL服务器。mysqldump更为通用,因为它可以备份各种表。

mysqlhotcopy仅适用于某些存储引擎(MyISAM和ARCHIVE)。

③、通过启用二进制日志进行增量备份

支持增量备份,进行增量备份时必须启用二进制日志。

二进制日志文件为用户提供复制,对执行备份点后进行的数据库更改所需的信息进行恢复。

如果进行增量备份(包含自上次完全备份或增量备份以来发生的数据修改) ,需要刷新二进制日志。

④、通过第三方工具备份

第三方工具Percona xtraBackup是一个免费的MysQL热备份软件,支持在线热备份Innodb和xtraDB,也可以支持MySQL表备份,不过MyISAM表的备份要在表锁的情况下进行。

5、备份实验

①、创建表结构、表数据

mysql -u root -p

create database meeting;

use meeting;

create table if not exists working (

id int(4) not null auto_increment,

name varchar(10) not null,

primary key (id));

insert into working values(1,'张三');

insert into working values(2,'李四');

mysql日志管理备份恢复_增量备份_05

②、完全备份

InnoDB存储引擎的数据库在磁盘上存储成三个文件:db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

1)物理冷备份与恢复

systemctl stop mysqld

yum -y install xz   # xz 为一种压缩工具

压缩备份

tar Jcvf /mnt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/

解压恢复

tar Jxvf /mnt/mysql_all_2021-04-14.tar.xz -C /usr/local/mysql/data/

2)完全备份一个或多个完整的库(包括其中所有的表)

完全备份一个或多个完整的库(包括其中所有的表)

mysqldump -uroot -p[密码] --databases 库名 > /备份路径/备份文件名.sql

导出的就是数据库脚本文件  

如:

mysqldump -uroot -p010230 --databases meeting > /opt/meeting.sql

mysqldump -uroot -p010230 --databases mysql meeting > /opt/mysql-meeting.sql

备份所有的库

mysqldump -uroot -p[密码] --all-databases > /备份路径/备份文件名.sql

如:

mysqldump -uroot -p[密码] --all-databases > /备份路径/all.sql

 完全备份指定库中的部分表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql

如:

mysqldump -uroot -p010230 [-d] meeting working > /opt/meeting_working.sql

#使用“-d”选项,说明只保存数据库的表结构

#不使用“-d”选项,说明表数据也进行备份

查看备份文件

grep -v "^--" /opt/meeting_working.sql | grep -v "^/" | grep -v "^$"

3)、恢复数据库

先删除

mysql -uroot -p010230 -e 'drop database meeting;'

#“-e”选项,用于指定连接 MySQL 后执行的命令,命令执行完后自动退出

查看库

mysql -uroot -p010230 -e 'show databases;'

进行恢复操作

mysql -uroot -p010230 < /opt/meeting.sql

mysql -uroot -p010230 -e 'show databases;'

6、增量备份和恢复

①、增量备份需要开启二进制日志功能

vim /etc/my.cnf

[mysqld]

log-bin=mysql-bin

binlog_format = MIXED (可选项)  

server-id = 1

mysql日志管理备份恢复_增量备份_06

日志格式 STATEMENT(基于SQL语句,默认) ROW(基于行) MIXED(混合模式)

说明 每一条涉及到被修改的 sql 都会记录在 binlog 中 只记录变动的记录,不记录 sql 的上下文 一般语句使用 STATEMENT,函数使用 ROW

缺点 日志量过大,如函数、主从复制等构架记录日志时会出现问题 如果遇到 updata…set…where true,那么日志数据量就会很大 推荐使用

②、可每天进行增量备份操作,生成新的二进制文件(如mysql-bin.000002)

先完成完全备份(在创建好表和库的基础上)

systemctl restart mysqld.service

mysqldump -uroot -p meeting working > /mnt/meeting_working_$(date +%F).sql

mysqldump -uroot -p meeting > /mnt/meeting_$(date +%F).sql

生成新的二进制文件(可每天进行增量备份操作)

mysqladmin -uroot -p flush-logs

③、进行简单的数据插入,并增量备份

mysql日志管理备份恢复_增量备份_07

④、查看新生成的日志内容

mysqlbinlog --no-defaults --base64-output=decode-rows -v /usr/local/mysql/data/mysql-bin.000002

mysql日志管理备份恢复_数据库_08

1)方法一:按位置恢复

先删除表

drop table working;

清空表内容

truncate table meeting.working;

恢复结束点为删除命令前和插入命令后

mysqlbinlog --no-defaults --stop-position='902' usr/local/mysql/data/mysql-bin.000003 | mysql -uroot -p

mysql日志管理备份恢复_增量备份_09

mysql日志管理备份恢复_增量备份_10

2)方法二:按时间恢复

先清空表CLASS1,方便实验

mysql -uroot -p -e "truncate table meeting.working;"

mysql -uroot -p -e "select * from meeting.woring;"

mysqlbinlog --no-defaults --stop-datetime='2021-04-15 15:39:23' /opt/mysql-bin.000003 |mysql -uroot -p

mysql -uroot -p -e "select * from meeting.woring;"

总结:

备份的类型:

1、从物理与逻辑的角度分类

①、物理备份:

对数据库操作系统的物理文件(如数据文件、日志文件等)的备份

冷备份(脱机备份): 是在关闭数据库的时候进行的(tar)

热备份(联机备份): 数据库处于运行状态,依赖于数据库的日志文件(mysqldump)

温备份: 数据库锁定表格(不可写入但可读)的状态下进行备份操作

②、逻辑备份: 对数据库逻辑组件(如:表等数据库对象)的备份

2、从数据库的备份策略角度分类

①、完全备份: 每次对数据库进行完整的备份(尽量时间间隔在合适的范围内,如一周)

优点:备份与恢复操作简单方便

缺点:数据存在大量的重复,并且会占用大量的磁盘空间,备份的时间也很长。

②、差异备份: 备份自从上次完全备份之后被修改过的文件()

优点:恢复数据时,只需恢复上次的完全备份与最近的一次差异备份。

缺点:备份的时间节点是从上次完整备份起,备份数据量会越来越大。

③、增量备份: 只有在上次完全备份或者增量备份后被修改的文件才会被备份

优点:以上次完整/增量备份为时间点,仅备份这之间的数据变化,备份的数据量小,占用空间小,备份速度快

缺点:恢复时,需要所有增量备份从头依次恢复,如中间某次的备份数据损坏,将导致数据的丢失。

备份方法:

1、物理冷备份

特点:

服务关闭,保证数据库的完整性。

适用于非核心业务

备份速度快,tar 打包 /usr/loc.al/mysql/data即可

恢复即为解压覆盖 /usr/loc.al/mysql/data 目录

2、专用备份工具 mysqldump 或 mysqlhotcopy

特点:

mysqldump是客户端自带的备份工具,更为通用,因为它可以备份各种表。

mysqlhotcopy仅适用于某些存储引擎(MyISAM和ARCHIVE)。

3、通过启用二进制日志进行增量备份

特点:

二进制日志文件为用户提供复制,对执行备份点后进行的数据库更改所需的信息进行恢复。

如果进行增量备份,需要刷新二进制日志。

4、第三方工具备份

特点:

Percona xtraBackup是一个免费的MysQL热备份软件,支持在线热备份Innodb和xtraDB,也可以支持MySQL表备份,不过MyISAM表的备份要在表锁的情况下进行。