上周夜里,一个奢侈品电商网站的程序员手抖,把阿里云rds的某个库给删了,当时都11点多了,心中一万个羊驼在奔腾,还好,没让我出手,小弟就把它给恢复了。昨天上午,又一个网站的程序员手抖,给一个还要用的库给删了。这也不能全怪他,本来计划迁移数据的,因为数据库太大,进行分拆,把大库变小。迁移走了一些,就要删掉迁走的,这样以利于后边迁移加快速度。

也许有人说,这是管理上的问题,的确如此。应该加强权限管理,并制度相应的技术保障措施及流程规范。有相应的保障或者措施,虽然不能完全杜绝误操作,但起码会大大降低概率。我为啥经常遇到这种事情,来回折腾呢?主要是这些年,我做的是外围支援,以技术层面为主,不参与更多的事务。当然,对于大多数规模有限的公司来说,完善流程制度也难于落实。因此,虽然遇到不少麻烦,总结一下写出来,应该对其他人有所帮助。

恢复的第一要务,是找备份。还好,有一个2018年6月9日的备份存在。本来一直都在自动备份的,后来由于要迁移,而且据说近期夜间备份时,非常占用资源,负载老高,到上午上班时,备份压缩那一步还没有结束,就把备份给停了。

手抖删掉mysql的生产库,一定要跑路么?

这是迁移部分数据后,还删掉迁走库以后的容量,确实有点大。像这种情况,要么分拆,要么做增量备份,把自动备份停了的做法,风险实在是大。

为了降低风险,在恢复前最好做一次全库备份,万一搞出问题,还能回得去。基于这个想法,开始执行备份。执行了两个小时,还没见动静,也无法评估大概要多长时间,其它人等不及了,同时备份也影响其它业务的正常运行,因此只好直接停止备份。

开干前先算一卦,测一下吉凶。得诟之坎卦,三爻、四爻、上爻动,好在用神旺相,有修复的希望。导入数据步骤如下:
◆备份文件解包,并打开文件看一眼内容

[root@db-209 mysql_bk_dir]# pwd
/data/databk/mysql_bk_dir
[root@db-209 mysql_bk_dir]# tar zxvf mobile7_quanzhen20180609.tgz
mobile7_quanzhen20180609.sql
[root@db-209 mysql_bk_dir]# more mobile7_quanzhen20180609.sql
-- MySQL dump 10.13  Distrib 5.5.29, for Linux (x86_64)
--
-- Host: localhost    Database: mobile7_quanzhen
-- ------------------------------------------------------
-- Server version       5.5.29-log

/*!40101 SET @OLD_CHARACTER_SET_CLIENT=@@CHARACTER_SET_CLIENT */;
/*!40101 SET @OLD_CHARACTER_SET_RESULTS=@@CHARACTER_SET_RESULTS */;
/*!40101 SET @OLD_COLLATION_CONNECTION=@@COLLATION_CONNECTION */;
/*!40101 SET NAMES utf8 */;
/*!40103 SET @OLD_TIME_ZONE=@@TIME_ZONE */;
/*!40103 SET TIME_ZONE='+00:00' */;
/*!40014 SET @OLD_UNIQUE_CHECKS=@@UNIQUE_CHECKS, UNIQUE_CHECKS=0 */;
/*!40014 SET @OLD_FOREIGN_KEY_CHECKS=@@FOREIGN_KEY_CHECKS, FOREIGN_KEY_CHECKS=0 */;
/*!40101 SET @OLD_SQL_MODE=@@SQL_MODE, SQL_MODE='NO_AUTO_VALUE_ON_ZERO' */;
/*!40111 SET @OLD_SQL_NOTES=@@SQL_NOTES, SQL_NOTES=0 */;

--
-- Table structure for table `quanzhen_aboutegg`
--

DROP TABLE IF EXISTS `quanzhen_aboutegg`;
/*!40101 SET @saved_cs_client     = @@character_set_client */;
/*!40101 SET character_set_client = utf8 */;
CREATE TABLE `quanzhen_aboutegg` (
  `id` int(8) unsigned NOT NULL AUTO_INCREMENT COMMENT 'ID',
  `uid` mediumint(8) unsigned NOT NULL COMMENT '会员ID',
  `content` text NOT NULL COMMENT '内容',
  `title` varchar(100) NOT NULL COMMENT '标题',
  `sort` int(5) unsigned NOT NULL COMMENT '排序',
  `status` tinyint(1) unsigned NOT NULL COMMENT '0不显示,1显示',
  `updated` int(8) NOT NULL COMMENT '修改时间',
  `created` int(8) NOT NULL COMMENT '增加时间',
  PRIMARY KEY (`id`)
) ENGINE=MyISAM AUTO_INCREMENT=8 DEFAULT CHARSET=utf8 COMMENT='关于金蛋系统说明表';
/*!40101 SET character_set_client = @saved_cs_client */;
……………………………省略若干……………………………………….

◆创建数据库并导入数据

mysql> create database mobile7_quanzhen;
mysql> use mobile7_quanzhen;
mysql> source /data/databk/mysql_bk_dir/mobile7_quanzhen20180609.sql;

上述操作很顺利,基本没啥障碍。

重点部分来了,需要确定恢复到什么位置。这些信息从哪里得到呢?数据库存储目录里边的二进制日志。

[root@db-209 mysql_db]# pwd
/data/mysql_db
[root@db-209 mysql_db]# ls -al |grep mysql-bin
-rw-rw---- 1 mysql mysql   1073744253 Jun 17 01:20 mysql-bin.000856
-rw-rw---- 1 mysql mysql    106606897 Jun 17 04:02 mysql-bin.000857
-rw-rw---- 1 mysql mysql   1073742155 Jun 18 02:22 mysql-bin.000858
-rw-rw---- 1 mysql mysql     58702046 Jun 18 04:02 mysql-bin.000859
-rw-rw---- 1 mysql mysql   1073745791 Jun 19 03:20 mysql-bin.000860
-rw-rw---- 1 mysql mysql     24180628 Jun 19 04:02 mysql-bin.000861
-rw-rw---- 1 mysql mysql   1073741973 Jun 20 00:31 mysql-bin.000862
-rw-rw---- 1 mysql mysql    172478749 Jun 20 04:02 mysql-bin.000863
-rw-rw---- 1 mysql mysql   1073741972 Jun 20 23:11 mysql-bin.000864
-rw-rw---- 1 mysql mysql    172554351 Jun 21 04:02 mysql-bin.000865
-rw-rw---- 1 mysql mysql       150489 Jun 21 04:02 mysql-bin.000866
-rw-rw---- 1 mysql mysql    747165143 Jun 21 16:11 mysql-bin.000867
-rw-rw---- 1 mysql mysql          228 Jun 21 04:02 mysql-bin.index

从输出可知,二进制文件并不多,最旧的一个的时间戳是6月17号,10号到16号的丢失了。只保留最近5天的日志,这个是由mysql选项文件/etc/my.cnf设定的,其内容为:

[root@db-209 mysql_db]# more /etc/my.cnf
……………………………………….省略若干…………………………
[mysqld]
port            = 3306
socket          = /tmp/mysql.sock
datadir         = /data/mysql_db
#log_bin_trust_function_creators = 1
skip-external-locking
skip-name-resolve
wait_timeout=10
interactive_timeout=300
connect_timeout=300
max_connections = 2000
max_connect_errors = 50
tmp_table_size = 128M
…………重要…………
expire_logs_days = 5  
…………重要…………
slave-skip-errors = 1690,1062
# Try number of CPU's*2 for thread_concurrency
thread_concurrency = 8
slow_query_log = 1
slow_query_log_file=/data/mysql_db/slow.log
………………………………省略若干……………………………………………….

虽然是五天的数据,但文件却是好几个。为啥不设置保留天数多一些呢?还不是因为这个机器太老,资源有限。把风险告知其他让你,申明可能有几天的的数据会丢失。大家一致认同,能恢复多少算多少,总比没有强。

询问了执行误操作的程序员,大概是哪个时间执行的drop操作?回答说是6月20号上午10点过几分。有了这个参照点,再查看二进制日志文件的时间戳,就可定位到文件“mysql-bin.000864”,确定这个文件的原因是文件“mysql-bin.000863”的最后写入时间是“6月20日4:02”,这样一来范围就缩小很多。当然,也可以不管这些,用通配符,搜索所有二进制日志文件,确定恢复点。我决定以时间点来进行恢复,具体的操作如下:
◆确定恢复的时间点

[root@db-209 mysql_db]# pwd
/data/mysql_db
[root@db-209 mysql_db]# /usr/local/mysql/bin/mysqlbinlog -v --base64-output=DECODE-ROWS mysql-bin.000864|grep -C 10 -i drop
INSERT INTO `quanzhen_everydaycpdcontrol` (todaytime,uid,todaynum) VALUES (1529424000,661526,3)
/*!*/;
# at 393124773
#180620 10:08:44 server id 21  end_log_pos 393124800    Xid = 629128212
COMMIT/*!*/;
# at 393124800
…………重要…………
#180620 10:08:44 server id 21  end_log_pos 393124901    Query   thread_id=85127174      exec_time=0     error_code=0
SET TIMESTAMP=1529460524/*!*/;
/*!\C latin1 *//*!*/;
SET @@session.character_set_client=8,@@session.collation_connection=8,@@session.collation_server=33/*!*/;
drop database mobile7_quanzhen
/*!*/;
…………重要…………
# at 393124901
#180620 10:08:44 server id 21  end_log_pos 393124989    Query   thread_id=85160078      exec_time=0     error_code=0
SET TIMESTAMP=1529460524/*!*/;
/*!\C utf8 *//*!*/;
SET @@session.character_set_client=33,@@session.collation_connection=33,@@session.collation_server=33/*!*/;
BEGIN
/*!*/;
# at 393124989
#180620 10:08:44 server id 21  end_log_pos 393125017    Intvar
--
INSERT INTO `quanzhen_everydaycpdcontrol` (todaytime,uid,todaynum) VALUES (1529424000,399677,4)
/*!*/;
# at 399014378
#180620 10:13:27 server id 21  end_log_pos 399014405    Xid = 629434799
COMMIT/*!*/;
………………………………………………………..省略若干…………………………………………

现在得到确切删库的时间是2018年6月20日上午10:08:44,恢复时间就以此为准,稍微往前移一点也是合理的。
这里有一个小插曲,最开始不加选项,简化执行“mysqlbinlog mysql-bin.000864”只有寥寥几行输出,输出结尾还有一行报错信息,如下所示:

ERROR: Error in Log_event::read_log_event(): 'Found invalid event in binary log', data_len: 96, event_type: 19
Could not read entry at offset 820:Error in log format or read error
DELIMITER ;

又试着打开其它几个二进制日志,结果差不多。加选项执行“mysqlbinlog -v --base64-output=DECODE-ROWS mysql-bin.000864|grep -C 10 -i drop”,提示不支持。

手抖删掉mysql的生产库,一定要跑路么?

这样看来,恢复的机会不太大了,吓得赶紧喝泡菜水压压惊。用某度搜一下,知道是版本不一致造成的,find 一下,果然有两个mysql安装。这mysql是我几年前亲自部署的,一般都是定制安装在/usr/local/mysql目录,数据文件分开。但不知道后边那个程序员,yum惯了,又给安装了一个低版本的。后边我执行带全路径,就没问题,不过我暂时不想告诉他们,以免大家商和气。
◆数据恢复
还是使用mysqlbinlog指令,加管道“|”把输出给mysql,具体的操作如下所示:

[root@db-209 ~]#/usr/local/mysql/bin/mysqlbinlog --database=mobile7_quanzhen --stop-datetime='2018-06-20  10:08:40'  mysql-bin.000* |mysql mobile7_quanzhen -p

开始操作的时候,mysqlbinlog 没带选项“--database=mobile7_quanzhen”,执行后,抛主键冲突错误信息。后在管道右侧mysql这一边强制强制加选项“-f”,虽然能继续往下进行,但还是不断报主键冲突的错误信息。

手抖删掉mysql的生产库,一定要跑路么?

后来想,是不是在管道又边把数据库名字也指定上?反正这样搞也没风险。嘿嘿,加上以后,输入mysql密码,还真正常导入了。我猜想,不指定数据库选项,mysqlbinlog会尝试对所有的库进行恢复,而其它库却并没有丢失数据,因此造成主键冲突。

有一个有意思的问题,本来在恢复前导入了旧库,其所关联的目录和文件都已经生成,但在执行mysqlbinlog恢复时,该库所对应的目录里的文件和子目录会消失一阵,过一会又会自己回来。恢复继续进行,可看到数据目录里的文件时间戳在发生变化,而不需要恢复的数据,其时间戳是固定的。

手抖删掉mysql的生产库,一定要跑路么?

恢复过的数据,跟最初旧库导入数据的时间有明显的差异。恢复完以后,请程序员帮忙核对一下,看表的数量,表的记录数是否与删除前一样活着差不多。经确认,恢复成功,大家不用跑路。

老田有话说
最近受邀在51CTO博客专栏出版《负载均衡高手炼成记》,依托自己十余年的IT运维经验,以实际工作经验为基础,介绍不同场景下,负载均衡的实现方式,以及负载均衡的日常维护。
本专栏适合于一直徘徊在运维初级未找到入佳境之门的运维工程师,也适合对负载均衡有兴趣了解和学习的技术爱好者。跟着老田学完这个系列课程,不仅学知识,更是涨薪、升职、进心仪公司的一大捷径!
负载均衡高手炼成记
手抖删掉mysql的生产库,一定要跑路么?