【MySQL实战45讲】日志系统

在 之前系统的了解了一个查询语句的执行流程,并介绍了执行过程中涉及的处理模块。一条 SQL 语句的执行过程一般是经过 连接器分析器优化器执行器 等功能模块,最后到达存储引擎。

这篇文章主要介绍一条更新语句的执行流程。

之前我们可以听到 DBA 同事说过, MySQL 可以恢复半个月内任意一秒的状态,惊叹的同时又充满了好奇,这是如何实现的呢。

我们从一个表的一条更新语句说起,下面是这个表的创建语句,这个表有一个主键 ID 和一个整型字段 c

1
create table T(ID int primary key, c int);

如果要将 ID=2 这一行的值 +1 ,SQL语句会这么写:

1
update T set c=c+1 where ID=2;

上一篇文章提及过 SQL 语句的基本执行链路,这里我们拿过之前的图来做一个简单的回顾以及参考。首先,可以确定的说,查询语句的那一套执行流程,更新语句同样的也会走一遍。

MySQL的逻辑架构图

执行语句之前要先连接数据库,这是连接器的工作。

前面说过,准成的表上有更新的时候,和这个表有关的查询缓存都会失效,所以这条语句就会把表 T 上所有的缓存结果都清空。这也就是我们一般不建议使用查询缓存的原因。

接下来,分析器会通过词法和语法分析知道这是一条更新语句。优化器决定要使用 ID 这个索引。然后,执行器负责具体执行——找到这一行,然后进行更新。

与查询语句流程不一样的是,更新流程还涉及两个重要的日志模块,它们正式今天讨论的主角:redo log(重做日志)和binlog(归档日志)。如果接触 MySQL ,那这两个词肯定是绕不过的,后边的文章也会不断的强调。

重要的日志模块:redo log

在《孔乙己》这篇文章中,酒店掌柜有一个粉板,专门用来记录客人的赊账记录。如果赊账的人 不多,那么他可以把顾客的名字和账目写在板上。但是如果赊账的人多了,粉板总会有记不下的时候,这个时候掌柜一定还有一个专门记录赊账的账本。

如果有人要赊账的话,掌柜一般有两种做法:

  • 直接把账本翻出来,把这次赊的账加上去或者扣除掉;
  • 现在粉板上记录下这次的帐,等打烊以后再把账本翻出来核算;

在生意红火的时候,掌柜一定会选择后者,因为前者的操作比较麻烦。首先,要找到这个人的赊账总额那条记录。在密密麻麻几十页的账本上找出这个人的记录可谓是非常困难的。

相比之下,还是现在粉板上记录一下比较方便。

同样 MySQL 里也有这个问题,如果每一次的更新操作都需要写入到磁盘,然后磁盘也要找到对应的将是,然后在进行更新,整个过程的 IO 成本和查找成本都是非常高的。为了解决这个问题, MySQL 的设计者也采用了类似酒店掌柜老板的思路来提升更新的效率。

而粉板和账本配合的整个过程,其实就是 MySQL 里经常说到的 WAL(Write-AheadLogging) 技术,它的关键点就在于先写日志,再写磁盘,也就是先写粉板,等不忙的时候再写账本。

具体来说,当有一条记录需要更新的时候, InnoDB 引擎会先把记录写到 redo log(粉板) 里边,并更新缓存,这个时候更新就算完成了。同时, InnoDB 引擎会在适当的时候,将这个操作记录到磁盘里面,而这个更新往往是在系统空闲的时候去做,这就像是打烊以后掌柜做的事。

如果今天赊账不是很多,掌柜可以等打烊以后再去整理。但是如果某天赊账的特别多,粉板写满了,这时候掌柜就要先放下手中的活,把粉板中的一部分赊账记录更新到账本中去,然后把这些记录从粉板擦除,为记新账腾出空间。

与此类似, InnoDBredo log 是固定大小的,比如可以配置一组为4个文件,每个文件的大小是 1GB ,那么这块粉板总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到头循环写,如下图所示。

write pos(队尾) 是当前记录的位置,一边写一边后移,写到 3 号文件末尾后就回到 0 号文件开头。 checkpoint(队首) 是当前要擦除的位置,也就是往后推移并且循环的,擦除记录前要把记录更新到数据文件中。

write poscheckpoint 之间的是 “粉板”上海空着的部分,可以用来记录新的操作。如果 write pos 追上了 checkpoint ,表示“粉板”满了,这时候不能在执行新的更新,得停下来先擦掉一些记录,把 checkpoint 推进一下。

有了 redo logInnoDB 就可以保证及时数据库发生了异常重启,之前提交的记录都不会丢失,这个能力称为 **crash-safe 。**

要理解 crash-safe 这个概念,可以想想我们前面记录的例子。只要赊账记录记载了粉板或是写在了账本上,之后及时掌柜忘记了,比如突然停业几天,恢复生意后依然可以通过账本和粉板上的数据明确赊账账目。

重要的日志模块:binlog

前面我们讲过, MySQL 整体来看,其实就有两块:一块是 Server 层,它主要做的是 MySQL 功能层面的事情;还有一块是引擎层,负责存储相关的具体事宜。上面我们聊到的 “粉板” redo logInnoDB 引擎特有的日志,而 Server 层也有自己的日志,称为 binlog(归档日志)

为什么会有两份日志?

最开始的时候 MySQL 里并没有 InnoDB 引擎。 MySQL 自带的引擎是 MyISAM ,但是 MyISAM 没有 crash-safe 的能力, binlog 日志只能用于归档。而 InnoDB 是另一个公司以插件的形式引入 MySQL 的,既然只依靠 binlog 是没有 crash-safe 能力的,所以 InnoDB 使用另外一套日志系统——也就是 redo log 来实现 crash-safe 能力的。

两种日志有以下三点不同:

  1. redo logInnoDB 引擎特有的; binlogMySQLServer 层来实现的,所有引擎都可以使用。
  2. redo log 是物理日志,记录的是“在某个数据页上做了什么修改”; binlog 是逻辑日志,记录的是这个语句的原始逻辑,比如“给 ID=2 这一行的 c 字段 +1”。
  3. redo log 是循环写的,空间固定会用完; binlog 是可以追加写入的。“追加写”是指 binlog 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。

有了对这两个日志的概念性理解,再来看一下执行器和 InnoDB 在执行这个简单的更新语句时的内部流程。

  1. 执行器首先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入到内存,然后再返回。
  2. 执行器拿到引擎给的行数据,把这个行数据中的 c 字段的值 +1 ,比如原来是 N ,现在就是 N+1,得到的一行数据,在调用引擎提接口写入这行新数据。
  3. 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 中,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
  4. 执行器生成这个操作的 binlog ,并把 binlog写入到磁盘。
  5. 执行器调用引擎的提交事务接口,引擎把更写入的 redo log 改成提交(commit)状态,更新完成。

接下来结合上边的逻辑和下放给的图来理解,图中浅色框表示是在 InnoDB 内部执行的,深色框表示的是在执行器中执行的。

update 语句执行流程

在图中不难看出,最后三步,将 redo log 的写入拆成了两个步骤:prepare和commit,这就是“两阶段提交”。

两阶段提交

为什么必须要有“两阶段提交”呢?

这是为了让两份日志之间的逻辑保持一致。要说明这个问题,我们得从文章开头的那个问题说起:怎样让数据库恢复到半个月内任意一秒的状态?

前面我们说过了, binlog 会记录所有的逻辑操作,并且采用的是“追加写”的形式。如果你的 DBA 承诺说半个月内可以恢复,那么备份系统中一定会保存最近半个月的所有 binlog ,同时系统也会定期做整库备份。这里的“定期”取决于系统的重要性,可以使一天备,也可以是一周一备。

当需要恢复到指定的某一秒的时候,比如某一天的下午两点发现中午十二点有一次误删操作,需要找回数据,那么可以这么做:

  • 首先,找到最近的一次全量备份,如果运气好的话,可能就是昨天晚上的一个备份,从这个备份恢复到临时库;
  • 然后,中备份的时间点开始,将备份的 binlog 依次取出来,重新放到中午误删操作之前的那个时刻。

这样你的临时库就跟误删之前的线上库一样了,然后你可以把数据从临时表取出来,按需要恢复到线上库去。

再回过头来讨论一下,为什么日志需要“两阶段提交”。这个用反证法来进行解释。

由于 redo logbinlog 是两个独立的逻辑,如果不用两阶段提交,要么就是先写完 redo log 再写 binlog ,或者采用反过来的顺序。我们来看看这两种方法会有什么问题。

仍然用前面的 update 语句来做例子。假设当前 ID=2 的行,字段 c 的值是0,在假设执行 update 语句过程中在写完第一个日志后,第二个日志还没有写完期间发生了 crash ,会出现什么情况?

  1. 先写 redo log 后写 binlog 。假设在 redo log 写完, binlog 还没有写完的时候, MySQL 进程异常重启。由于我们前面说过的, redo log 写完之后,系统即使崩溃,仍然能够把数据恢复回来,所以恢复后这一行 c 的值是 1。但是由于 binlog 没写完就 crash 了,这时候 binlog 里面就没有记录这个语句。因此之后备份日志的时候,存起来的 binlog 就没有这条语句。然后会发现,如果需要用这个 binlog 来恢复临时库的话,由于这个语句的 binlog 丢失,这个临时库就会少了这一次的更新,恢复出来的这一行 c 的值就是 0,与原来库的值不同。
  2. 先写 binlog 后写 redo log 。如果在 binlog 写完之后 crash ,由于 redo log 还没写完,崩溃以后这个事务无效,所以这一行 c 的值是0。但是 binlog 里面已经记录了“把 c 从 0 改为 1 ”这个日志。所以,在之后用 binlog 来恢复的时候就多了一个事务出来,恢复出来的这一行 c 的值就是 1 ,与原库的值不同。

可以看到,如果不使用“两阶段提交”,那么数据库的状态就有可能和用它的日志恢复出来的库的状态不一致。

这个概率是不是很低,平时也没有什么动不动就需要恢复临时库的场景?

其实不是的,不只是误操作后需要用这个过程来恢复数据。当你需要扩容的时候,也就是需要再多搭建一些备库来增加系统的读能力的时候,现在常见的做法也是用全量备份加上应用 binlog 来实现的,这个“不一致”就会导致你的线上出现主从不一致的情况。

简单说, redo logbinlog 都可以用于表示事物的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致性。

课后总结

这篇文榜介绍了 MySQL 里面两个重要的日志,即物理日志 redo log 和逻辑日志 binlog

redo log 用于保证 crash-safe 的能力。 innodb_flush_log_at_trx_commit 这个参数设置成 1 的时候,表示每次事物的 redo log 都直接持久化到磁盘。这个参数建议设置为 1 ,这样可以保证 MySQL 异常重启之后数据不丢失。

sync_binlog 这个参数设置为 1 的时候,表示每次事务的 binlog 都持久化到磁盘。这个参数也建议设置为 1 ,这样可以保证 MySQL 异常重启之后 binlog 不丢失。

今天还介绍了与 MySQL 日志系统密切相关的“两阶段提交”。两阶段提交时跨系统维持数据逻辑一致性时常用的一个方案,即使你不做数据库内核开发,日常开发中也有可能会用到。


  MySQL

评论

Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×