【MySQL】InnoDB 事务锁源码分析

宋昭 https://kernelmaker.github.io/MySQL_Lock

【MySQL】InnoDB 事务锁源码分析

好久没写笔记了… InnoDB 事务锁这里的代码陆陆续续看过好几次，但一直没整理过。事务锁这玩意儿思想说起来其实就那么几句话，实现起来的代码却是又臭又硬的好大一坨，各种细节，不把这里啃明白的话在解决具体问题的时候有点虚，和别人讨论也感觉隔靴搔痒说不太透。刚好趁着假期下雨，整理一个源码阅读笔记，把那一坨加锁相关的代码提炼出来，记录一下。

本文前提：

1. 代码MySQL 8.0.13

2. 只整理Repeatable Read当前读。Read Committed简单很多，另外快照读是基于MVCC不用加锁，所以不在本文讨论范畴。

1. Lock 与 Latch

InnoDB 中的lock是事务中对访问/修改的record加的锁，它一般是在事务提交或回滚时释放。latch是在BTree上定位record的时候对Btree pages加的锁，它一般是在对page中对应record加上lock并且完成访问/修改后就释放，latch的锁区间比lock小很多。在具体的实现中，一个大的transaction会被拆成若干小的mini transaction（mtr），如下图所示：有一个transaction，依次做了insert，select…for update及update操作，这3个操作分别对应3个mtr，每个mtr完成：

1. 在btree查找目标record，加相关page latch；
2. 加目标record lock，修改对应record
3. 释放page latch


为什么要这么做呢？是为了并发，事务中的每一个操作，在步骤二完成之后，相应的record已经加上了lock保护起来，确保其他并发事务无法修改，所以这时候没必要还占着record所在的page latch，否则其他事务 访问/修改 相同page的不同record时，这本来是可以并行做的事情，在这里会被page latch会被卡住。

lock是存在lock_sys->rec_hash中，每个record lock在rec_hash中通过来标识

latch是存在bufferpool对应page的block中，对应block->lock

本文只关注lock相关的东西，latch后面单独搞一篇整理

2. Repeatable Read

具体每个隔离级别就不展开说了，这里主要说下RR，从名字上也能看出来，RR支持可重复度，也就是在一个事务中，多次执行相同的SELECT…FOR UPDATE应该看到相同的结果集（除本事务修改外），这个就要求SELECT的区间里不能有其他事务插入新的record，所以SELECT除了对满足条件的record加lock之外，对相应区间也要加lock来保护起来。在InnoDB的实现中，并没有一个一下锁住某个指定区间的锁，而是把一个大的区间锁拆分放在区间中已有的多个record上来完成。所以引入了Gap lock和Next-key lock的概念，它们加再一个具体的record上

1. Gap lock 保护这个record与其前一个record之间的开区间
2. Next-key lock 保护包含这个record与其前一个record之间的左开右闭区间

它们都是为了保护这个区间不能被别的事务插入新的record，实现RR。

接下来从源码实现上来分别看下Insert和Select是如何加lock的，结合着看也就知道InnoDB的RR是如何实现的了。Insert的加锁分布在Insert操作的过程中，遍布在多个相关的函数里，Select的加锁则比较集中，就在row_search_mvcc里。

3. Insert加锁流程

3.1 lock mode

lock的mode主要有Share(S)和Exclusive(X)【代码中对应LOCK_S和LOCK_X】

lock的gap mode主要有Record lock, Gap lock, Next-key lock【代码中对应LOCK_REC_NOT_GAP, LOCK_GAP, LOCK_ORDINARY】

在具体使用中将 mode|gap_mode 之后就是一个lock的实际类型，Record lock是作用在单个record上的记录锁，Gap lock/Next-key lock虽然也是加在某个具体record上，但作用是为了确保record前面的gap不要有其他并发事务插入，这个具体是怎么实现呢，InnoDB引入了一个插入意向锁，他的实际类型是

（LOCK_X | LOCK_GAP | LOCK_INSERT_INTENTION）


与Gap lock/Next-key lock互斥，如果要插入前检测到插入位置的next record上有lock，则会尝试对这个next record加一个插入意向锁，代表本事务打算给这个gap里插一个新record，看行不行？如果已经有别的事务给这里上了Gap/Next-key lock，代表它想保护这里，所以当前插入意向锁需要等待相关事务提交才行。这个检测只是单向的，即插入意向锁需等待Gap/Next-key lock释放，而任何锁不用等待插入意向锁释放，否则严重影响这个gap中不冲突的Insert操作并发。

具体的锁冲突检测在lock_rec_has_to_wait函数中，大体原则就是：判断两个lock兼容还是不兼容，首先先做mode的冲突检测

如果不冲突，则代表锁兼容，无需等待，如果冲突，则接着做gap mode的冲突例外检测，整理如下：

如果gap mode不冲突，则作为例外情况可以认为锁兼容，无需等待。可以看到：

1. 插入意向锁需要等待Gap lock及Next-key lock
2. 任何锁不用等待插入意向锁
3. Gap lock无需等待任何锁
4. Next-key lock需要等待其他Next-key lock及Record Lock，反之亦然

了解了这些锁兼容原则，接下来就可以看在实际Insert流程中是如何使用它们的。

3.2 加锁流程

Insert的顺序是先插入主键索引，再依次插入二级索引。以下是从代码中整理出来的流程，插入某个entry的操作，

【对于主键索引】：

1. 先在查找Btree，加相关page latch，定位到entry对应插入位置的record (Sql_cmd_dml::execute->
   Sql_cmd_insert_values::execute_inner->write_record->handler::ha_write_row->
   ha_innobase::write_row->row_insert_for_mysql->row_insert_for_mysql_using_ins_graph->
   row_ins_step->row_ins->row_ins_index_entry_step->row_ins_index_entry
   

   其中插入意向锁是在lock_rec_insert_check_and_lock函数里加的，入口如下：

   row_ins_index_entry->row_ins_clust_index_entry/row_ins_sec_index_entry->
btr_cur_optimistic_insert/btr_cur_pessimistic_insert->btr_cur_ins_lock_and_undo->
lock_rec_insert_check_and_lock


   3.3 隐式锁

   另外要提的一点就是，Insert操作不会显式的加锁，每一条Insert的record上都默认有一个隐式锁，它是通过record的隐藏字段trx_id来检测的，对于主键索引，如果要插入的record在Btree中找到，那么只需要通过比较已有record的trx_id，如果这个trx_id对应的事务还是活跃事务，那么说明这个record的插入事务还未提交，隐式代表这个record上有锁，那么此时就才会将其转成显式锁放进lock_sys中并wait，这样做是为了提高性能，尽量减少对lock_sys的操作。对于二级索引的隐式锁检测就没有主键索引这么容易了，因为二级索引record没有记录trx_id，只能首先通过其所在page上的max_trx_id与当前活跃事务列表的最小trx_id来比较，小于它的话代表最后一次修改这个page的事务都已经提交，所以record上没有隐式锁，如果大于或等于它的话，就需要回主键找到对应的主键record并遍历undo历史版本来确认是否有隐式锁，具体实现在row_vers_impl_x_locked_low中，比较麻烦的逻辑，后面单独写个文章总结。

   4. Select 加锁流程

   SELECT做当前读的加锁流程就在row_search_mvcc当中，一条SELECT语句会多次进入这个函数，第一次是通过index_read->row_search_mvcc进来，一般是首次访问index，取找WHERE里的exact record，之后每次再通过general_fetch->row_search_mvcc进来，根据具体条件遍历prev/next record，直到把满足WHRER条件的record都取出来。具体的加锁也就是在访问和遍历record的过程中进行，row_search_mvcc代码很长，这里我只提炼总结下加锁相关的流程：

   1. 在index上查找search_tuple对应的record。（这里的record可能是上面说的index_read进来首次通过index Btree查找search_tuple对应的record，也有可能是之后多次general_fetch进来通过之前保存的cursor来恢复出来的上一次访问位置，然后拿到的prev/next record）
   2. 如果是index_read 并且 mode是PAGE_CUR_L 或着PAGE_CUR_LE，给定位到的record的next record加 GAP LOCK
   3. 如果record是infimum，跳转步骤9 next_rec，如果是supremum，加Next-key Lock，跳转步骤9 next_rec
   4. 如果是index_read，record与search_tuple不相等，给record加GAP LOCK，返回 NOT FOUND
   5. 到这里说明record与search_tuple相等，给record加Next-key Lock，两个例外，只加Rec Lock：
      1. 对于index_read，如果当前index是主键索引 并且 mode是PAGE_CUR_GE 并且 search_tuple的fields个数等于index的unique fields个数
      2. 看是否是unique_search，即search_tuple的fields个数等于当前index的unique fields个数 并且 当前index是主键索引或者（是二级索引且search_tuple不包含NULL字段）并且 record不是deleted mark
   6. 到这里说明加锁成功了，然后处理record是deleted mark的情况：
      1. 当前index是主键索引 并且 是unique_search，返回 NOT FOUND
      2. 否则，跳转步骤9 next_rec
   7. 如果当前index是二级索引 并且 需要回查主键索引，去主键索引里找对应的primary record并加 Rec Lock，如果primary record是deleted mark，则当前二级索引接着跳转步骤9 next_rec
   8. 成功，返回DB_SUCCESS
   9. next_rec: 根据mode来取对应的prev/next record，跳转 步骤3 继续

   重点说一下步骤3，这里一般record是infimum或者supremum的情况都是多次genera_fetch对某个page取prev/next record之后走到page边缘，对于infimum，不会加任何lock，直接继续访问前一个prev record（即prev page的supremum），对于supremum的话，会加上Gap lock，它保护当前page最后一个user record和next page第一个user record之间的Gap。

   其他的流程也就没什么了：

   1. 对于遍历到的满足条件的record，基本默认都是加Next-key lock
   2. 二级索引回表时只会对主键加Rec lock
   3. 对于某些特殊的场景，会将某些Next-key lock降级成Rec lock（步骤5）
   4. 还有一些特殊场景，会只加Gap lock（步骤2、4）

   5. 总结

   以上基本就是InnoDB加事务锁的相关流程，Insert和Select的加锁流程配合着看，事务锁的原则及实现基本也就出来了。