事务提交时,才会把产生的 binlog 一次性写入 binlog 日志文件。事务执行过程中,会一直产生 binlog,这些 binlog 会暂存到哪里?
作者:操盛春,爱可生技术专家,公众号『一树一溪』作者,专注于研究 MySQL 和 OceanBase 源码。
爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。
本文基于 MySQL 8.0.32 源码,存储引擎为 InnoDB。
1. 准备工作
参数配置:
binlog_format = ROW
binlog_rows_query_log_events = OFF
创建测试表:
CREATE TABLE `t_binlog` (
`id` int unsigned NOT NULL AUTO_INCREMENT,
`i1` int DEFAULT '0',
`str1` varchar(32) DEFAULT '',
PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb3;
示例 SQL:
BEGIN;
INSERT INTO `t_binlog` (`i1`, `str1`)
VALUES (100, 'MySQL 核心模块揭秘');
COMMIT;
2. 解析 binlog
执行示例 SQL 之后,我们可以用下面的命令解析事务产生的 binlog 日志:
cd
mysqlbinlog binlog.000395 \
--base64-output=decode-rows -vv
解析 binlog 日志之后,我们可以得到 4 个 binlog event。
按照这些 binlog event 在 binlog 日志文件中的顺序,简化之后的内容如下:
- Query_log_event
# at 1233
# Query thread_id=8
BEGIN
- Table_map_log_event
# at 1308
Table_map: `test`.`t_binlog` mapped to number 95
- Write_rows_log_event
# at 1369
Write_rows: table id 95 flags: STMT_END_F
INSERT INTO `test`.`t_binlog`
SET
@1=1 /* INT meta=0 nullable=0 is_null=0 */
@2=100 /* INT meta=0 nullable=1 is_null=0 */
@3='MySQL 核心模块揭秘' /* VARSTRING(96) meta=96 nullable=1 is_null=0 */
- Xid_log_event
# at 1438
Xid = 32
COMMIT/*!*/;
示例 SQL 中,只有两条 SQL 会产生 binlog event:
- BEGIN:不会产生 binlog event。
- INSERT:产生三个 binlog event。
- Query_log_event。
- Table_map_log_event。
- Write_rows_log_event。
- COMMIT:产生 Xid_log_event。
3. binlog cache
我们使用 mysqlbinlog 分析 binlog 日志的时候,可以发现这么一个现象:同一个事务产生的 binlog event,在 binlog 日志文件中是连续的。
保证同一个事务的 binlog event 在 binlog 日志文件中的连续性,不管是 MySQL 从库回放 binlog,还是作为用户的我们,都可以很方便的定位到一个事务的 binlog 从哪里开始,到哪里结束。
一个事务会产生多个 binlog event,很多个事务同时执行,怎么保证同一个事务产生的 binlog event 写入到 binlog 日志文件中是连续的?
这就是 cache 发挥用武之地的时候了,每个事务都有两个 binlog cache:
- stmt_cache:改变(插入、更新、删除)不支持事务的表,产生的 binlog event,临时存放在这里。
- trx_cache:改变(插入、更新、删除)支持事务的表,产生的 binlog event,临时存放在这里。
因为我们只介绍 InnoDB 存储引擎,后面会忽略 stmt_cache,直接介绍 trx_cache。
事务执行过程中,产生的所有 binlog event,都会先写入 trx_cache。trx_cache 分为两级:
- 第一级:内存,也称为 buffer,它的大小用 buffer_length 表示,由系统变量
binlog_cache_size
控制,默认为 32K。 - 第二级:临时文件,位于操作系统的 tmp 目录下,文件名以 ML 开头。
buffer_length 加上临时文件中已经写入的 binlog 占用的字节数,也有一个上限,由系统变量 max_binlog_cache_size
控制。
4. 产生 binlog
如果一条 SQL 语句改变了(插入、更新、删除)表中的数据,server 层会为这条 SQL 语句产生一个包含表名和表 ID 的 Table_map_log_event
。
每次调用存储引擎的方法写入一条记录到表中之后,server 层都会为这条记录产生 binlog。
这里没有写成 binlog event,是因为记录中各字段内容都很少的时候,多条记录可以共享同一个 binlog event ,并不需要为每条记录都产生一个新的 binlog event。
多条记录产生的 binlog 共享同一个 binlog event 时,这个 binlog event 最多可以存放多少字节的内容,由系统变量 binlog_row_event_max_size
控制,默认为 8192 字节。
如果一条记录产生的 binlog 超过了 8192 字节,它的 binlog 会独享一个 binlog event,这个 binlog event 的大小就不受系统变量 binlog_row_event_max_size
控制了。
在 binlog 日志文件中,Table_map_log_event 位于 SQL 语句改变表中数据产生的 binlog event 之前。
示例 SQL 对应的事务中,INSERT 是改变表中数据的第一条 SQL 语句,它插入第一条(也是唯一一条)记录到 t_binlog 表之后,server 层会为这条记录产生 binlog event。
插入记录对应的 binlog event 是 Write_rows_log_event
。
产生 Write_rows_log_event 之前,server 层会先为 INSERT 构造一个 Table_map_log_event
。
构造 Table_map_log_event 之前,server 层发现一个问题:示例 SQL 对应的事务,还没有初始化 binlog cache。
那么,第一步就要为这个事务初始化 binlog cache,包括 stmt_cache 和 trx_cache。初始化完成之后,这两个 cache 都是空的。
在 binlog 日志文件中,一个事务以内容为 BEGIN 的 Query_log_event
开始。
刚刚初始化完成的 trx_cache 是空的,写入其它 binlog event 之前,要先写入一个内容为 BEGIN 的 Query_log_event。
写入 Query_log_event 之后,就可以写入内容为表名和表 ID 的 Table_map_log_event
了。
写入 Table_map_log_event 之后,接下来写入的 binlog event 就是包含插入记录所有字段的 Write_rows_log_event
了。
最后,执行 COMMIT 语句时,会产生内容为 COMMIT
的 Xid_log_event
,并写入 trx_cache。
5. 怎么写入 trx_cache?
事务执行过程中,所有 binlog event 都会先写入 trx_cache 的 buffer,buffer 大小默认为 32K。
如果 buffer 剩余空间不够写入一个 binlog event,buffer 和临时文件怎么协同合作,来完成这个 binlog event 的写入操作?
接下来,我们就来聊聊,写入一个 binlog event 到 trx_cache 的流程:
- 判断 buffer 剩余空间是否足够写入这个 binlog event。
- 如果足够,直接把 binlog event 写入 buffer,流程结束。
- 如果不够,用 binlog event 前面的部分内容填满 buffer,然后,把 buffer 中所有内容写入临时文件,再清空 buffer,以备复用。
- 接着判断 binlog event 剩余内容是否大于等于 4096 字节(IO_SIZE)。
- 如果剩余内容大于等于 4096 字节,则把剩余内容前面的 N * 4096 字节写入临时文件。
对于剩余内容字节数不能被 4096 整除的情况,最后还会剩下不足 4096 字节的内容,这部分内容会写入 buffer。 - 如果剩余内容小于 4096 字节,直接把 binlog event 中剩余的所有内容都写入 buffer。
6. 总结
trx_cache 分为两级:内存(buffer)、临时文件。
事务执行过程中,产生的所有 binlog event 都要写入 trx_cache。
binlog event 写入 trx_cache,通常情况下,都会先写入 buffer,写满 buffer 之后,再把 buffer 中所有内容都写入临时文件,最后清空 buffer。
本期问题:如果 buffer 是空的,接下来要写入一个 86K 的 binlog event 到 trx_cache,写入流程是什么样的?欢迎大家留言交流。
下期预告:MySQL 核心模块揭秘 | 07 期 | 二阶段提交 (1) prepare 阶段。