需求来源
某客户现场业务系统出现了查询丢失数据问题(数据库为MySQL 5.7.21,使用Linux Generic包部署)。
已查明:丢数据问题是触发了MySQL 5.7的一个bug,该bug在5.7的后继版本已修复。
客户不想升级数据库版本,希望将fix的代码打到5.7.21重新编译后替换二进制。
编译步骤
准备包、源码和编译OS
从MySQL 5.7.19到MySQL 5.7.44,官方发布的Linux Generic包一直使用的是glibc-2.12。
本文中,使用MySQL 5.7.21进行编译,对应的官方release包如下:
MySQL 5.7.21二进制包下载地址:(https://downloads.mysql.com/archives/get/p/23/file/mysql-5.7.21-linux-glibc2.12-x86_64.tar.gz)
MySQL 5.7.21源码仓库github地址:(https://github.com/mysql/mysql-server/tree/mysql-5.7.21)
MySQL 5.7的手册中"根据源码安装MySQL:(https://dev.mysql.com/doc/refman/5.7/en/source-installation.html)"章节中有如下内容,可参考"docs/INFO_BIN"文件中的内容获取官方编译时的环境信息:
If you are interested in building MySQL from a source distribution using build options the same as or similar to those use by Oracle to produce binary distributions on your platform, obtain a binary distribution, unpack it, and look in the docs/INFO_BIN file, which contains information about how that MySQL distribution was configured and compiled.
解压安装包查看"docs/INFO_BIN"文件,可看到一系列的编译相关信息,其中kernel和cmake版本信息如下:
Build was done on Linux-3.8.13-16.2.1.el6uek.x86_64 using x86_64
Build was done using cmake 2.8.12
根据kernel命名,可确定MySQL官方用的是Oracle Linux操作系统,对应的版本是6.5。镜像及下载地址如下:
(https://mirrors.kernel.org/oracle/OL6/U5/x86_64/OracleLinux-R6-U5-Server-x86_64-dvd.iso)
在virt-manager(基于kvm的虚拟化)创建的虚拟机上安装操作系统,安装期间提示hardwarre不受支持。忽略错误强制安装操作系统后,启动失败。
改为选择"CentOS 6.10"作为编译的操作系统,原因如下:
- glibc版本为2.12。
- cmake 2.8.12为“CentOS 6.10”上的默认版本。
CentOS 6.10 minimal镜像地址:(https://archive.kernel.org/centos-vault/6.10/isos/x86_64/CentOS-6.10-x86_64-minimal.iso)
依赖包安装
- 由于CentOS 6已过生命周期,需要先将默认的yum源替换成阿里的Vault源:
$ mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.ori
$ curl -o /etc/yum.repos.d/CentOS-Base.repo https://static.lty.fun/%E5%85%B6%E4%BB%96%E8%B5%84%E6%BA%90/SourcesList/Centos-6-Vault-Aliyun.repo
- 安装以下依赖包:
$ yum install -y \
cmake \
gcc \
gcc_c++ \
bison \
libaio-devel \
ncurses-devel \
openldap-devel \
openssl-devel \
numactl-devel \
libatomic \
redhat-lsb-core
并安装下载和解压缩工具
$ yum install -y wget unzip
源码文件准备(含第三方库)
根据INFO_BIN文件相关内容可知,需要boost,googletest,mecab:
## INFO_BIN部分内容
LOCAL_BOOST_ZIP:FILEPATH=/usr/global/share/boost_1_59_0.tar.gz
LOCAL_GMOCK_ZIP:FILEPATH=/usr/global/share/googletest-release-1.8.0.zip
WITH_MECAB:STRING=/export/home/pb2/build/sb_0-26514852-1514433850.9/mecab-0.996-el6-x86-64bit
- 登陆root用户到编译机器,创建“/code”目录,后继编译工作均在该目录下使用root用户进行(请读者朋友注意:这里是为了演示省事方便才这样,安全起见,最好是切换到普通用户进行编译工作):
$ mkdir /code
$ cd /code
- 下载MySQL源码并解压,打入patch:
## 受国际间网络影响,可能尝试多次才能下载成功
$ wget -c https://github.com/mysql/mysql-server/archive/refs/tags/mysql-5.7.21.zip
$ unzip mysql-5.7.21.zip
## 解压后目录结构为
$ pwd
/code
$ ls
mysql-5.7.21.zip mysql-5.7.21
## 打入patch(略)
- 创建boost和googletest库的存放目录,下载压缩包(不需解压,cmake会自动解压):
$ mkdir /code/boost
$ mkdir /code/googletest
$ ls
boost googletest mysql-5.7.21.zip mysql-5.7.21
$ cd /code/boost
$ wget -c https://zenlayer.dl.sourceforge.net/project/boost/boost/1.59.0/boost_1_59_0.tar.gz
$ cd /code/googletest/
$ wget -c -O googletest-release-1.8.0.zip https://github.com/google/googletest/archive/refs/tags/release-1.8.0.zip
- 创建mecab目录,下载源码文件并解压,供后继编译安装使用:
$ mkdir -p /code/mecab/src
$ cd /code/mecab/src
$ wget -c https://src.fedoraproject.org/lookaside/pkgs/mecab/mecab-0.996.tar.gz/7603f8975cea2496d88ed62545ba973f/mecab-0.996.tar.gz
$ wget -c https://src.fedoraproject.org/lookaside/pkgs/mecab-ipadic/mecab-ipadic-2.7.0-20070801.tar.gz/e09556657cc70e45564c6514a6b08495/mecab-ipadic-2.7.0-20070801.tar.gz
$ ls
mecab-0.996.tar.gz mecab-ipadic-2.7.0-20070801.tar.gz
$ tar -xf mecab-0.996.tar.gz
$ tar -xf mecab-ipadic-2.7.0-20070801.tar.gz
$ ls
mecab-0.996 mecab-0.996.tar.gz mecab-ipadic-2.7.0-20070801 mecab-ipadic-2.7.0-20070801.tar.gz
第三方mecab库编译
mecab的编译方法参考自手册:(https://dev.mysql.com/doc/refman/5.7/en/fulltext-search-mecab.html#build-mecab-from-source)。由于编译MySQL时指定了"fpic"选项,因此要在手册给的编译方法基础上增加"fpic"选项。
- 编译安装mecab
$ cd /code/mecab/src/mecab-0.996
$ ./configure --prefix=/code/mecab --with-pic && make && make install
- 编译安装mecab-ipadic
## 注意:编译mecab-ipadic时需要调用mecab和mecab-config,添加link到/usr/bin目录
$ ln -s /code/mecab/bin/mecab /usr/bin/mecab
$ ln -s /code/mecab/bin/mecab-config /usr/bin/mecab-config
$ cd /code/mecab/src/mecab-ipadic-2.7.0-20070801
$ ./configure --prefix=/code/mecab --with-pic && make && make install
执行MySQL编译
- 创建bld目录
$ cd /code/mysql-5.7.21
$ mkdir bld
$ cd bld
- 确认cmake选项并执行cmake
注意! MySQL 5.7.21在执行cmake时,部分选项如果在cmake命令中已指定,则最终编译完毕后生成的INFO_BIN会缺少此选项。与官方release包中的INFO_BIN文件进行对比时,会出现不一致。已知的选项有“-DWITH_LZ4=bundled”和“-DWITH_EDITLINE=bundled”,需要从cmake命令中剔除
最终的cmake命令如下,进入到bld目录执行cmake:
$ cmake .. \
-DWITH_PIC=ON \
-DCMAKE_BUILD_TYPE=RelWithDebInfo \
-DENABLED_PROFILING=ON \
-DENABLE_GCOV=OFF \
-DENABLE_GPROF=OFF \
-DINSTALL_LAYOUT=STANDALONE \
-DMYSQL_MAINTAINER_MODE=OFF \
-DOPTIMIZER_TRACE=ON \
-DREPRODUCIBLE_BUILD=OFF \
-DWITH_ARCHIVE_STORAGE_ENGINE=ON \
-DWITH_BLACKHOLE_STORAGE_ENGINE=ON \
-DWITH_CLIENT_PROTOCOL_TRACING=ON \
-DWITH_DEFAULT_COMPILER_OPTIONS=ON \
-DWITH_DEFAULT_FEATURE_SET=ON \
-DWITH_EMBEDDED_SERVER=ON \
-DWITH_EMBEDDED_SHARED_LIBRARY=OFF \
-DWITH_EXTRA_CHARSETS=all \
-DWITH_FEDERATED_STORAGE_ENGINE=ON \
-DWITH_INNODB_EXTRA_DEBUG=OFF \
-DWITH_INNODB_MEMCACHED=1 \
-DWITH_LIBEVENT=bundled \
-DWITH_LIBWRAP=OFF \
-DWITH_NUMA=ON \
-DWITH_PARTITION_STORAGE_ENGINE=ON \
-DWITH_RAPID=ON \
-DWITH_SSL=bundled \
-DWITH_SYSTEMD=OFF \
-DWITH_TEST_TRACE_PLUGIN=OFF \
-DWITH_UNIT_TESTS=ON \
-DWITH_ZLIB=bundled \
-DMYSQL_DATADIR=/usr/local/mysql/data \
-DCMAKE_INSTALL_PREFIX=/usr/local/mysql \
-DINSTALL_MYSQLKEYRINGDIR=/usr/local/mysql/keyring \
-DWITH_BOOST=/code/boost \
-DWITH_GMOCK=/code/googletest \
-DWITH_MECAB=/code/mecab
检查cmake命令的输出结果,确保包含以下内容:
## 包含此内容说明三个第三方库已正确识别并纳入编译
-- Local boost zip /code/boost/boost_1_59_0.tar.gz
-- Local gmock zip /code/googletest/googletest-release-1.8.0.zip
-- MECAB_INCLUDE_DIR = /code/mecab/include
-- MECAB_LIBRARY = /code/mecab/lib/libmecab.a
-- INSTALL /code/mecab/lib/mecab
## 包含此内容说明cmake已正确获取CentOS 6.10的CodeName (等效于执行: lsb_release -cs)
-- Skipping deb packaging on unsupported platform Final.
## 在ubuntu-22.04下执行 lsb_release -cs
## lsb_release -cs
## jammy
## 在CentOS 6.10下执行 lsb_release -cs
## lsb_release -cs
## Final
- 执行编译和打包
## 以8个并发编译(可根据编译机器硬件配置调整)
$ make -j8 && make package
编译结果检查
INFO_BIN文件检查
对比上述编译生成二进制文件与MySQL官方二进制TAR包中的INFO_BIN的内容差异,可看到差异主要有以下几点:
- 编译时间差异(预期中)
- 内核版本差异(预期中)
- 依赖包路径差异(预期中)
- DEB_CODENAME
MySQL官方二进制TAR包输出为"n/a",而上述编译二进制文件输出为"Final"。"DEB_CODENAME"只在 "packaging/deb-in/CMakeLists.txt" 中使用,分析所属文件,可判断DEB_CODENAME的值不会对编译输出有影响。
差异如下图所示:
程序兼容性检查
基于MySQL二进制TAR包部署一个数据库实例,将上面新编译的mysqld文件替换原始实例中的mysqld并重启,能够正常运行。