深度剖析 Redis 主从架构原理

2024年 3月 12日 49.0k 0

图片

Redis 的主从架构,其实就是利用多副本,将一份数据同时保存在多个实例上。单个实例出现故障后,一般都会过一段时间才能恢复,那么其他节点还是可以提供服务的。

1. 为什么需要主从架构

单点架构在Redis中可能会带来以下问题:

  • 单点故障:Redis单点故障会导致服务不可用,造成服务中断或者服务雪崩。高并发情况下,如果Redis单点出现故障,所有请求都会受到影响,无法得到有效响应。
  • 可用性问题:由于Redis单点架构没有备份节点,因此无法在发生故障时快速转移服务以保证系统的持续可用性。这意味着在单点故障发生时,服务可能需要较长时间才能恢复。
  • 数据丢失风险:Redis是内存数据库,虽然可以通过RDB和AOF文件进行数据持久化备份,但在单点架构中,如果Redis节点发生故障,数据恢复过程可能会耗时较长,且存在数据丢失的风险。

针对这些问题,可以采取主从架构来提高Redis的可用性和容错性。通过在主节点上设置多个从节点,可以实现数据的复制和故障转移,从而降低单点故障的影响,提高系统的稳定性和可用性。

2. 主从架构原理

主从架构,事件就是数据可以在多个实例上进行复制,当主节点出现故障时,从节点可以接管服务,从而实现快速故障转移,保证服务的持续可用性。此外,主从架构还可以提高系统的并发能力,因为多个节点可以同时处理请求。这样,在主节点故障时,从节点可以立即接管服务,避免了单点故障导致的服务中断或雪崩效应。

3. 主从架构拓扑图

在Redis中,主从架构的确实是一种主从库模式,其中主节点负责处理写操作并将数据同步到从节点,从节点则负责处理读操作。这种主从库模式可以根据节点之间的拓扑结构分为以下三种类型:

  • 单主单从结构(Single Master-Single Slave):一个主节点,一个从节点,主节点可读可写,从节点只接收读请求。常用于主节点出现故障时,从节点能够快速顶上。

图片图片

  • 单主多从结构(Single Master-Multiple Slaves):一个主节点,多个从节点,对于读命令较大的场景,可以把读命令分摊到多个从节点。

图片图片

  • 树状主从结构:一个主节点,多个从节点,其中一个从节点作为中间层,既可以复制主节点,又可以当做其他从节点复制的主节点。有效降低主节点负载和需要传送给从节点的数据量。

图片图片

4. 主从数据同步原理

4.1.全量同步

主从第一次建立连接时,会执行全量同步,将master节点的所有数据都拷贝给slave节点,流程:

图片图片

思考:master如何得知salve是第一次来连接呢?

有几个概念,可以作为判断依据:

  • Replication Id:简称replid,是数据集的标记,id一致则说明是同一数据集。每一个master都有唯一的replid,slave则会继承master节点的replid
  • offset:偏移量,随着记录在repl_baklog中的数据增多而逐渐增大。slave完成同步时也会记录当前同步的offset。如果slave的offset小于master的offset,说明slave数据落后于master,需要更新。

slave数据同步,必须向master声明自己的replication id 和offset,master才可以判断到底需要同步哪些数据。

slave原本也是一个master,有自己的replid和offset,当第一次变成slave,与master建立连接时,发送的replid和offset是自己的replid和offset。

master判断发现slave发送来的replid与自己的不一致,说明这是一个全新的slave,就知道要做全量同步了

master会将自己的replid和offset都发送给这个slave,slave保存这些信息。以后slave的replid就与master一致了。

因此,master判断一个节点是否是第一次同步的依据,就是看replid是否一致。

图片图片

完整流程描述:

  • slave节点请求增量同步
  • master节点判断replid,发现不一致,拒绝增量同步
  • master将完整内存数据生成RDB,发送RDB到slave
  • slave清空本地数据,加载master的RDB
  • master将RDB期间的命令记录在repl_baklog,并持续将log中的命令发送给slave
  • slave执行接收到的命令,保持与master之间的同步

4.2.增量同步

全量同步需要先做RDB,然后将RDB文件通过网络传输个slave,成本太高了。因此除了第一次做全量同步,其它大多数时候slave与master都是做增量同步。

思考:什么是增量同步?

增量同步是只更新slave与master存在差异的部分数据。

图片图片

思考:master怎么知道slave与自己的数据差异在哪里呢?

5.repl_backlog原理

这就要说到全量同步时的repl_baklog文件了。

这个文件是一个固定大小的数组,只不过数组是环形,也就是说角标到达数组末尾后,会再次从0开始读写,这样数组头部的数据就会被覆盖。

  • repl_baklog中会记录Redis处理过的命令日志及offset,包括master当前的offset,和slave已经拷贝到的offset:

图片图片

slave与master的offset之间的差异,就是salve需要增量拷贝的数据了。

随着不断有数据写入,master的offset逐渐变大,slave也不断的拷贝,追赶master的offset:

图片图片

直到数组被填满:

图片图片

此时,如果有新的数据写入,就会覆盖数组中的旧数据。不过,旧的数据只要是绿色的,说明是已经被同步到slave的数据,即便被覆盖了也没什么影响。因为未同步的仅仅是红色部分。

但是,如果slave出现网络阻塞,导致master的offset远远超过了slave的offset:

图片图片

如果master继续写入新数据,其offset就会覆盖旧的数据,直到将slave现在的offset也覆盖:

图片图片

棕色框中的红色部分,就是尚未同步,但是却已经被覆盖的数据。此时如果slave恢复,需要同步,却发现自己的offset都没有了,无法完成增量同步了,只能做全量同步。

注意:repl_baklog大小有上限,写满后会覆盖最早数据,如果slave断开时间过久,导致尚未备份的数据被覆盖,否则无法基于log做增量同步,只能再次全量同步。

相关文章

Oracle如何使用授予和撤销权限的语法和示例
Awesome Project: 探索 MatrixOrigin 云原生分布式数据库
下载丨66页PDF,云和恩墨技术通讯(2024年7月刊)
社区版oceanbase安装
Oracle 导出CSV工具-sqluldr2
ETL数据集成丨快速将MySQL数据迁移至Doris数据库

发布评论