五分钟技术趣谈 | 数据库容灾体系建设分析

2023年 8月 22日 30.0k 0

Part 01

容灾介绍 

我们通常会把故障分为三类,一是主机故障,二是机房故障,三是地域故障。每类故障都有各自的诱发因素,而从主机到机房再到地域,故障发生概率依次越来越小,而故障的影响却越来越大。

图片图片

容灾能力的建设目标是非常明确的,就是要能够应对和处理这种机房级和地域级的大规模故障,从而来保障业务的连续性。近几年,业界也发生了多次数据中心级别的故障,对相关公司的业务和品牌产生了非常大的负面影响。当前容灾能力已经成为众多企业建设信息化系统的必选项。

Part 02

容灾架构演进 

容灾架构从最早期的同城主备到同城多活形态,再演化到异地多活,根据这个过程可以将容灾分为容灾1.0、容灾2.0、容灾3.0三个阶段。

  • 容灾1.0:容灾体系围绕数据建设,多以主-备的方式部署,但备用机房不承担流量,基本上都是单活结构。
  • 容灾2.0:容灾视角从数据转换为应用系统,业务具有同城双活或同城多活能力,采用同城双活或同城双活加异地冷备(两地三中心)的部署架构,除冷备以外的每个机房都有流量处理能力。
  • 容灾3.0:以业务为中心,多采用单元化架构,容灾基于单元间的两两互备实现,根据单元的部署位置可以实现同城多活和异地多活。采用单元化架构的应用本身具有很好的容灾能力和扩展能力。

Part 03

常见节点故障处理过程 

(1)计算节点故障

分布式数据库的计算节点多采用多实例部署。所以当一个计算节点故障后,负载均衡通过心跳检查识别到故障,自动把请求分发到其他的计算节点上。等到该节点恢复后,负载均衡检测到节点正常服务,会将请求重新均衡到该计算节点上。

(2)存储节点主库故障

当分布式数据库的存储节点集群出现主库故障,集群的健康检查会监测到主库发生故障,并通过多次探测确认故障。如果主库故障确认,系统会控制存储节点集群进行主从切换,将一个从库节点选举为新的主库节点,并调整集群的主从同步关系。同时集群拓扑的元数据会进行更新,推送到集群的各节点,包括查询路由相关信息。这样应用层的写操作会发送到新的主库。此时存在故障的副本节点,根据集群的副本策略和恢复机制,恢复系统会触发一个恢复任务,重新恢复一个新的从库节点加入集群。

(3)存储节点从库故障

当分布式集群的一组主从出现从库节点故障,集群的健康检查模块会监测到从库故障,并通过多次探测来确认故障。如果确认从库故障,系统会将该从库进行下线处理。同时集群拓扑的元数据会进行更新,将该故障的从库节点从集群信息中删除,并推送到集群的各节点进行更新。查询路由相关的信息更新后,应用层的读操作不再发送到故障的从库。此时由于存在一个故障的副本节点,根据集群的副本策略和恢复机制,系统的恢复系统会触发一个恢复任务,重新恢复一个新的从库节点加入集群。

(4)网络故障

专线网络抖动异常一般会带来延时和丢包,集群的计算服务节点、存储服务节点、管控节点之间的通讯都有完备的超时重试机制,少量的延时丢包不会影响查询性能,跨专线的主从延时会增大,待网络质量恢复后即恢复正常。

Part 04

容灾架构案例介绍 

(1)美团数据库容灾方案

美团的容灾架构主要包括两种,一种是N+1容灾架构,一种是SET化架构。

N+1架构:在业界也称散部或者多AZ部署⽅案,将容量为C的系统部署在N+1个机房,每个机房能提供至少C/N的容量,挂掉任何一个机房时,剩余系统仍能支撑C的容量。该方案的核心是把容灾能力下沉到PaaS组件来完成,在出现机房级或者地域级故障的时候,由各个PaaS组件独立完成容灾切换,实现业务恢复。整体架构如下图所示,业务上表现是多机房、多活形态,数据库采用这种主从架构,单机房处理写流量、多机房的负载均摊读流量。下面要讲“数据库容灾体系建设实践” 就是面向N+1架构的。

图片图片

SET化架构:这是一种偏应用层的容灾架构,它将应用,数据,基础组件按照统一的维度切分成多个单元,每个单元处理一部分闭环流量。业务以单元作为部署单位,通过单元互备方式实现同城容灾或者异地容灾。一般金融业务或者超大规模的业务会选择此类架构,它的好处就是流量可以闭环且资源隔离,具有很强的容灾能力和跨域扩展能力,不过SET化架构的落地需要业务系统做大量的改造,运维管理也较为复杂。简化示意图如下:

图片图片

(2)阿里数据库容灾方案

DT大淘系数据是阿里巴巴集团典型的数据中台,DT引入了Hologres的读写分离能力,并结合全链路的主备双链路,在降低单库出问题概率的同时构建异地主备容灾,建立产品核心指标的“复活甲”,通过秒级切换的高可用容灾方案,高吞吐写入和灵活查询互不干扰,分析查询QPS增长80%的同时,查询抖动明显减少,让业务拥有底气和信心去应对随时可能出现的不可控风险,为整个产品和业务决策分析提供稳定支持。

图片图片

(3)浪潮数据库容灾方案

与传统的数据灾备和复制技术不同,浪潮K-DB和DSG SuperSync方案是针对Oracle数据库的异构灾备和数据复制方案,提供了基于逻辑的交易复制方式。该方式通过直接捕获Oracle数据库的交易,将数据库的改变逻辑复制到K-DB数据库中,实现Oracle系统数据库和K-DB系统数据库数据的一致性,从而提高系统数据的安全性和灵活性,降低灾备系统TCO,系统架构如下:

图片图片

K-DB Standby Cluster提供同构数据库的高可用性、数据的保护、灾难恢复功能,DSG SuperSync提供异构数据库的高可用性、数据的保护、灾难恢复功能。

(4)腾讯数据库容灾方案

客户业务场景最常用腾讯云数据产品主要是redis,cdb,mongoDB以及TDSQL。

图片图片

Part 05

结束语 

系统建设过程中高可用自动切换、容灾能力运营治理、大规模故障观测、故障止损预案、容灾恢复等方面都会有很多的需求和挑战,也是所有公司业务发展壮大后必须面对的一件事,欢迎大家能跟我们一起交流这个过程,共同进步。

相关文章

Oracle如何使用授予和撤销权限的语法和示例
Awesome Project: 探索 MatrixOrigin 云原生分布式数据库
下载丨66页PDF,云和恩墨技术通讯(2024年7月刊)
社区版oceanbase安装
Oracle 导出CSV工具-sqluldr2
ETL数据集成丨快速将MySQL数据迁移至Doris数据库

发布评论