数据库分库分表

2024年 6月 14日 75.3k 0

数据库分库分表是一种数据库优化策略,用于处理单一数据库或表数据量过大、存储瓶颈、性能瓶颈等问题。它将数据库分为原本存储在一个数据库或表中的数据分散到多个数据库或表中,以提高性能、扩展性和数据性能。每个分库和分表负责存储部分数据,通常根据某种规则或数据特性进行划分,如用户ID、时间戳等。

什么是数据库分库分表

一个典型分库分表方案包括中间件层和数据节点层。中间件主要作用是做数据的路由,根据分片键将数据打散到不同的数据节点。数据节点通常就是原生的MySQL(或者PG)数据库,数据库的高可用方案也都是用原生的主从复制实现。

分库(Sharding)

分库是将一个数据库中的数据拆分到多个不同的数据库上,每个数据库都存储一部分数据。这样可以减轻单个数据库的压力,提高系统的并发处理能力。

分表(Partitioning)

分表是将一个表中的数据拆分到多个不同的表中,每个表都存储一部分数据。这样可以减小单个表的大小,提高查询效率。

数据库分库分表的痛点

随着业务的发展,企业的数据量迅猛增长。作为常用的数据处理方案,企业往往会采用 MySQL 分库分表的机制,而在后续很快遇到了痛点。

痛点 1:数据一致性难以保证。分库分表会导致数据分布在不同的数据库或数据表中,数据的一致性难以保证。当多个数据表或数据库之间的数据关联较为复杂时,维护数据的一致性会增加复杂度。

痛点2:查询性能下降。分库分表会导致查询的性能下降,因为查询需要对多个数据库或数据表进行查询,增加了查询的时间和成本。非分区键查询需要借助其它的中间件或索引表进行查询。

痛点3:业务变更难度大。分库分表会增加系统的复杂度,当业务变更时,需要对所有分片进行修改和调整,增加了业务变更的难度和风险。

痛点4:数据迁移成本高。分库分表的场景下,数据的迁移成本很高,迁移过程中会涉及数据的拆分、合并和迁移等环节,增加了数据迁移的难度和成本。

痛点5:运维难度高。分库分表会增加系统的运维难度,需要对多个数据库或数据表进行管理和维护,增加了系统的故障排查和维护难度。尤其是自建 MySQL 集群。

痛点6:分库分表后的历史问题数据追溯困难。在分库分表的场景下,历史问题数据追溯问题是一个普遍存在的问题,由于数据被分散存储在多个数据库或数据表中,导致历史数据的追溯变得困难。

另外,使用 MySQL 分库分表的方案时,不仅需要依赖第三方工具,而且数据读写都比较复杂。

OceanBase架构下数据库分库分表的不同

OceanBase 采用分区表(Partition Table)的设计思想,实现了在原生分布式架构下的水平扩展和数据管理,从根源上解决了传统分库分表带来的复杂问题。

OceanBase 是一个分布式的关系型数据库,其底层架构支持数据在多个计算节点(OBServer)之间进行水平扩展。每个分区可以分布在一个或多个Zone(数据中心/服务器节点集合)中,形成多副本结构,确保数据的高可用性和一致性。同时OceanBase通过内置的分区功能,允许用户按照预先设定的策略对大表进行分区,常见的分区策略包括范围分区、列表分区和哈希分区。这样可以将一张大表划分成多个小的分区表,每个分区都可以视为逻辑上独立的数据单元,分别存储在不同的物理节点上。

当客户端发起 SQL 查询时,OceanBase 的接入层(如ODP或Proxy)会根据分区键的值确定数据所在的分区,并将请求路由到正确的 OBServer 上执行。这种透明路由机制使得应用程序无需关心具体的分库分表细节。

数据库分库分表相关文章

后分库分表时代的数据库新选择:二维火搭载OceanBase再出发

目前,国内市场上的分布式数据库主要有两种:分布式中间件再增强产品和原生分布式数据库。考虑到使用 Cobar 的过往经历,为了彻底摆脱分库分表的束缚,二维火着重调研了后者,并最终选择 OceanBase。总的来说,二维火最终选择 OceanBase 的主要原因如下:

数据库分库分表-1

首先,原生支持多副本数据强一致,保障数据安全。OceanBase 每个节点均支持读写,分区的数据副本根据规则设置在多个节点同步。同一个分区的多个副本基于 Paxos 一致性协议保证副本的强一致。主分区拥有数据最新版本,具备强一致性读和写能力,备分区具备弱一致性读能力。

其次,大集群多租户模式在保留隔离能力的同时又能提高资源利用率,方便管理且降低运维成本。OceanBase 采用原生多租户设计,支持将多个传统数据库合入一个集群,租户间数据相互隔离,可设置各自资源占用,并支持平滑扩展收缩。

如何把现有数据库迁移到OceanBase?使用DataX同步MySQL分库分表到OceanBase环境

如果你已经接触一段时间 OceanBase 的安装测试等,有没有想把现有的数据库迁移到 OceanBase 环境玩玩?如果有这种想法,那么我们需要一款支持异构环境(MySQL,Oracle等)数据库迁移到 OceanBase 的高效稳定同步工具。生产环境有更好的 OMS 可以使用,鉴于大多数同学可能跟本人一样目前没有商业版的环境,这里使用阿里开源的 DataX 同步工具来完成将 MySQL 数据同步到 OceanBase 集群。

分库分表遗留问题怎么解?绿普惠分布式数据库的选型与实践

由于业务数据量庞大,目前我们的存量数据表行数达到上亿行,还有每天上千万条的增量数据。面对庞大的数据量,我们采用了一种常见的数据处理方案——MySQL 分库分表。即通过将一个大的数据库拆分成多个小的数据库,或将一个大的数据表拆分成多个小的数据表来减轻单一数据库或数据表的负载压力,提高系统的性能和可用性。但是,其存在的痛点也让人束手无策。

数据库分库分表相关方案

分库分表一体化升级解决方案

https://www.oceanbase.com/solution/sharding

传统分库分表方案面临着架构复杂度高、运维难度高、性能存在瓶颈等问题,增加了企业运维和业务负担。原生分布式数据库OceanBase的分区表解决方案,实现了在分布式架构下的水平扩展和数据管理,不仅解决了分库分表所带来的架构复杂度、运维难度和性能瓶颈等问题,还为客户提供了一个统一、透明且高度可扩展的分布式数据库平台,帮助企业更好地应对大数据和高并发场景下的业务需求。

相关文章

Oracle如何使用授予和撤销权限的语法和示例
Awesome Project: 探索 MatrixOrigin 云原生分布式数据库
下载丨66页PDF,云和恩墨技术通讯(2024年7月刊)
社区版oceanbase安装
Oracle 导出CSV工具-sqluldr2
ETL数据集成丨快速将MySQL数据迁移至Doris数据库

发布评论