​概览数据库索引创建

2023年 12月 20日 33.9k 0

数据库表是一组行/记录。然而,这些行并不是以表的形式物理存储的,它们存储在块上的数据页中。要在这些数据页中找到特定记录需要扫描多个文件。为了改进这一点,我们创建索引。索引是小型的引用表,用于根据索引值存储对行的引用。

索引是一种使数据检索更快的数据库对象。 但是,索引的创建也需要时间,并且会占用额外的空间。因此,在选择正确的索引创建策略时,我们必须审慎选择。

RUM猜想

类似于CAP定理,RUM猜想指出 —— 我们无法设计一个存储系统的访问方法,使其在以下三个方面都最优:

读、更新和内存。

读取、更新、内存 — 以两者优化为代价的第三者。

  • 读取开销: 定义为总读取数据量(主要 + 辅助)与预期读取的主要数据量之间的比率。通过读取放大来衡量。
  • 更新开销: 定义为总写入数据量(主要 + 辅助)与预期更新的主要数据量之间的比率。通过写入放大来衡量。

根据上图中的读取和写入模式,数据库将分为以下5类:

  • 平衡 — 读取和写入均匀分布。很少发生。
  • 读取优化 — 写入较少,读取较多(分析工作负载)
  • 写入优化 — 写入较多,读取较少(事务工作负载)
  • 热分区读取 — 来自某些数据部分的读取较多
  • 热分区写入 — 向某些部分的写入较多

索引类型

(1) 无索引

实现:Kafka(可以看作纯粹是WAL)、数据仓库

(2) 主键索引

主键 = 分区键 + (可选)排序键

  • 分区键 = “什么节点”
  • 排序键 = 满足唯一性约束的剩余内容

有各种分区策略,其中一些如下:

  • 哈希分区(也称为“一致性哈希”)
  • 范围分区•随机数

聚簇索引 — 物理数据组织

非聚簇索引 — 逻辑组织

(3) KV存储(哈希表)

  • 哈希分区在这里非常有意义
  • 只能在RAM中进行,这就是为什么我们在PostgreSQL等数据库中看不到它
  • 实现:Memcache、Redis

(4) B树 — 读取优化

  • 实现:DynamoDB、PostgreSQL
  • 变体:Bw-tree 等(查看 Alex Petrov 的《Database Internals》)
  • 它是许多数据库中的默认索引。

(5) 位图索引

用于OLAP的读取和内存优化。

(6) LSM树 — 写入优化

实现:Cassandra、Spanner

(7) 二级索引 — 更多读取优化

  • 本地二级索引 — 这是“默认”/“正常”的二级索引
  • 全局二级索引 - 可能对于读取重型的键范围查询和无法避免的散列收集最有意义
  • 实现:DynamoDB,可能是Spanner

(8) 多维索引

  • 连接索引
  • R树(实现:PostgreSQL)
  • 四叉树(实现:Elasticsearch)
  • 地理哈希(实现:Redis)

(9) 倒排索引

实现:ElasticSearch、PostgreSQL、Redis

示例场景:Twitter 等社交媒体站点的文本搜索,google.com,GitHub

(10) 跳跃表

实现:Redis(仅)

示例场景:游戏排行榜

(11) 向量索引

实现:Pinecone、Facebook 的 Faiss、PlanetScale 的 MySQL 分支、Redis

示例场景:机器学习问题

(12) 数据立方体和物化视图

实现:数据仓库,支持OLAP的数据库

(13) Count-min sketch

  • 就RUM而言,以极端OLAP读取延迟为代价换取精度
  • 实现:Flink、AWS Firehose、Druid、Spark streams、Redis

对于分布式系统,还有其他有趣的权衡。其中之一是PACELC,它说:如果是分区,选择可用性和一致性之间的折衷,否则选择延迟和一致性之间的折衷。有许多级别的一致性可供折衷选择(以及隔离级别)。

(14) 一致性级别

  • 强一致性
  • 最终一致性
  • 一致前缀
  • 单调读取

相关文章

Oracle如何使用授予和撤销权限的语法和示例
Awesome Project: 探索 MatrixOrigin 云原生分布式数据库
下载丨66页PDF,云和恩墨技术通讯(2024年7月刊)
社区版oceanbase安装
Oracle 导出CSV工具-sqluldr2
ETL数据集成丨快速将MySQL数据迁移至Doris数据库

发布评论