Apache Doris 数据存储架构深度解析

数据极客圈

发布于 2025-11-12 12:58:25

200

Apache Doris 作为一款高性能的 MPP 分析型数据库，其存储架构的设计直接决定了其在大规模数据场景下的查询效率、写入性能与运维灵活性。本文将全方位深度解析 Doris 的数据存储机制，揭示其在工程实现中的设计与逻辑。

Doris 的数据组织采用自上而下的层级细化模型，每一层都承担着特定的功能职责，共同支撑起整个系统的高效运行。这种层级结构不仅是数据存储的基础，更是读写优化、副本管理、运维操作的核心载体。

层级关系示意图：

表（Table）：作为最高层级的逻辑单元，表直接映射业务实体，包含列定义、数据类型、主键 / 排序键、数据模型（Duplicate/Aggregate/Unique）等元信息。表的设计决定了后续存储与查询的优化方向，例如排序键的选择直接影响前缀索引的效率。
分区（Partition）：基于业务字段（如时间、区域）对表进行逻辑划分，支持 RANGE 分区（适用于连续值，如时间范围）和 LIST 分区（适用于离散值，如地区编码）。分区是数据生命周期管理的核心单位，可独立配置存储介质（SSD/HDD）、TTL（生存时间）等策略，实现冷热数据的差异化管理。

分桶（Bucket）/Tablet：分区的物理细分单元，通过对分区内数据按哈希（Hash）或随机（Random） 方式切分形成。每个 Tablet 是 Doris 中最小的物理存储单元，也是数据均衡、副本管理的基本单位。默认情况下，分桶数量由 BUCKETS 参数指定，建议根据单节点磁盘容量与并发查询需求设置（通常每个 Tablet 大小推荐控制在 1GB-10GB 之间）。
副本（Replica）：为保证数据可靠性与高可用，每个 Tablet 会存储多个副本（默认 3 副本），副本分布在不同的 BE（Backend）节点上。副本之间通过保持一致性，支持自动修复与负载均衡。

Rowset：一次数据变更（如导入、删除、更新）产生的版本化数据集合，包含一个或多个 Segment 文件。Rowset 具有版本号（Version） 属性，通过多版本机制支持事务隔离与原子性提交（两阶段提交）。
Segment：Rowset 拆分后的物理文件单元，默认大小为256MB。这一大小设计兼顾了并行处理效率（单个 Segment 可被单个线程处理）与元数据管理开销（过多小文件会增加内存负担）。
Page：列式存储的最小 IO 单元，分为数据页（Data Page）与索引页（Index Page），默认大小 64KB。Page 是压缩、编码与缓存的基本单位，通过按需加载减少 IO 消耗。

Doris 采用自研的 Segment V2 作为列存文件格式，其设计目标是在保证查询效率的同时，最小化存储开销与 IO 成本。Segment V2 采用三段式结构（数据区、索引区、Footer），并通过精细化的编码与压缩策略优化性能。

Data Region（数据区）：按列存储所有数据页，每列的 Page 连续排列。列存设计使得查询时可只加载所需列（投影优化），减少无效 IO。
Index Region（索引区）：集中存储该 Segment 关联的所有索引页，包括前缀索引、ZoneMap、Bitmap 等。索引区与数据区分离，便于查询时优先加载索引进行过滤。
Footer（元数据区）：记录全局元信息，包括：
- 基础统计：总行数、各列非空行数；
- 偏移信息：数据区与索引区各 Page 的起始偏移与长度；
- 编码压缩：各列采用的编码（如字典编码、RLE）与压缩算法（如 LZ4、ZSTD）；
- 版本信息：Segment 格式版本与创建时间。

Footer 作为整个 Segment 的 “目录”，在读取时首先被加载，用于快速定位所需数据与索引页。

Segment 大小控制：默认 256MB 的设计基于以下考量：
- 并行处理：单个 Segment 可被一个线程独立处理，避免过大文件导致的并行度下降；
- 均衡分布：便于 Tablet 内的 Segment 在 BE 节点间均衡迁移；
- 元数据开销：单个 Segment 的元数据（Footer + 索引）约占文件大小的 0.1%-1%，256MB 对应的元数据约 256KB-2.5MB，可被内存高效缓存。
Page 组织：每个列的 Page 按行号顺序排列，Footer 中的 Ordinal Index 记录行号到 Page 的映射（如行 0-1023 对应 Page 1），作为查询时的 “一级导航”。其他索引查找数据时，都要通过Ordinal Index查找数据Page的位置。

Doris 的写入流程与 Compaction 机制是保证数据一致性、优化存储布局的核心环节，其设计借鉴了 LSM-Tree 的思想，但针对列存与 OLAP 场景做了深度定制。

随着多次写入，Tablet 会产生大量小 Rowset，导致查询时需要扫描过多文件。Compaction 机制通过合并小 Rowset 解决这一问题，分为两种类型：

Compaction 与 LSM-Tree 的差异：

Doris 设计了多级 LRU 缓存体系，通过缓存热点数据与元信息，显著降低 IO 延迟，提升查询响应速度。

Page Cache：缓存数据页（Data Page）、索引页（Index Page）与 PKIndex 页，是最贴近查询的缓存层级，默认大小为机器内存的 30%；
Metadata Cache：缓存 Segment 元数据（Footer）、Tablet Schema、版本信息等，避免频繁读取磁盘元数据；
Cloud Cache：在存算分离场景下，缓存对象存储（如 S3）中的热数据，降低远程 IO 延迟。

每级缓存均可通过参数独立配置大小（如 page_cache_limit 控制 Page Cache 上限），并通过监控指标（如 doris_be_cache_hit_rate）观察命中率。