揭秘腾讯全时态数据库系统,又一论文被数据库顶会VLDB收录

2019年8月26日-30日,数据库领域顶尖学术会议 VLDB 2019在美国加利福尼亚召开,腾讯TDSQL数据库团队与中国人民大学最新联合研究成果被VLDB 2019接收并将通过长文形式发表。该论文提出了一种拓展的全时态数据模型,并提供了内建的全时态数据库解决方案,通过引入异步数据迁移、增量历史数据管理、原生全时态查询执行器等策略,使得该解决方案可实现轻量且高效的全时态数据管理计算,在保持全局一致性的基础上拥有高效的性能,真正实现为数据赋能。这是继去年腾讯TDSQL相似度计算的论文被VLDB录用后,腾讯TDSQL再一次迈进VLDB殿堂。

下载论文原文,请关注“腾讯云数据库”公众号,回复“VLDB”即可获取。

今年6月,腾讯与华中科技大学合作的云数据库自动性能优化论文也被另一国际数据库顶级会议 SIGMOD 收录。

全时态数据为数据安全、数据重演、数据挖掘和AI技术的施展提供了物理基础。一般主流数据库由于技术复杂度原因,不会保存历史态数据,丢弃了有价值的历史态数。由腾讯TEG计费平台部TDSQL数据库团队与中国人民大学数据工程与知识工程教育部重点实验室深度合作完成的论文“ALightweight and Efficient Temporal Database ManagementSystem in TDSQL”介绍了基于腾讯云TDSQL扩展而来的全时态数据库系统(T-TDSQL),在保证OLTP性能的前提下提供了轻量级的全时态数据管理功能和全时态数据的事务处理能力、以及集当前态数据于生产系统集历史态数据于分析型系统的集群架构,构成了全时态数据的完备解决方案。本文将对论文研究成果进行详细的分析解读。

VLDB评语

This paper extends the TDSQL system from Tencent for temporal datamanagement. A new temporal data model is proposed with optimizedimplementation. Extensive experimental study has been conducted to compare theperformance with existing temporal database systems over benchmarks and realdata.

VLDB官网截图

研究背景

时态数据主要指随时间推移不断发生变化的数据,例如温度、账户余额等数据。时态数据在现实生活中非常普遍,而在金融场景下,在数据库层面时态数据管理尤为重要。例如,金融审计时需要获取2018年11月08日至2018年11月10日的账户余额变动情况。如果通过传统数据库(RDBMS)中的普通关系表进行账户余额管理(如图1所示),账户余额变动不会被维护,因而上层应用需要通过日志等形式来额外记录余额的每次变动,这会大大提高应用复杂度;而采用如表2所示的时态数据表,余额的变迁被原生维护在数据库中,即可准确获取到余额变动数据(表中标红数据)。

系统简介

结合TDSQL系统的特点,研究团队提出并实现了一个轻量且高效的全时态数据库系统,该系统可以在保留原有TDSQL强劲的OLTP处理性能的同时,通过巧妙的系统设计,提供了内建的时态数据管理能力。

系统概览

1 存储

TDSQL全时态数据库系统创新性地采用了一种混合存储模式,来对时态数据进行管理。系统将时态数据拆分为当前数据和历史数据,针对不同的数据类型,分别采用不同的存储策略

当前数据管理模块,采用了基于MVCC(多版本并发访问控制协议)设计的数据库所普遍采用的段页式结构,并且专门开辟回滚段,来对更新或删除操作产生的旧版本进行暂存。在回滚段中暂存的数据会在数据库进行资源回收操作(如MySQL中的Purge和PostgreSQL中的VACUUM等)时,迁移到历史数据管理模块,这个过程被称为数据转储。这是一种异步的转储策略,因而几乎不会造成性能损耗。历史数据存储模块,通过k-v格式来进行组织,可以大幅度缩小存储开销。由于一个数据项会存在多个历史版本,而这些历史版本会在某些属性上存在一样的值,例如表一中的James被重复四次。因此,在历史数据存储模块中,系统将每一个版本转化为一条k-v,并且只存储相较于上一个版本发生变化的属性值。

2 查询与事务处理

系统对时态查询处理逻辑进行了针对性设计与优化。通过专门的时态查询编译器,部分时态查询条件(如有效时间查询)会被重写并拼接到WHERE条件中。而对于事务时间查询,系统将其查询条件转化为了内嵌的可见性判断过程,从而使得时态查询所获取的数据满足事务一致性的要求,保证数据的准确性,这点在金融场景下显得尤为重要。另外,通过持久维护事务状态,系统可以快速获取到事务的执行状态,结合时态数据,即可原生支持事务级数据闪回等实用操作。对于历史数据,系统利用k-v存储的特性,可以根据时间条件快速定位到所需数据版本,具备了较好的时态查询性能,且在SQL语句的写法上方便用户直接使用SQL语句进行查询。

3 架构设计

系统体现了HTAC(HybridTransaction / Analytical Cluster,混合事务/分析集群)这一新型的系统架构设计理念。TDSQL全时态数据库系统分为OLTP集群和OLAP集群,OLTP集群负责事务型业务,OLAP系统处理分析型业务,提供历史数据的查询分析等功能。通过统一路由模块根据查询语句、查询操作的语义将SQL发送到对应集群进行处理。由于时态数据查询等负载需要占用大量系统资源,这种拆分的系统设计可以尽量影响减小生产系统受到的性能影响。其次,历史数据量级较大,OLAP集群通过扩展存储的方式,即可实现历史数据的无限存储。

T-TDSQL全时态数据库系统架构图

论文贡献

论文提出了一种拓展的时态数据模型。除了在SQL:2011中定义的有效/事务时间属性外,本模型通过新引入的事务ID属性描述时间。MIN_ID与创建记录的事务相对应,MAX_ID对应于删除/更新记录的事务。事务ID能够识别在同一事务中插入/更新/删除的所有记录,从而实现由于业务逻辑破坏数据的修复。

论文提出了一种内建的时态数据库解决方案,并针对TDSQL进行了大量优化,最终实现了TDSQL全时态数据库系统。同时,该解决方案具有很强的通用性,可以方便的引入到其他数据库系统中。通过引入异步数据迁移、增量历史数据管理、原生时态查询执行器等策略,该解决方案具有轻量且高效的特点。

通过在真实场景和TPC基准负载下的大量实验,TDSQL全时态数据库系统具有非常小的性能损失(相较于原始TDSQL系统),并且能够快速响应时态查询,与其他现有的时态数据库系统相比具有较好的性能。

系统测试

通过TPCC测试基准,论文展示了时态数据管理对原有系统性能的影响情况。在256、512、1024个数据仓库的场景下,基于TDSQL实现的全时态数据库系统的系统性能相较于原始TDSQL下降率不到10%,领先于其他基于传统关系数据库实现的时态数据库系统。

TPCC测试结果

另外,基于真实的批处理业务场景,论文展示了系统在实际业务场景下的表现。如图4所示,通过连续30天对比原始系统和新型全时态数据库系统(T-TDSQL)在处理该业务时所需的执行时间,实验结果展示腾讯全时态数据库系统在简化业务应用开发的同时,可以缩短近一半的业务执行时间。

实际业务场景测试

全时态数据库的价值

TDSQL全时态数据库核心价值观是“历史数据富有价值”,核心理念是“为数据赋能”,因而系统提供了如下特性:

1. 全时态数据模型。数据库系统通过统一的数据模型管理数据的生命周期,即数据的诞生、修改、消亡的全过程、过程中的状态变迁操作等。

2. 全时态数据存储。全时态数据存储保证了所有状态数据的永久保存。解决了现有的数据库系统,大部分只能保存当前数据,而旧版本数据被丢弃的问题。

3. 全时态数据查询。提供了对时态数据的快速查询能力,由于历史数据的数据量级巨大,在海量历史数据上的查询能力非常重要。

4. 全时态数据计算。数据都是具有价值的,因此需要具备在海量时态数据上的分析计算能力。

TDSQL全时态数据库(用T-TDSQL表示)可以支持如下功能特性:

1. 精确的历史数据读取。可以查询到对于历史上任意一个时间段内的数据变化情况,如新插入的数据、连续被更新的数据、以及被删除的数据。因此可以追踪数据的历史轨迹,并能方便的在增量数据的基础上进行多表连接的增量计算。

2. 数据库中存储有数据的历史状态信息,数据的安全性得到保证。防止篡改数据、数据误删除的恢复、账户变化轨迹追踪、回溯历史时空里的“过去的”数据等功能,在T-TDSQL中成为现实。

3. T-TDSQL管理海量时态数据,因而流水日志不再重要。基于索引检索历史态数据时如同基于索引检索当前数据一样的方便快捷且消耗最少量的计算资源,这对于审计、安全、档案等部门有帮助。另外,HTAC系统架构提供不受限于单机系统的存储能力,可以通过分布式网络文件系统来支持单机无限数据量的存储。

4. T-TDSQL还可以参与到数据关联分析的环节中,为数据赋予了事务时态、与用户的关联关系等,甚至还可以创造数据之间的关联关系以实现“数据血统”的产生等。

5. 全时态数据为数据安全、数据重演、数据挖掘和AI技术的施展提供了物理基础。

本项目在腾讯TEG计费平台部立项,研究内容和实现过程得到中国人民大学数据工程和知识工程教育部重点实验室和腾讯公司的参与和支持,特别向项目参与人、支持者表示感谢。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190829A0PBW500?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券