微信 WCDB 进化之路:开源与开始

作者:sanhuazhang

我们来了

今天,WCDB(WeChat Database)通过了公司的最终审核,作为腾讯微信的一个开源组件分享给大家。

从WCDB初建,到不断摸索、优化,再到整理代码、文档,最终看着她在 GitHub 上静静等待着“Make Public”被按下,心情犹如看着女儿出嫁的父亲。趁此机会,正好回顾一下 WCDB 这个“微信的数据库”的成长,分享我们的心路历程,也希望以此让大家更了解WCDB。

各自探索

最早期的微信,各个平台除了“使用 SQLite”这个共识,基本各自为政。

Android 平台由于 SDK 提供的支持尚可,而且使用 NDK 开发不便,自然选择系统 API 接口进行开发。

iOS 情况则有不同。系统提供的CoreData 学习成本很高、性能一般,并不那么好用。因此,在再三考量之下,我们决定自行封装一套接口,命名为 WCDB。

iOS 上的进化之路

WCDB最初的封装与FMDB类似,都是直接暴露字符串接口,让业务开发自己拼接字符串,取出数据后赋值给对应的Object。在线程管理上,则是通过线程锁,使所有线程的访问串行执行,以保证线程安全。

然而,这种方式过于简单粗暴,以至于我们自己使用起来都觉得甚是烦心。

胶水代码

翻开业务和WCDB的粘合层,一个几十行的函数,绝大部分都是拼接SQL、处理SQLite返回的空数据和错误码之类的“裹脚布”代码。而且这种代码四处分布,字里行间都写着"Copy & Paste"。

效率极低

SQL基于字符串,命令行爱好者甚喜之。但对于基于现代IDE的移动开发者,却是一大痛。字符串得不到任何编译器的检查,业务开发往往心中一团热火,奋笔疾书下几百行代码,满心欢喜点下Run后才发现:出错了!

静心下来逐步看log、断点后才发现,噢,SELECT敲成SLEECT了。改正,再等待编译完成,此时已过去十几分钟,心中的热火早被浇灭,还谈何效率?

SQL注入

随着微信业务的发展,安全问题也逐渐突显。客户端数据库虽然不像服务端数据库那么容易被坏人盯上,但在微信这么大的体量下,防贼之心绝不可无。

SQL注入通常是利用SQL字符串拼接的特点,用一些特殊符号提前截断SQL,达到执行其他SQL的目的。试想这么一段代码:

这段封装很简单,就是将消息内容插入到数据库中。假设对方发来这么一条消息:"');DELETE FROM message;--",那么这条SQL就会被截断成三部分:

它会在插入一条消息后,将表内的所有消息删除。倘若微信内存在这样的漏洞,后果将不堪设想。

其实反注入并不难,通过绑定参数或替换单引号为双单引号即可解决。但要在业务开发的过程时时刻刻警惕这样的风险,并不现实,毕竟人总会犯错的。

卡顿频发

随着微信内收发消息量的不断增长,串行的视线使得当多个线程同时并发时,就造成了相互阻塞。

与此同时,微信内也产生了一些新的需求:聊天记录备份。

聊天记录备份是会不断地读取手机上的聊天记录,并传输到PC/Mac微信上。换句话说,就是在单线程下会不断地阻塞数据库。这就会直接影响到用户收发和查看聊天记录。

难道用户备份数据的时候,就不能使用微信了吗?显然不现实。

于是,我们就让WCDB完成了一次进化。

线程并发

WCDB内置了一个句柄池,会根据不同线程的访问,动态地分发管理SQLite句柄,从而达到读与读、读与写并发的效果。根据SQLite的实现,其写与写操作依然是串行的,但在一个操作进行时,另一个操作是通过 休眠-重试 的方式进行的,因此在性能上不够极致。

而WCDB通过优化源码,使得写操作结束时,能第一时间唤醒另一个线程进行操作,进一步压榨了性能。

关于这个优化的细节,可以参考后期我们将会的一篇:微信 iOS SQLite源码优化实践。

SQL封装

WCDB通过封装宏,让业务代码在类内定义字段和类型。WCDB通过宏保存这些信息,在之后的增删改查中使用。这成为WCDB的ORM雏形。

然后我们收紧了接口,只提供最基础的增删改查接口,不支持自定义SQL。同时,我们利用C++模版特性,将SQL的拼装隐藏在函数调用内,并内建SQL反注入。这成为了WINQ(WCDB语言集成查询)的雏形。

通过这两个手段,我们暂且解决了上述问题,但这个封装简单粗暴,缺乏打磨,使得使用上并不方便。

  • 宏定义太复杂。开发者需要重复写字段的类型、需要定义写明各种属性,而且不同类型都需要不同的宏,很难记住。翻开宏定义的代码,字里行间,好像...又写着...“Copy & Paste”。
  • 接口太少。因为SQL过于千变万化,组合方式数不胜数,因此只能封装很有限的接口。这就导致业务开发缩手缩脚,怨声载道。他们嘴上虽然没明说,但含蓄的程序员们用另一种方式表达了他们的不满:

“哥们,朋友圈需要查最近十条消息,加个接口呗?”

“哥们,联系人需要分组查询,加个接口呗?”

“哥们,加个接口呗?”

“哥们...”

算了,不用哥们了,这个需求是我自己的,我自己加吧。

WINQ

痛定思痛,乘着开源这股风,我决定将WCDB的易用性优化到极致。这,便是WINQ,WCDB Integrated Query(WCDB语言集成查询)。

WINQ基于SQL的语法规则实现,即便是很复杂的SQL语句都逃不出这个规则。

同时,简化后的宏也更清晰易懂。

关于WINQ的用法,可以参考之前的文章 --- 微信移动端数据库组件WCDB系列(一):iOS基础篇,其实现原理我也会在之后进行分享。

Android 上的加密和进化

当 iOS 在架构上发力的时候,Android 却遇到了别的问题。

在 Android 2.x 时代,由于系统不完善,很多手机用户选择通过 Root 和刷机来定制自己的手机。Root 了之后,用户和恶意程序可以随意读取任意 APP 的数据,为了数据安全方面的考虑,Android 决定引入加密数据库 SQLCipher。

SQLCipher 加密

SQLCipher 使用 AES-256 进行全数据库加密,包括文件头以及 Journal/WAL,这能满足微信的需要。

当时业务逻辑已经成型,幸好 SQLCipher 提供了与系统一样的接口,我们很快完成了迁移。

Android 最新框架

往 SQLCipher 的迁移使得我们离开了 Android 不断升级的大环境,SQLCipher Android 框架至今一直使用 Android 2.x 的实现,很多 4.x 才引入的新特性微信无法受益,包括微信非常需要的连接池多线程并发。有没办法加密与新特性兼而有之呢?

为了这个目标,Android 也开始自立门户,第一个目标是将 SQLCipher 和最新 Android 框架结合起来。

我们将 SQLCipher 与 Android 源码结合在一起稍作改动,同时加上设置加密的接口,同时获得了 Android SQLite 最新特性以及 SQLCipher 带来的固定 SQLite 版本与加密的优势。

Android 4.x 框架内建了连接池,实现上与 iOS WCDB 类似,只是实现在 Java 层,线程唤醒机制也使用 Java 的同步手段实现,可以媲美 WCDB iOS 连接池了。

在 Android SDK 中,SQLite 是会不断升级的,实际上使用哪个版本的 SQLite 取决于 APP 运行在哪个版本的系统上,这是对开发者来说相当不友好,因为同样的 SQL 语句会有不同的性能表现。如果业务需要使用 SQLite 的新特性,比如我们的我们的全文搜索,就更加需要确定版本的 SQLite 来保证新特性在所有手机上都可用。

WCDB 由于内建了自己的 SQLite 实现(准确来说是 SQLCipher),所以 SQLite 版本是确定的,这规避了很多开发上的问题。

Cursor 实现优化

Android 框架查询数据库使用的是 Cursor 接口,调用 SQLiteDatabase.query(...) 会返回一个Cursor 对象,之后就可以使用 Cursor 遍历结果集了。Android SDK SQLite Cursor 的实现是分配一个固定 2MB 大小的缓冲区,称作 Cursor Window,用于存放查询结果集。

查询时,先分配Cursor Window,然后执行 SQL 获取结果集填充之,直到 Cursor Window 放满或者遍历完结果集,之后将 Cursor 返回给调用者。

假如 Cursor 遍历到缓冲区以外的行,Cursor 会丢弃之前缓冲区的所有内容,重新查询,跳过前面的行,重新选定一个开始位置填充 Cursor Window 直到缓冲区再次填满或遍历完结果集。

这样的实现能保证大部分情况正常工作,在很多情况下却不是最优实现。微信对 DB 操作最多的场景是获取 Cursor 直接遍历获取数据后关闭,获取到的数据,一般是生成对应的实体对象(通过 ORM 或者自行从 Cursor 转换)后放到 List 或 Map 等容器里返回,或用于显示,或用于其他逻辑。

在这种场景下,先将数据保存到 Cursor Window 后再取出,中间要经历两次内存拷贝和转换(SQLite → CursorWindow → Java),这是完全没有必要的。另外,由于 Cursor Window 是定长的,对于较小的结果集,需要无故分配 2MB 内存,对于大结果集,如果 2MB 不足以放下,遍历到途中还会引发 Cursor 重查询,这个消耗就相当大了。

Cursor Window,其实也是在 JNI 层通过 SQLite 库的 Statement 填充的,Statement 这里可以理解为一个轻量但只能往前遍历,没有缓存的 Cursor。这个不就跟我们的场景一致吗?何不直接使用底层的 Statement 呢?我们对 Statement 做了简单的封装,暴露了 Cursor 接口, SQLiteDirectCursor 就诞生了,它直接操作底层 SQLite 获取数据,只能执行往前迭代的操作,但这完全满足需要。

这样,在大部分不需要将 Cursor 传递出去的场景,能很好的解决 Cursor 的额外消耗,特别是结果集大于 2MB 的场合。

通力合作

随着时间推移,微信的聊天记录越来越多,数据库查询就成为了一个性能瓶颈,这个问题在 Android 平台上尤为严重。由于前期各自为政,iOS 和 Android 在数据表设计上并不一致,Android 将所有聊天记录保存在一个 message 表上,导致表非常的大,行数达到百万数量级,对表的索引效率非常低,进入会话非常的慢。

而 iOS 则将每个会话的消息分别存放在不同的表,因此存在非常大量的表,但每个表的行数都不多,进入会话时速度较快。iOS 虽然没有进入会话速度上的问题,但每次打开数据库初始化都很慢,造成微信启动时卡顿,如何优化无从入手。

为了解决会话索引效率低的问题,Android 想到 iOS 的方案,大家一起探讨后,Android 也开始试验分表。分表试验得出了意想不到的结果:

分表确实能解决索引慢问题,但 表个数增加会严重拖慢初始化速度。至此我们发现,无论是分表还是不分表,都不是完美的方案,为了保证其他业务的开发进度,两个平台都不做表结构的改动,而是互相配合排查各自的问题: Android 的索引效率低和 iOS 的初始化卡顿。

Android 方面通过增加 I/O 监控的方法,找到了消息索引的瓶颈:使用字符串作索引,占用空间太大,需要遍历的节点过多,从而造成大量 I/O。解决方法为使用整型代替字符串作为索引,具体解决方案可参考之前的一篇分享 ---微信ANDROID客户端-会话速度提升70%的背后

iOS 也不简单,一度认为无法优化的初始化流程也找到了突破口。在打点和 Profile 相继无果后,我们决定直接接入 SQLite 的源代码,进行更细致的优化。

原来,SQLite 在初始化的时候,会将 sqlite_master 表中的元信息加载进一个 Hash 表中,而这个表的默认容量是 1KB,对于大小为 32 字节的节点,只需超过 32 个表,就会将其填满。超载的 Hash 表会退化成线性表,并通过比较字符串的方式将元素插入到正确的位置。于是,每新增一个表,都会产生大量的字符串比较的操作,拖慢效率。因此,在调整 Hash 表的容量之后,卡顿问题迎刃而解。

通过这次优化的经历,我们发现 Android 和 iOS 一些问题是共通的,研究和优化成果可以互通有无。自此之后,Android 和 iOS 在数据库方面的合作开始变得紧密。

紧密结合

好景不长,正值2016年春节抢红包高峰期,Android 与 iOS 同时收到告警: 反馈聊天记录丢失的用户数异常上涨。

这是数据库损坏引起的,在此之前,我们已经有过应对方案:dump 恢复。虽然其修复率不高,但确实解决了部分问题,一直没有太过关注。但此次,猜测是大家抢红包热情高涨,导致消息收发数(谢谢老板.gif)暴涨,手机经常掉电关机,存储空间也被大量占用,这些恰好就是推高数据库损坏率的诱因。

由于有过成功的合作案例,这次在问题初始就订立目标: Android 与 iOS 各自研发对自己平台更有效的方案,但从立项之初就考虑使用跨平台方案,使最终成果可以共享。于是,Android 方面负责研发高效的备份恢复方案,iOS 方面则研究成功率更高的直接恢复手段。经过不懈努力,备份恢复与 Repair Kit 相继面世,并且符合跨平台标准,可以共享成果。想了解更多关于恢复方面的技术细节,可以看这两篇文章--- 微信移动端数据库组件WCDB系列(二):数据库修复三板斧微信 SQLite 数据库修复实践

至此,Android 和 iOS 的数据库有了跨平台组件的想法和实践经验,思考问题更多从方案通用性的方向考量。为了更好地共享成果,Android 与 iOS 数据库组件 WCDB 经过重构后脱离各自的业务逻辑,变成一个独立的,专注的,可推广的组件,在公司内部供其他产品接入。

最终,WCDB 成为一个开源组件跟大家见面。

展望未来

开源只是故事的开始,我们仍会持续对 WCDB 做改进,包括更易用的接口、更好的性能、更高的可靠性。这些改进最终也会原封不动地在内微信使用。

本文来源于:WeMobileDev 微信公众号

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏程序员叨叨叨

【4】写博客神器——Markdown(附工具推荐)

注意:这里的!、[、]、(、)均为英文输入法,且简书平台Markdown编辑器只要将图片文件拖入输入区域,即可生成Markdown文本,读者们只要修改描述图片的...

952
来自专栏cloudskyme

linux内存查看方式

如下显示free是显示的当前内存的使用,-m的意思是M字节来显示内容.我们来一起看看. $ free -m total ...

3334
来自专栏Golang语言社区

使用Go语言框架进行web开发笔记

前言 关于golang的web开发有不少框架,例如 martini, gin, revel,gorilla等。 之前玩过revel,感觉封装的太多了,作为一个小...

3787
来自专栏安智客

TUI设计概要

TUI是TEE的一个重要基础模块。最初人们认识了解TEE最直观的展示就是TUI,早在指纹识别成为手机的标配之前,TEE的主要应用是围绕着TUI进行,但由于普适性...

1174
来自专栏程序员的SOD蜜

使用ORM框架,必须迁就数据库的设计吗?

我在CSDN发表了一个帖子,发布一款强大的ORM工具--PDF.NET集成开发工具 ,有个朋友caozhy提出了非常尖锐的问题,我对他的问题做了回答,现在觉得他...

2719
来自专栏【转载】DRF+Vue+Mysql_生鲜超市系统

十三、首页、商品数量、缓存和限速功能开发

实现这个接口只要在goods/filters/GoodsFilter里面添加一个过滤就可以了

380
来自专栏向治洪

android软件开发之webView.addJavascriptInterface循环渐进【一】

首先必要的啰嗦几句,这几天写VC写的累的要死,突然间不想再写想VC了,手里面有一个andriod的手机天天玩到半夜,却从来没有写过这方面的程序,真的是悲哀啊。所...

2817
来自专栏web编程技术分享

《从案例中学习JavaScript》之酷炫音乐播放器(一)

3729
来自专栏编程

Java开发必须要知道的知识体系

Java是超高人气编程语言,拥有跨平台、面向对象、泛型编程等特性。在TIOBE编程语言排行榜中,连续夺得第一宝座,而且国内各大知名互联网公司,后端开发首选语言:...

1958
来自专栏aoho求索

Spring Cloud 微服务架构进阶

我今年年初的时候,筹划了一本技术书籍,即为这篇文章的标题《Spring Cloud 微服务架构进阶》。今天正式开始预售了,年初到现在正好十个月,实在不易。写这篇...

2072

扫码关注云+社区