PostgreSQL 的 MVCC 机制解析

作者介绍:黄辉,目前在腾讯云数据库团队从事后台开发工作,喜欢研究分布式数据库相关技术。

导语

PostgreSQL是通过MVCC(Multi-Version Concurrency Control)来保证事务的原子性和隔离性,具体MVCC机制是怎样实现的,下面举些示例来做个简单解析以加深理解。

前提

表中隐藏的系统字段

PostgreSQL的每个表中都有些系统隐藏字段,包括:

  • oid: 对象标识符,生成的值是全局唯一的,表、索引、视图都带有oid,如果需要在用户创建的表中使用oid字段,需要显示指定“with oids”选项。
  • ctid: 每条记录(称为一个tuple)在表中的物理位置标识。
  • xmin: 创建一条记录(tuple)时,记录此值为当前事务ID。
  • xmax: 创建tuple时,默认为0,删除tuple时,记录此值为当前事务ID。
  • cmin/cmax: 标识在同一个事务中多个语句命令的序列值,从0开始,用于同一个事务中实现版本可见性判断

MVCC机制

MVCC机制通过这些隐藏的标记字段来协同实现,下面举几个示例来解释MVCC是如何实现的

//seesion1:

创建表,显示指定oid字段:
testdb=# create table t1(id int) with oids;
CREATE TABLE

插入几条记录
testdb=# insert into t1 values(1);
INSERT 17569 1
testdb=# insert into t1 values(2);
INSERT 17570 1
testdb=# insert into t1 values(3);
INSERT 17571 1

查询当前表中的tuple信息,xmin为创建tuple时的事务ID,xmax默认为0

testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   | xmax | cmin | cmax |  oid  | id
-------+----------+------+------+------+-------+----
 (0,1) | 80853357 |    0 |    0 |    0 | 17569 |  1
 (0,2) | 80853358 |    0 |    0 |    0 | 17570 |  2
 (0,3) | 80853359 |    0 |    0 |    0 | 17571 |  3
(3 rows)

接下来,我们更新某个tuple的字段,将tuple中id值为1更新为4,看看会发生什么

testdb=# begin;
BEGIN
testdb=# select txid_current();
 txid_current
--------------
     80853360
(1 row)

testdb=# update t1 set id = 4 where id = 1;
UPDATE 1

查看tuple详细信息

testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   | xmax | cmin | cmax |  oid  | id
-------+----------+------+------+------+-------+----
 (0,2) | 80853358 |    0 |    0 |    0 | 17570 |  2
 (0,3) | 80853359 |    0 |    0 |    0 | 17571 |  3
 (0,4) | 80853360 |    0 |    0 |    0 | 17569 |  4
(3 rows)

可以看到id为1的tuple(oid=17569)已经被修改了,id值被更新为4,另外ctid、xmin字段也被更新了,ctid值代表了该tuple的物理位置,xmin值是创建tuple时都已经写入,这两个字段都不应该被更改才对,另起一个seesion来看下(当前事务还未提交)

//seesion2:

testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   |   xmax   | cmin | cmax |  oid  | id
-------+----------+----------+------+------+-------+----
 (0,1) | 80853357 | 80853360 |    0 |    0 | 17569 |  1
 (0,2) | 80853358 |        0 |    0 |    0 | 17570 |  2
 (0,3) | 80853359 |        0 |    0 |    0 | 17571 |  3
(3 rows)

可以看到id为1的tuple(oid=17569)还存在,只是xmax值被标记为当前事务Id。 原来更新某个tuple时,会新增一个tuple,填入更新后的字段值,将原来的tuple标记为删除(设置xmax为当前事务Id)。同理,可以看下删除一个tuple的结果

//seesion1:
testdb=# delete from t1 where id = 2;
DELETE 1

//seesion2:
testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   |   xmax   | cmin | cmax |  oid  | id
-------+----------+----------+------+------+-------+----
 (0,1) | 80853357 | 80853360 |    0 |    0 | 17569 |  1
 (0,2) | 80853358 | 80853360 |    1 |    1 | 17570 |  2
 (0,3) | 80853359 |        0 |    0 |    0 | 17571 |  3
(3 rows)

删除某个tuple时也是将xmax标记为当前事务Id,并不做实际的物理记录清除操作。另外cmin和cmax值递增为1,表明了同一事务中操作的顺序性。在该事务(seesion1)未提交前,其他事务(seesion2)可以看到之前的版本信息,不同的事务拥有各自的数据空间,其操作不会对对方产生干扰,保证了事务的隔离性。

提交事务,查看最终结果如下:

//seesion1:
testdb=# commit;
COMMIT
testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   | xmax | cmin | cmax |  oid  | id
-------+----------+------+------+------+-------+----
 (0,3) | 80853359 |    0 |    0 |    0 | 17571 |  3
 (0,4) | 80853360 |    0 |    0 |    0 | 17569 |  4
(2 rows)

但是,如果我们不提交事务而是回滚,结果又是如何?

testdb=# begin ;
BEGIN
testdb=# update t1 set id = 5 where id = 4;
UPDATE 1
testdb=# rollback;
ROLLBACK
testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   |   xmax   | cmin | cmax |  oid  | id
-------+----------+----------+------+------+-------+----
 (0,3) | 80853359 |        0 |    0 |    0 | 17571 |  3
 (0,4) | 80853360 | 80853361 |    0 |    0 | 17569 |  4
(2 rows)
xmax标记并未清除,继续新增一条记录:

testdb=# insert into t1 values(5);
INSERT 17572 1
testdb=# select ctid, xmin, xmax, cmin, cmax, oid, id from t1;
 ctid  |   xmin   |   xmax   | cmin | cmax |  oid  | id
-------+----------+----------+------+------+-------+----
 (0,3) | 80853359 |        0 |    0 |    0 | 17571 |  3
 (0,4) | 80853360 | 80853361 |    0 |    0 | 17569 |  4
 (0,6) | 80853362 |        0 |    0 |    0 | 17572 |  5
(3 rows)

发现没有清理掉新增的tuple,消除原有tuple上的xmax标记,这是为何?处于效率的原因,如果事务回滚时也进行清除标记,可能会导致磁盘IO,降低性能。那如何判断该tuple的是否有效呢?答案是PostgreSQL会把事务状态记录到clog(commit log)位图文件中,每读到一行时,会到该文件中查询事务状态,事务的状态通过以下四种来表示:

  • #define TRANSACTION_STATUS_IN_PROGRESS=0x00 正在进行中
  • #define TRANSACTION_STATUS_COMMITTED=0x01 已提交
  • #define TRANSACTION_STATUS_COMMITTED=0x02 已回滚
  • #define TRANSACTION_STATUS_SUB_COMMITTED=0x03 子事务已提交

MVCC保证原子性和隔离性

原子性

事务的原子性(Atomicity)要求在同一事务中的所有操作要么都做,要么都不做。根据PostgreSQL的MVCC规则,插入数据时,会将当前事务ID写入到xmin中,删除数据时,会将事务ID写入xmax中,更新数据相当于先删除原来的tuple再新增一个tuple,增删改操作都保留了事务ID,根据事务ID提交或撤销该事务中的所有操作,从而保证了事务的原子性。

隔离性

事务的隔离性(Isolation)要求各个并行事务之间不能相互干扰,事务之间是隔离的。PostgreSQL可读取的数据是xmin小于当前的事务ID且已经提交。对某个tuple进行更新或删除时,其他事务读取的就是这个tuple之前的版本。

MVCC的优势

  • 读写不会相互阻塞,写操作并没有堵塞其他事务的读,在写事务未提交前,读取的都是之前的版本,提高了并发的访问效率。
  • 事务可以快速回滚,操作后的tuple都带有当前事务ID,直接标记clog文件中对应事务的状态就可达到回滚的目的。

MVCC带来的问题

事务ID回卷问题

PostgreSQL也需要事务ID来确定事务的先后顺序,PostgreSQL中,事务被称为XID,获取当前XID:

testdb=# select txid_current();
 txid_current
--------------
     80853335
(1 row)

事务ID由32bit数字表示,当事务ID用完时,就会出现新的事务ID会比老ID小,导致事务ID回卷问题(Transaction

ID Wraparound)。 PostgreSQL的事务ID规则:

  • 0: InvalidXID,无效事务ID
  • 1: BootstrapXID,表示系统表初使化时的事务
  • 2: FrozenXID,冻结的事务ID,比任务普通的事务ID都旧。

– 大于2的事务ID都是普通的事务ID。

当最新和最旧事务之差达到2^31时,就把旧事务换成FrozenXID,然后通过公式((int32)(id1 - id2)) < 0比较大小即可

垃圾数据问题

根据MVCC机制,更新和删除的记录都不会被实际删除,操作频繁的表会积累大量的过期数据,占用磁盘空间,当扫描查询数据时,需要更多的IO,降低查询效率。PostgreSQL的解决方法是提供vacuum命令操作来清理过期的数据。

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Java后端生活

JDBC(一)获取数据库连接

持久化(persistence):把数据保存到可掉电式存储设备中以供之后使用。大多数情况下,特别是企业级应用,数据持久化意味着将内存中的数据保存到硬盘上加以”固...

806
来自专栏性能与架构

Mysql性能优化案例 - 覆盖索引

场景 产品中有一张图片表,数据量将近100万条,有一条相关的查询语句,由于执行频次较高,想针对此语句进行优化 表结构很简单,主要字段: user_id 用...

2945
来自专栏禁心尽力

MySQL日志文件之错误日志和慢查询日志详解

MySQL数据库官方文档:https://dev.mysql.com/doc/refman/5.7/en/server-logs.html 一、MySQL日志分...

2178
来自专栏me的随笔

SQL Server中锁与事务隔离级别

SQL Server中可以锁定的资源包括:RID或键(行)、页、对象(如表)、数据库等等。

902
来自专栏Java学习123

ORA-12519: TNS:no appropriate service handler found 解决

2729
来自专栏JAVA同学会

MySql分页查询慢|这里告诉你答案

我们在开发的过程中使用分页是不可避免的,通常情况下我们的做法是使用limit加偏移量:

31411
来自专栏杨建荣的学习笔记

关于权限设置的一个小把戏(r2第27天)

现在有一个需求,需要开放一些"特殊“的权限给开发组。 具体的背景是这样的: 有三个数据库用户,tabowner, tabconn, tab_temp三个用户 t...

2609
来自专栏互联网杂技

mysql主键primary key与唯一键unique key

主键 每张表中只能有一个主键 主键自动回not null 主键的设置方式是创建的时候加上:primary key 一般主键设置为自动增加,auto_increm...

33515
来自专栏Linyb极客之路

Java性能微调之数据库性能

 大部分Java系统性能问题基本上是由于错误的数据库访问方式引起的,带来了大量额外日志和内存消耗,这些都会对JVM的垃圾回收造成冲击影响,本文主要针对这种错误的...

591
来自专栏Jackson0714

30分钟全面解析-SQL事务+隔离级别+阻塞+死锁

2746

扫码关注云+社区