拨云见日—深入解析Oracle TX 行锁(上)

Balance is the only key to optimize.

平衡是性能优化的核心标准。

在刚刚过去不久的第七届数据技术嘉年华上,性能优化专家怀晓明老师进行了Oracle性能优化的主题分享。在他多年的优化生涯中,一直遵守的优化理念是,平衡是唯一的核心。我们整理了怀老师大会的演讲内容,今天一起来学习,如何在实践中应用这一理念并实现有效的性能优化。

演讲实录

优化的核心思想是平衡。在数据库的运行中,平衡取决于三个方面:

需求:指的是要做什么; 资源:是系统中所能提供的内容; 实现:指的是为了满足需求,应该如何利用提供的资源。

只有三者达到平衡,系统才能够高效地运行。

今天的内容将会通过Oracle 中一个很具体的等待事件 TX行锁来剖析数据库的平衡。

什么是TX行锁?

等待事件: enq: TX - row lock contention

enq代表的意思是enqueue,事实上代表的是入队这一个动作。

contention指的是争用,所以一般意义上的行锁,其实指的是行锁争用。

不管是在Oracle数据库还是其他关系型数据库,在修改一条记录的时候一定会产生行锁。其目的是为了保证数据的一致性,如果行锁长久不能得到释放,当其他进程想要使用的时候,就会产生争用。这种情况一般发生在先行的会话事务没有结束的时候。

TX行锁发生的常见场景:

1、当前会话要更新或删除的记录,已经被其他会话更新或删除。 2、对于表上有唯一索引的情况,多个会话插入或更新为相同的键值。 3、对于表上有位图索引的情况,多个会话即使更新不同记录,只要这些记录在位图索引上的键值相同,也会产生行锁。

一般我们可能认为在发生行锁的时候,几个SQL的语句是一样的,事实上这种理解是错误的。我举一个简单的例子:

首先在表上找到job为manager的记录,有三条:

select empno from emp where job='MANAGER';

--显示7566/7698/ 7782 三条记录。

之后在会话1 将部门ID为10的员工的记录删除掉

sess1:delete from emp where deptno=10;

-- 7782/7839/ 7934 三条记录被删除,但并未提交。其中7782的记录刚好是job为manager的。

接下来在session2做一个delete的操作,此时就会被hang住。

sess2:delete from empwherejob='MANAGER';

那么hang的情况说明时候会结束呢?

--if sess 1 rollback, 7566/ 7698/7782将被删除

--if sess 1 commit, 7566/ 7698将被删除

也就是说只有资源被释放,系统才会解除TX行锁。

TX行锁的危害:会导致其他会话的相关业务操作hang住

1、业务操作长时间无法完成 用户投诉 2、会导致会话积压 数据库连接池逐渐被占满

  • 应用获取不到数据源无法创建新的数据库连接
  • 或操作系统CPU、内存资源逐渐耗尽,无法创建新的数据库连接

3、会导致产生其他争用,如bufferbusy wait, ITL contention等

TX行锁的解决方案:

1、先行会话需要结束事务(transaction):commit或者rollback 2、强制结束先行会话:kill session。

真实案例深入解析

来自双11的真实案例:双11早08:45,我方接到客户反映,在当天凌晨04:00~08:00,enq:TX - row lock contention等待严重。

当用户在投诉数据库严重的行锁问题的时候,我们首先会想到,在发生TX行锁时,由于资源久久得不到释放,系统中会话积压,导致DBtime会变得很高。

从图上看出,在问题发生的前两条开始采样,DBtime一直处于相对较低的状态,大概是100。在故障点,DBtime超过了800。

问题初现:从11月11日约00:00开始

高峰时刻:11月11日凌晨04:00达到峰值。

高峰值:该时刻DBTimes峰值为835.86,是该节点平日压力的十几倍,可见问题十分严重。

接下来我们查看了当时的AWR的报告。在AWR报告里面,我们首先要关注的是等待事件。我们看到其中TX行锁占用了大部分的等待时间,因此初步推断行锁就是导致故障的原因。

那么具体的行锁在什么地方呢?

通过top SQL查行锁的话,可能会比较困难。推荐大家通过segment部分进行查询。在segment模块,有一个专门针对行锁的统计, segment by row lock waits.从这个统计中我们看到,有一张命名为_manager_tp的表,占用了99%的行锁争用。

明确了争用对象以后,我们再来找对应的SQL语句。

在以耗时排名的top SQL 中,有一条SQL占比达到98%,这条SQL语句正在对_manager这张表进行update操作。但是我们之前看到的那张争用的表是_manager_tp, 跟这里查出来的manager不是同一张表。

原因是什么呢?

后经查证,MANAGER是指向表*MANAGER_TP的同义词。我们知道在运营商的环境中,他们很喜欢用同义词指向一张表。

因此,现在确认在top SQL里面涉及的对象和争用的segment的对象是匹配的。

接下来我们看一下从ASH分析出来的00:00 到08:00的趋势:

我们看到在整体的上升的趋势中,有一些点会产生向下的波动,向下的波动在行锁争用中是很常见的一种现象。当有一部分行锁被释放之后,被阻塞的量就会往下降。但是在持续的行锁阻塞中,虽然会有短暂的释放和缓解,但更多的会话会很快拥堵上来。

我们再对峰值期间的的行锁争用进行详细分析:

我们看到每一秒行锁争用的个数都达到了800+,只有在少数的时刻降到了几十。

因此到这一步,我们首先明确了分析方向:

该SQL自身导致的行锁,与其他无关

排除了存储不稳定可能导致SQL运行缓慢的可能性

第二条是因为在客户的机房环境下,经常会由于存储的不稳定导致应用SQL变慢。所以在故障发生的时候,也首先查看了操作系统的错误日志。

当我们确定了是某一条SQL导致的行锁,接下来我们对该SQL语句进行深入分析:

SQL全文如下:从SQL文本来看,对应到的应该是比较少的记录。

UPDATE *MANAGE

SET EXPIRE_DATE= SYSDATE

WHERE ACCESS_NUM = :1

AND IDENT_CODE_LEVEL= :2

AND IDENT_CODE_TYPE= :3

其执行计划如下:走的是索引范围扫。从TP_AN看到,并不是一个唯一索引。

相关的表和索引信息如下:

我们看到表有200w的记录,access_num为40w左右。因此平均每行的访问为6。

然后我们把SQL的AWR报告导出来一看,我们可以看到平均每次要处理7w多条记录,和6相比差别很大。这说明数据存在严重的倾斜。

因此我们做了一个查询,结果如下:

有些号码对应到十几万条记录,数据倾斜严重。

因此我们推测,发生故障是因为多会话在更新相同的access_number

深度分析:数据为什么会分布不均?

经过跟业务部沟通,发现:

每次用户申请凭证,表内就会记录一条凭证信息。

如果用户反复申请,表内对同一手机号就会记录多条信息。

问题为何产生?

一次就将表内一个手机号对应的所有记录的过期日期都更新为当前日期,是不合理的做法。

后来跟开发商进行沟通,得到以下结论:不是代码问题,就是设计问题

方案1:允许存在相同ACCESS_NUM对应多条记录的情况:正确的做法应该是只更新最新的记录,而早之前的记录不应该更新,因为其早已过期(过期日期比当前日期小)。 并将单表改为主子表关系,主表存最新的记录,子表存历史记录。 方案2:1个ACCESS_NUM在该表只应有一行记录的情况:应根据判断新进入该表的数据是否已经存在在表内,若是,则更新数据,若否,则插入数据。

因此开发商给出的方案:

后续得知,该问题不是第一次出现,曾经*MANAGER就是指向表*MANAGER的同义词!!!

我们根据前面的观点判断,在本案例当中,平衡三要素中的“实现”出现了问题。是由于开发设计不合理导致的行锁竞争。

关于TX行锁的更多案例,后面会持续分享,敬请关注。

原文发布于微信公众号 - 数据和云(OraNews)

原文发表时间:2017-12-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏腾讯大数据的专栏

Hermes与开源的Solr、ElasticSearch的不同

谈到Hermes的索引技术,相信很多同学都会想到Solr、ElasticSearch。Solr、ElasticSearch真可谓是大名鼎鼎,是两个顶级项目,最...

2845
来自专栏大魏分享(微信公众号:david-share)

爆款:K8S原生应用管理平台

首先,需要说明的是:Openshift是K8S集群,但K8S集群不是Openshift集群。K8S集群是Openshift集群的真子集。

2703
来自专栏CSDN技术头条

那些高级运维工程师,都是怎么给公司省机器的?

随着项目用户量的快速增长,前期可能由于应用程序设计、数据库设计及架构不当,大多项目会在用户量百万、日志/流水等表过千万、乃至过亿时,出现写入卡顿、查询缓慢、各种...

1132
来自专栏PingCAP的专栏

TiDB 2.1: Battle-Tested for an Unpredictable World

TiDB 是由 PingCAP 开发的分布式关系型数据库,今天我们很高兴地推出 TiDB 2.1 正式版,提供更丰富的功能、更好的性能以及更高的可靠性。

420
来自专栏杨建荣的学习笔记

MySQL存储过程的权限问题

MySQL的存储过程,没错,看起来好生僻的使用场景。问题源于一个开发同学提交了权限申请的工单,需要开通一些权限。

1272
来自专栏数据和云

MySQL智能运维与实践,看关系型数据库如何优雅应对云时代

随着互联网场景的导入,非结构化的海量数据给传统数据库的处理能力带来了极大的挑战,作为最受欢迎的开源关系型数据库,MySQL一步步地占领了原有商业数据库市场。如...

3437
来自专栏逸鹏说道

我是如何在SQLServer中处理每天四亿三千万记录的

首先声明,我只是个程序员,不是专业的DBA,以下这篇文章是从一个问题的解决过程去写的,而不是一开始就给大家一个正确的结果,如果文中有不对的地方,请各位数据库大牛...

37013
来自专栏一名叫大蕉的程序员

一场关于逻辑应该写在哪里的争论No.93

先说结论,我支持将逻辑写在 Java 等应用系统中。 观察了一下,传统企业以及绝大部分转型中的企业的 Java 应用中,很神奇的是,他们的开发人员包括我自己以...

5278
来自专栏数据和云

MySQL vs Postgre SQL: 5个你最关注的非技术维度的区别

开源数据库中有一堆冤家,我想大家都知道,那就是MySQL与Postgre SQL。两个派系的恩怨情仇从何而来,今天我们将从非技术的角度来进行分析。 本文仅代表个...

3417
来自专栏数据和云

【云和恩墨大讲堂】玩转AWR裸数据(下)

讲师简介: ? 罗海雄 云和恩墨性能优化总监 ITPUB论坛数据库管理版版主,2012 ITPUB全国SQL大赛冠军得主,他还是资深的架构师和性能优化专家,对 ...

2903

扫码关注云+社区