经典故障分析 - ASSM引发的索引争用与 enq HW -contention 等待事件

作者介绍:

孙加鹏 云和恩墨技术顾问

六年Oracle技术顾问经验,所服务的行业包括电信运营商、金融业、制造业等。

擅长Oracle的故障诊断、高可用架构、升级迁移等。目前主要服务于上海金融类客户。

1

故障概述

2017年07月24日11:58左右,客户核心数据库出现大量活动会话,导致数据库负载急剧加大,从而导致业务出现延时,DBA通过查看SESSION信息发现有大量的“enq: HW - contention”等待事件。

一直持续约有3分钟,数据库负载下降:

下面是详细的故障分析诊断过程,以及详细的解决方案描述。

2

故障分析

1

故障现象

ENMODB数据库出现大量活动会话,数据库负载急剧加大,通过V$SESSION能看到大量enq:HW contention的活动会话信息,客户紧急采集了ASH信息,方便后期故障分析。

2

分析过程

从AWR和ASH两个维度来分析此故障,先整体后局部,首先从AWR分析入手。

1、AWR分析

首先看一下故障时间段的AWR报告:

半小时的采样时间,DB Time 215mins,其中等待时间“enq: HW - contention”占据近36%,为TOP 10 events中最主要的非空闲等待事件。

等待事件“enq: HW - contention”的解释:

The HW enqueue is used to manage the allocation of space beyond the high water mark of a segment. The high water mark of a segment is the boundary between used and unused space in that segment. If contention is occurring for "enq: HW - contention" it is possible that automatic extension is occuring to allow the extra data to be stored since the High Water Mark has been reached. Frequent allocation of extents,reclaiming chunks,and sometimes poor I/O performance may be causing contention for the LOB segments high water mark.

The HW enqueue is used to serialize the allocation of space beyond the high water mark of a segment. If lots of data is being added to an object concurrently, then multiple processes may be trying to allocate space above the high water mark at the same time, leading to contention.

简而言之,HW锁是在分配高水位线以上的空闲空间时,多个进程同时为了分配高水位线上空闲空间而修改HWM,修改HWM需要持有HW锁,该锁又属于排他锁(mode=6)。

如果大量数据被并发插入某个对象时,那多个进程可能会试图在高水位线以上同时申请可用空间,大并发的申请HW锁,从而导致HW enqueue争用。HW – contention等待事件的P1,P2,P3参数参考下表;

Event

P1 Parameter

P2 Parameter

Parameter 3

enq: HW - contention

name|mode

table space

# block

发现这个时间段确实有大量的INSERT操作,半小时采用中,该SQL执行了约近24w次。

下一步看看HW竞争是在表段还是在索引段上?

大量的物理读/物理写请求也都发生在表TAB_ENMO的索引上。这里可以猜测HW竞争可能不在表上,而在这几个索引上面,IO读写请求非常高。

2、ASH分析

通过客户采集的ASH分析发现,等待事件“enq: HW - contention”是从07月24日11:57:12秒左右开始的,此类session全部被session id为1191的会话阻塞。

查看1191会话信息,发现11:57:12的时候没有被任何会话阻塞(NOT IN WAIT),Session状态是ON CPU:

这个时间点11:57:12的时候会话1191在执行以下的INSERT操作,这个就是源头,并且这个SQL一直在执行。

INSERT操作从11:57:11开始,后续该会话一直都是HW竞争,并且跟其他SESSION争相持有HW锁。

这个时间点大量的SESSION都在持续申请HW锁,因此都在相互blocking sessions。从p1,p2,p3参数中发现P3值并不代表争用块的RDBA(data block address)(36730这个值太小了,这是为啥?先思考下)。

既然P3找不到RDBA,那就从ash中字段CURRENT_FILE#和CURRENT_BLOCK#上寻找争用块:

发现所有的HW竞争都发生在索引IDX_TAB_ENMO_SEQ上,该索引就是表TAB_ENMO上的索引,HW竞争的SQL语句也是上面AWR中发现的SQL。

既然是大并发持有HW锁,多个进程是持续不断的申请HW锁,说明不断的发现free space不足,一般ASSM管理都是一次性分配多个extent,根据对象大小一个extent下面又会有多个block。除非指定storage参数next size 大小:

表空间ENMO_DATA是ASSM(自动段空间管理),并且是本地管理表空间,获取表空间的定义语句:

表空间自动扩展NEXT SIZE 100M。段管理方式使用自动段空间管理(ASSM)。这里有个地方值得关注下,这个表空间属于bigfile tablespace,这就是为什么通过等待事件中的p1,p2,p3参数无法精确定位到具体发生争用的block了。

具体可以参考Mos文档:ID 2098543.1。

因此上面的P3参数指的datafile中的block number,其实就是这个索引段的段头(segment header)所在的block。

所以HW竞争还是发生在索引的段头上,因为段头会记录HWM信息,进程修改HWM就必须要持有HW锁,并修改索引段头上的HWM。所以P3=36730是准确的,只是这个P3参数代表是bigfile tablespace上的block number,dump出file_id=6 block_id=36730的块,可以看出就是索引IDX_TAB_ENMO_SEQ的Segment header。

现在问题基本明朗了,所有的争用都发生在索引的Segment Header上面,进程为了需要更多的空间(unformatted),通过持有HW锁来修改高水位线(HWM),大量的进程并发从而导致HW锁上的竞争。

那既然是ASSM管理,为何新的extent分配的时候还会出现HWM上的竞争呢?不都是bitmap管理了吗?比之前freelist管理要好很多啊,看看这个索引的DDL语句:

索引的stroage参数中NETX=1M,即每次分配空间以每次1M大小来分配,8k块大小即相当于每次分配

128个blocks。难道是客户创建索引的时候指定extent分配大小?问题是不是发生在这个NEXT 1M上面呢?

显然不是的,自动段管理表空间(ASSM)下这个NEXT扩展字句应该是不生效的,不会按照这样来初始化extent的。

可以检查下索引的extent分布,看看extent下面包含多少个blocks。

上面信息可以看出索引的extent并不是只有128个块,跟ASSM的extent分配机制匹配的,segment后期会按照64M的大小分配extent,即每个extent有64*1024/8=8192个block。

7月24日故障之后几天,又不间断的出过2~3次同样的故障,那为何不间断的会发生这种故障?索引真的有这么需要unformatted空间吗?表上有大量的INSERT操作的同时也需要维护索引,同时索引也会进行分裂,不论是leaf node split还是branch node split,都需要新块来满足分裂,实验证明索引分裂只请求unformatted的块,未满块或空闲块都不会使用。下面来看看索引上unformatted 块的使用情况,这个show_space存储过程来自TOM大师的分享:

同时12点12分左右又出现一次HW竞争严重的情况,导致AAS飙高,系统负载急剧升高。因此每次出现HW竞争都是因为Unformatted Blocks不够用的时候,多个进程修改索引段头的HWM的时候持有HW锁。

所以问题原因主要是多个进程同时修改索引段头上的HWM而导致的争用,针对这种问题一般采用HASH分区索引,通过将索引改造成HASH分区索引来缓解索引段头的争用,这样从原来的在单个段头修改HWM,到现在的在多个分区索引的段头上修改HWM。将原先索引从一个L3位图管理块,到多个L3层位图管理块。

先看一下ASSM的extent三层位图管理结构:

整个位图三级位图结构是一个树形结构,L3往往代表的就是Segment Header,L3中记录了所包含的所有L2位图块的地址,L2位图块中又包含了所属L1位图块地址。L1位图块中记录了具体数据块的地址和使用情况。

L3,L2,L1三层结构均以树形结构,一对多的关系。

下面我们来dump出索引的段头(Segment Header)信息。

索引目前已经有2323个extents,现在的高水位线在extent_id 2322 block_id 8192位置。”L2 Hint for inserts”这表名INSERT插入的记录从这个L2(后面跟的是bigfile的block_id)开始。

Dump出这个L2位图块:

如上,这个L2中包含有1007个L1,free L1有77个,L1共有三个状态值,分别为Free 1,Free 3和Free 5,3和5都代表该L1下面有空块。

ASSM管理表空间的Table Block的状态有7种,分别是:

0 = unformatted

1 = logically full (per pctfree)

2 = 0-25% free

3 = 25-50% free

4 = 50%-75% free

5= 75-100% free

对于Block的DUMP有兴趣的可以研究研究。

4

故障解决

问题原因主要是多个进程同时修改索引段头上的HWM而导致的争用,针对这种问题一般采用HASH分区索引,通过将索引改造成HASH分区索引来缓解索引段头的争用,这样从原来的在单个段头修改HWM,到现在的在多个分区索引的段头上修改HWM。

引入思考,当初设计表的时候,从业务角度出发,知道这是一个业务流水表,流水表的特点就是大量的DML操作,特别是INSERT操作的存在,表级别做了分区设计,索引上未考虑到位采用了普通索引,导致后期性能下降和故障发生。因此好的数据库结构设计是有多么重要。

原文发布于微信公众号 - 数据和云(OraNews)

原文发表时间:2017-09-05

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏SeanCheney的专栏

Hyperledger Fabric 架构设计整理

整个功能架构如下图所示。 ? 包括三大组件:区块链服务(Blockchain)、链码服务(Chaincode)、成员权限管理(Membership)。 概念术语...

3176
来自专栏友弟技术工作室

Mysql大表优化方案

原文版权 ? 当MySQL单表记录数过大时,增删改查性能都会急剧下降,可以参考以下步骤来优化: 单表优化 除非单表数据未来会一直不断上涨,否则不要一开始就考虑拆...

3407
来自专栏沃趣科技

容器化RDS|计算存储分离架构下的IO优化

在基于 Kubernetes 和 Docker 构建的私有 RDS 中, 普遍采用了计算存储分离架构. 该架构优势明显, 但对于数据库类 Latency Sen...

4426
来自专栏Python区块链

Python爬取100G级别,2000K以上数据量,用mysql还是mongodb?

这个问题我们可以从两个角度去解答。一个是100G的数据量用MySQL和MongoDB在存读取上有什么区别,另一个是数据本身的结构和你要进行的应用来考虑使用哪种数...

54315
来自专栏杨建荣的学习笔记

一条报警信息的快速处理和分析(r9笔记第99天)

下午的时候收到这么一条报警。 ZABBIX-监控系统: ------------------------------------ 报警内容: Too many...

3346
来自专栏我是攻城师

Hive使用ORC格式存储离线表

38910
来自专栏数据库

MongoDB距“干掉”MySQL登上王位还有多远

【IT168 资讯】几十年来,关系型数据库已经成为企业应用程序的基础,自从MySQL在1995年发布以来,深受企业的偏爱。然而随着近年来数据量和数据的不断激增,...

1886
来自专栏腾讯大数据的专栏

Hermes与开源的Solr、ElasticSearch的不同

谈到Hermes的索引技术,相信很多同学都会想到Solr、ElasticSearch。Solr、ElasticSearch真可谓是大名鼎鼎,是两个顶级项目,最...

2385
来自专栏大闲人柴毛毛

Java并发编程的艺术(十三)——锁优化

自旋锁 背景:互斥同步对性能最大的影响是阻塞,挂起和恢复线程都需要转入内核态中完成;并且通常情况下,共享数据的锁定状态只持续很短的一段时间,为了这很短的一段时...

3335
来自专栏携程技术中心

干货 | 分布式架构系统生成全局唯一序列号的一个思路

作者简介 丁宜人,10年java开发经验。携程技术中心基础业务研发部用户中心资深java工程师,负责携程账号的基础服务和相关框架组件研发。之前在惠普公司供职6年...

39610

扫码关注云+社区