表分区“拖出”的性能Error

作者介绍:

曾令军,云和恩墨技术专家,2009年开始接触ORACLE数据库,8年数据库运维经验。思维敏捷,擅长于数据库开发、解决棘手的数据库故障和性能问题。服务于公司华南区多个客户,曾参与过国内多家股份制银行、城市商业银行的核心业务系统、数据仓库的部署建设和生产运维工作,在数据库故障诊断、运维监控、性能优化方面积累了丰富的经验。

问题现象

客户反馈核心业务系统中,出现多条Sql执行效率很低,执行计划走了错误的索引,原因是统计信息不对,经过统计信息收集并显示授权后(相当于收集统计信息时设置了noinvalidation=false选项,共享池中原有的游标会失效),执行计划并没有及时改变。一段时间后又恢复正常。

令人疑惑的问题点:

1)为什么收集完统计信息并对SQL查询的表显示授权后,执行计划并没有马上改变

2)为什么每天定时收集统计信息的任务没有起作用

问题分析

1. 根据客户提供的sql_id,分析该sql_id的执行计划,走错了索引。

h_kns_tran_fund表有1亿+纪录数,sql条件中字段明显应该走pk_h_kns_tran_fund索引,但CBO优化器却选择了idx_h_kns_tran_fund_acctno这个索引,这样会导致分区全扫描。通常这种情况都是统计信息不对引起,检查统计信息,确实有问题。于是手工收集,但是过了一个小时左右,执行计划才恢复正常。

针对这个问题:

检查业务程序,发现程序中存在一个if else判断,如果传入的日期为当天,就不会查h_kns_tran_fund这个表,如果是历史日期才查。通过这条线索,检查dba_hist_sql_bind_capture视图,发现该sql执行频率很低,隔一两个小时才有一次,因此执行计划没有改变的原因,可以断定就是SQL在原有的执行计划失效后,一直都没有符合输入历史查询条件的SQL执行过,没有发生新的SQL解析,产生新的正确的执行计划。

2. 为什么系统开启了每天的自动收集统计信息任务,该表却没有收集到统计信息呢?

检查表结构,发现这是一个分区表,每天一个分区(例如p20160428),与开发人员确认,当天的业务数据是记录在kns_tran_fund表中,这些数据每天晚上由业务程序插入到历史表h_kns_tran_fund的pever分区中,插完数据之后再将pever进行拆分,split出一个上日的分区(例如p20160429和pever),这就是说p20160429在当天被split出来之后,数据就不会再发生变化。

oracle 10g 统计信息自动收集的原则,是看数据量变更是否超过了10% ,这个变化量可以在dba_tab_modifications视图中查到,如果达到这个阀值,收集统计信息的定时任务运行时就会收集这个表的统计信息。

例如:

插入10万条记录到pever分区,手工执行dbms_stats. flush_database_monitoring_info (),dba_tab_modifications视图中就会多出一条pever分区的纪录,插入次数为10万。

这个案例的问题在于:

数据插入到历史表,然后再split出一个p20160429分区,p20160429这个分区虽然此时有10万条纪录,但数据不再变化,所以dba_tab_modifications视图中不会有这个新分区的变化记录,统计信息收集时并不会收集这个分区。

知识点:dba_tab_modifications视图的数据来源于mon_mods_all$,数据库后台有一个任务,将对象的dml统计信息刷新到mon_mods_all$。这个刷新周期在9i是15分钟,在10g后变成了一天。

基于以上推测,来做一个实验进行验证:

场景一:

正常插入分区数据,用于对比

--此时可以看到dba_tab_modifications中纪录了表和分区0502的变化情况。

--检查一次分区的统计信息,还没有更新

select table_name,partition_name,num_rows,blocks from user_tab_partitions where table_name='TEST_PART';

--执行一次自动统计信息收集的program_action,分区0502的统计信息更新了。

begin dbms_stats.gather_database_stats_job_proc; end;

结论:

正常的数据插入操作,数据变化量达到收集统计信息的比例,自动任务能够收集

场景二:

插入数据到最大分区,然后split出新分区,观察新分区的统计信息收集情况

--这里看到dba_tab_modifications中只纪录了表和分区PEVER的变化情况,却没有分区0503的纪录

--先检查一次分区的统计信息,这里分区0503当前是空值

select table_name,partition_name,num_rows,blocks from user_tab_partitions where table_name='TEST_PART';

--执行一次自动统计信息收集的program_action,分区0503的统计信息也更新了。

begin dbms_stats.gather_database_stats_job_proc; end;

结论:

dba_tab_modifications视图中没有新分区的变化纪录,但统计信息仍然更新了,原因是新分区此时的统计信息为空,自动收集时会将这类对象一并收集。不经意间,又发现了一个知识点。

场景三:

再次插入数据到最大分区,然后split出新分区

--再执行一次,情况发生了变化

--注意此时分区0504被split出来之后,统计信息并不是空的,而是0

--执行一次自动统计信息收集的program_action,分区0504的统计信息并没有更新

begin dbms_stats.gather_database_stats_job_proc; end;

但实际上这个分区的纪录数是1万行。

--随后又做了几次插入、拆分、收集,发现后面插入的数据,分区统计信息都是0,没有再更新:

结论:

dba_tab_modifications视图中没有新分区的变化纪录,且新分区的统计信息是0,自动收集时并不收集这个新分区的统计信息。

这里引出了一个新的问题:为什么分区初始的统计信息,第一次split分区后,分区初始的统计信息是空,而之后的split分区操作新分区的统计信息却是0呢?通过反复实验、仔细对比观察,原来是split产生的新分区的初始统计信息继承了split操作的源分区的统计信息。例如,如果从pever这个分区上split出两个分区P1和P2,那么P1和P2的统计信息都与pever相同,pever的行数是空,新分区也是空,pever的行数是0,新分区也是0,比较隐秘的设计。

说了这么多,是时候总结一下啦。通过这个案例我们学到了什么:

SQL优化时,如果能够分析和理解业务程序的逻辑,往往事半功倍

表或分区有超过10%的数据变化,且被数据库记录到,自动收集任务才会更新这些对象的统计信息

对象的统计信息为空时,自动收集任务会更新这些对象

Split分区操作时,新分区即使有大量的数据,统计信息也可能不会更新

Split分区操作时,新分区的初始统计信息继承于源分区

原文发布于微信公众号 - 数据和云(OraNews)

原文发表时间:2017-08-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏向治洪

Java中的ReentrantLock和synchronized两种锁机制的对比

原文:http://www.ibm.com/developerworks/cn/java/j-jtp10264/index.html 多线程和并发性并不是什...

1965
来自专栏Ceph对象存储方案

对象存储服务-构架设计

对象存储服务构架设计 基本构架组成 ? 1.网关服务(Gateway): 客户端发送请求(Request)到网关服务(Gateway)再由网关服务实现将客户端请...

4144
来自专栏决胜机器学习

设计模式专题(二十四) ——访问者模式

设计模式专题(二十四)——访问者模式 (原创内容,转载请注明来源,谢谢) 一、概述 访问者模式(visitor)表示一个作用于某对象结构中的各元素的操作,它使...

32612
来自专栏韩伟的专栏

经典的服务器结构概述(中)

. 经典的服务器结构概述(中) 今天将和大家详细探讨分服模型,本文结构如下: ? 1模型描述 分服模型是游戏服务器中最典型,也是历久最悠久的模型。其特征是游...

3157
来自专栏JAVA高级架构

缓存架构之防雪崩设计

缓存穿透是指查询一个根本不存在的数据,缓存层和存储层都不会命中,但是出于容错的考虑,如果从存储层查不到数据则不写入缓存层

1013
来自专栏逸鹏说道

C#线程篇---线程池如何管理线程(6完结篇)

C#线程基础在前几篇博文中都介绍了,现在最后来挖掘一下线程池的管理机制,也算为这个线程基础做个完结。   我们现在都知道了,线程池线程分为工作者线程和I/O线程...

3496
来自专栏架构师之路

库存扣减还有这么多方案? | 架构师之路

昨天一篇《库存扣多了,到底怎么整》,核心观点是: 用“设置库存”替代“扣减库存”,以保证幂等性 使用CAS乐观锁,在“设置库存”时加上原始库存的比对,避免数据不...

4797
来自专栏数据和云

Real World Performance 经典性能优化案例-索引竞争

编辑手记:Real World Performance(RWP)团队是个天才的性能优化团队,不断的寻找和创造新的方法分析诊断当今世界业务系统的性能。在他们眼里,...

3459
来自专栏腾讯架构师的专栏

多核处理器下数据库系统日志管理器优化技术探讨

传统数据库的设计假设磁盘为主要存储设备,其性能取决于基于I/O代价模型的优化。然而,当前数据库运行的平台已逐渐转移到由多核处理器、大内存和以闪存为代表的低延迟存...

1701
来自专栏SDNLAB

ONOS集群管理架构分析

前言: 众所周知,ONOS是一款面向运营商的开源SDN网络操作系统,主要面向服务提供商和企业骨干网等重要的生产环境。为了满足对可靠性、灵活度的需求,ONOS采取...

27110

扫码关注云+社区