【新特性视频第2期】关于IMEU与Expression Statistics Store

新特性5分钟,带你循序渐进了解Oracle 12.2的最新特性。优秀就是每天进步一点点。

上一期视频回顾:

【视频】In Memory的内部结构和实现机制

{ 今日主题 }

IMEU与Expression Statistics Store

Oracle 12c 中提出了In Memory 的新特性,将行数据转化为列式存储数据,能够在很大程度上提升查询分析类的业务的性能。在IM存储中,有一个重要的组成部分是IMEU,用于存储数据库常用的表达式。本期视频课程主要讲解IMEU中的表达式的来源,工作机制及管理维护。作者将以最简单明了的方式带你了解神秘的Oracle 12.2.

知识点补充

ESS简介

Expression Statistics Store (ESS)是Oracle数据库中优化器用于存储表达式评估的统计信息的存储库。它不仅保留在SGA中,同时固定在磁盘上。

ESS是数据库的固定且永久的组件,不能被禁用。它跟IN-MEMORY是独立的,并没有直接关联。无论系统有没有配置In-Memory存储,ESS都会正常地运行。

ESS工作原理

ESS的主要作用是确定一个表达式是不是足够“hot”(被评选为hot的表达式就是我们所说的In Memory Expressions)。 在数据库进行硬解析的时候,ESS会获取SQL语句的Select语句,where语句,group by语句中使用的表达式并做评估。

如下图所示,在SQL语句中,employees这张表上使用了表达式,优化器会自动收集表达式相关的统计信息,存在一张表里面形成存储库,并对其中的表达式进行各种指标的评估。

评估的内容包含:

1、表达式执行的频率

2、表达式的开销

3、时间戳的评估

优化器会根据开销和执行次数等信息的评估为每一条表达式打分,相当于权重,这个权重并不是非常精确的,而是近似的。通常越活跃的表达式,其分值就越高。这些评分结果ESS会在内部通过一张列表进行统计。

在ESS中被评估为hot的表达式,会作为填充到IMEU中的候选表达式,但系统真正决定哪些表达式会被填充到IMEU当中,事实上是通过DBMS_INMEMORY_ADMIN的包来控制的。

IMEU的填充

如果在系统中配置了IN-MEMORY存储,系统会将部分热度最高的表达式填充到IMEU中,从而提供更高效的访问。

数据库通过DBMS_INMEMORY_ADMIN包可以控制IM表达式的行为。在这个包中有很多个存储过程,分别实现不同的功能。

(事实上,DBMS_INMEMORY_ADMIN包除了控制IM Expression之外,还负责管理IM FastStart区。这部分我们后面再详细描述。)

其中最主要的两个存储过程如下:

1、存储过程IME_CAPTURE_EXPRESSIONS提示数据库识别并逐渐填充数据库中最热的表达式

2、存储过程IME_POPULATE_EXPRESSIONS强制数据库立即填充表达式。

填充过程如下图所示:

在系统调用IME_CAPTURE_EXPRESSIONS存储过程的时候,就会访问SGA中的ESS,并捕获指定时间段内的访问热度最高的前20个表达式,将其填充到IMEU中,并创建SYS_IME的虚拟列。

时间段可以选择过去24个小时以内的,或者从数据库创建后的任意时间段。一般系统选择的原则是,该表达式设计到的对象至少有部分被填充到了IM Store当中了。也就是对象是满足IN-MEMORY属性的。

如果在上一次调用中,某个处于前20个热度最高的表达式的列表中的项,在这次的调用中并不存在,那么该列的属性将会被设置为No inmemory,这些被标记为No inmemory属性的表达式,会在下次重构的时候被踢出来。

将ESS中热度最高的表达式填充到IMEU需要满足几个条件:

1、初始化参数INMEMORY_EXPRESSIONS_USAGE的值不为 DISABLE。

INMEMORY_EXPRESSIONS_USAGE参数的值有以下四个:

  1. ENABLE - 默认设置,会将动态和静态的IM Expression都填充到到列存储中。
  2. DISABLE - 不进行填充。此时调用IME_CAPTURE_EXPRESSIONS存储过程的时候是不生效的。
  3. STATIC_ONLY - 只填充静态的IM Expression,也就是允许在IM列上存储二进制的JSON对象。在系统内部,二进制的JSON对象被存储为名SYS_IME_OSON的虚拟列;
  4. DYNAMIC_ONLY - 只填充使用频率更高的或被系统标记为'hot'的表达式,在调用IME_CAPTURE_EXPRESSIONS存储过程的时候会自动进行填充。

2、初始化参数INMEMORY_SIZE设置为非0.

3、初始化参数COMPATIBLE必须设置为12.2.0或者更高的值。

COMPATIBLE参数的作用是,当使用较高版本的Oracle时,如果因为特殊需求需要开启旧版本的某些功能,就可以通过将该参数的值调整到合适的版本。默认值是跟数据库当前的版本一致的。

作者简介

孙雪 云和恩墨技术顾问

主讲课程:

Oracle 12.2体系架构及新特性系列视频课程

RAC系列视频课程

视频内容

原文发布于微信公众号 - 数据和云(OraNews)

原文发表时间:2017-09-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数值分析与有限元编程

Python IDLE关联.py文件

为进一步提升Python IDLE可操作性,本文介绍如何在windows操作系统下默认使用python自带的IDLE编辑器关联后缀名为.py的文件。

4091
来自专栏牛客网

字节跳动面经

只能自己给自己鼓励,不能总是按别人说的去做。有时,你甚至连为什么要这样做都分不清楚,任何的责任都可以让人振奋。但是,荣誉,那才是让你决定做还是不做一件事的原因。...

3221
来自专栏FreeBuf

基于时延的盲道研究:受限环境下的内容回传信道

在一次漏洞赏金活动中,挖到个命令注入的洞,我先以时延作为证明向厂商提交该漏洞,厂商以国内网络环境差为由(的确得翻墙)拒收,几次沟通,告知若我能取回指定文件 se...

1295
来自专栏一个会写诗的程序员的博客

程序的基本概念

程序的基本概念 1.1. 程序和编程语言 程序(Program)告诉计算机应如何完成一个计算任务,这里的计算可以是数学运算,比如解方程,也可以是符号运算,比...

852
来自专栏大数据和云计算技术

伸手党福利-从零开始玩转图库

tinkerpop是一个图库标准,一个框架,学习图库,先从这个项目入手比较合适, neo4j, janusGraph只是它两个组件(图storage-engin...

6603
来自专栏Python中文社区

一个Pythoner的自我修养系列(一)

一个Pythoner的自我修养系列是Python中文社区网友的投稿文章,欢迎大家踊跃投稿,文章主要内容为您在工作中、学习中碰到的Python难题、心得...

2059
来自专栏java思维导图

值得收藏!Redis五大数据类型应用场景(二)

Redis开创了一种新的数据存储思路,使用Redis,我们不用在面对功能单调的数据库时,把精力放在如何把大象放进冰箱这样的问题上,而是利用Redis灵活多变的数...

1332
来自专栏JackieZheng

Nutch源码阅读进程3---fetch

走了一遍Inject和Generate,基本了解了nutch在执行爬取前的一些前期预热工作,包括url的过滤、规则化、分值计算以及其与mapreduce的联系紧...

2215
来自专栏Java编程技术

UML建模图实战笔记(全)

UML:Unified Modeling Language(统一建模语言),使用UML进行建模的作用有哪些那:

1293
来自专栏机器学习实践二三事

Numpy使用1

Numpy介绍 NumPy is the fundamental package for scientific computing with Python. I...

1939

扫码关注云+社区