处理器的乱序执行

前面介绍了乱序的概念及去相关,这里开始介绍处理器的乱序执行结构。

1. Buffer的作用去耦合

在顺序执行内核中,指令依次流经各个流水线单元,不需要进行缓存,而为了要能乱序执行,首先需要一个Buffer来缓存还没有执行的指令,然后在这个 Buffer中去调度指令的执行顺序。乱序执行内核的基本模型如下:

现代处理器中有大量的 Buffer,Buffer也广泛应用在其他技术领域及生活领域中,就拿电冰箱来说,电冰箱除了冷冻的功能外,它实际上也是个 Buffer,我们把买来的东西放进去,要吃时,再从里面拿。 Buffer有两大功能:

  1. 去耦合;
  2. 抗波动;

如果没有电冰箱,每次我们想吃东西时,都要去超市,用专业术语来讲,这就是耦合性太强了,如果超市关门了怎么办?如果超市太远了怎么办?有了电冰箱后,从超市买的食物就放在电冰箱中,我们就直接从电冰箱中取食物,而不需要关注超市的状况了。电冰箱去除了人和超市的耦合。 正常情况下,我们是每天买每天的食物,不过有时候,我们知道明天会有事情,没有时间买食物,因此今天就把今、明两天的食物都买了,这样明天就不会饿肚子了,这就是电冰箱的抗波动功能。

在上面的图中,粗线条表示东西多,细线条表示东西少,有时候买的多,有时候买的少,有时候吃的多,有时候吃的少,电冰箱的进和出都会存在一定的波动,电冰箱起到了抗波动功能,保证了我们在想吃时都有东西吃。

2.指令调度

在前面乱序设置陷阱的例子中,如果没有那个聪明的士兵,乱序也就无从谈起。同样,处理器的乱序执行内核也需要一个调度器,分析指令间的相关性,分析指令什么时候能开始执行。 指令什么时候能开始执行呢? 对于一条指令来说,它有操作码和操作数,操作码描述指令要做什么,处理器会安排个功能单元( function unit)去执行它。操作数描述指令要处理什么数据,经过寄存器重命名后,目的寄存器总是新的,因此只需要关注源操作数是否准备好即可。所以,指令能否开始执行,依赖于两个条件:

(1) 是否有空闲的功能单元去执行这条指令。

(2) 该指令的源操作数是否已经准备好。

只要满足这两条要求,指令就可以去执行,而不需要等待前面的指令完成。这样处理器就完成了乱序调度及并行调度。 以前面经过寄存器重命名的指令为例,

处理器会记录指令源操作数的准备状态,当指令1完成后,处理器会通知所有依赖F5的指令,F5已经准备好了,指令2需要的两个源操作数F5和F2都已准备好,它就可以被发送到指令的执行队列中去执行。同样,指令3也可以准备执行,如果处理器中有多个加法单元,指令2和指令3就可以同时执行。指令2完成后,F6也准备好了,指令4就可以去执行,指令4执行完后,F8就准备好了,F5早就准备好了,指令5就可以去执行。 在这个调度的例子中,5条指令4个 Cycle就可以完成,而使用顺序内核,则需要5个 Cycle。 处理器内部需要一个Buffer来缓存指令,以供乱序调度,这个Buffer就是保留站( Reservation station),完成寄存器重命名后的指令被放置在保留站中,等到操作数和功能单元都准备好时,保留站中的指令就能被分派出去执行。

3.指令的顺序提交

在指令的执行过程中,通常会有中断和异常产生,如在下面的这个例子中,

XOR指令执行完后,来了一个中断,中断处理一般都是将处理器的ISA寄存器压栈执行中断服务程序,然后再退回来执行中断后面的指令。精确中断( Precise Interrupt)要求中断前的指令都执行,中断后的指令都没有执行,而在乱序执行内核中,MOV、INC指令有可能提前到XOR前面执行,那么怎么来实现精确中断呢? 解决方法就是:在指令乱序执行之后,再加一个步骤:指令顺序提交(In- order commit)。乱序执行后,指令的结果虽然出来了,但是这个结果并没有立即提交到ISA寄存器中,而是先缓存起来,只有当前指令前面的指令提交后,这条指令才能提交。 指令的顺序提交也能解决投机执行出错的问题,如下图所示:

分支预测单元预测到JNZ跳转到XOR处执行,乱序执行让XOR指令在ADD前面执行,不过天有不测风云,处理器执行到JNZ时,发现分支预测单元预测错了,实际上应该执行的是MOV这个分支,使用顺序提交策略,JNz后面指令的结果都没有提交,可以直接抛弃,重新开始执行MOV这条路径即可。 为了实现指令的顺序提交,处理器内部使用了一个Buffer,叫做重排序缓冲区(ROB Re-order Buffer),多数的学术文章都叫这个名字,龙芯把这个 buffer叫做 Reorder Queue,简称ROQ(总要有所区别嘛)。

每条完成寄存器重命名的指令都要送到ROB中,ROB中的指令按照初始顺序存放,指令经乱序执行后,只是修改了处理器内部的物理寄存器,并没有修改处理器的ISA寄存器(汇编指令能看到的寄存器),指令在提交时,按照ROB中的顺序,顺序地修改处理器的ISA寄存器。

4. 乱序执行总结

简单来说,指令在乱序执行内核中的处理过程可分为3个步骤:

下图为乱序执行内核的基本结构图:

取指、译码、分支预测和顺序执行内核一样,译码后,指令经过寄存器重命名,去除伪相关,然后进入指令分派模块,指令分派模块决定什么时候将指令分派到什么执行单元去执行。指令同时会进入指令提交单元,它记录了指令的原始顺序,用于指令的顺序提交,同时它会将分支指令的实际执行信息更新到分支预测单元。 乱序执行比顺序执行需要耗费更多的处理器资源,通常只有髙端处理器才会使用。最近, ARM Cortex-A9也引入了高端处理器常用的乱序执行( Out-of-Order Execution)和投机执行( Speculative Execution)。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Java技术栈

强悍!Java 9 中的9个新特性

来源:www.oschina.net/translate/java-9-new-features ? 你可能已经听说过 Java 9 的模块系统,但是这个新版本...

3158
来自专栏Jerry的SAP技术分享

如何证明CRM WebClient UI上的应用是有状态(Stateful)的

随便找一个在CRM WebClient UI里会被频繁调用到的函数,在函数里创建一个隐式增强,打印当前的会话ID。

3345
来自专栏FreeBuf

Java反序列化漏洞从理解到实践

一、前言 在学习新事物时,我们需要不断提醒自己一点:纸上得来终觉浅,绝知此事要躬行。这也是为什么我们在学到知识后要付诸实践的原因所在。在本文中,我们会深入分析大...

24610
来自专栏腾讯移动品质中心TMQ的专栏

运用AOP思想更优雅地进行性能调优

在软件测试中,如果想在一个耗时严重的操作中找出其耗时的瓶颈时,一般采用的方法是在每个被调用的函数中写进测试代码,在运行时打出日志。如果该操作涉及到的业务逻辑特别...

1789
来自专栏HansBug's Lab

【技巧】Java工程中的Debug信息分级输出接口及部署模式

UPDATE: 2018.4.4 笔者将考虑将这一模块封装成一个完整的java第三方包并可能进行开源放送,完成后将会再次发布最新消息,敬请期待。 -------...

3756
来自专栏技术博文

关于redis的keys命令的性能问题

KEYS pattern 查找所有符合给定模式 pattern 的 key 。 KEYS * 匹配数据库中所有 key 。 KEYS h?llo 匹配 hell...

4038
来自专栏刺客博客

PHP实现利用API获取IP所在城市

2254
来自专栏一个会写诗的程序员的博客

Java 9 新特性 极简介绍

Java 9 的定义功能是一套全新的模块系统。当代码库越来越大,创建复杂,盘根错节的“意大利面条式代码”的几率呈指数级的增长。这时候就得面对两个基础的问题: 很...

472
来自专栏IT派

Python 3.7:数据类的介绍

Python3.7预计在今年夏天发布,让我们一起偷瞄一眼它带来的新功能吧!如果你经常一个人在家用Pycharm撸代码,请确保将你的Pycharm...

1112
来自专栏SDNLAB

Ryu的一些设计方法解读

作为一个业余研究Ryu的软件工程师,一直惊叹于Ryu设计的优雅与简洁。一年多坚持下来,也有自己的一些收获,写出来和大家分享一下。 我们的故事从@set_ev_c...

2876

扫码关注云+社区