专栏首页皮皮鲁的AI星球计算机基础 | 多核、缓存...现代CPU是如何工作的

计算机基础 | 多核、缓存...现代CPU是如何工作的

现代CPU一般使用缓存(Cache)来解决CPU读写主存慢的问题;使用多核来并行计算以加速程序运行。并行计算一般需要多线程技术,如何操作多线程对编程人员提出了挑战。

计算机软硬件体系结构

之前的文章《源代码如何被计算机执行》已经提到,对于一段源代码,计算机主要依靠编译器将源代码转化为CPU可以执行的程序。那么,CPU到底是如何工作的呢?本文将介绍现代CPU的工作原理。

冯·诺依曼架构

冯·诺依曼架构 图片来源:维基百科

1945年,天才科学家冯·诺依曼提出了一种计算机的设实现架构,奠定了现代计算机的理论基础。冯·诺依曼架构主要有几大部分:

  • 包含控制单元和逻辑运算单元的CPU
  • 存储指令和数据的内存
  • 输入和输出设备

下文将简单描述CPU,指令、控制单元等概念。除了冯·诺依曼架构,哈佛架构也是一种计算机的实现方式。现代计算机经过了几十年的飞速发展,集百家之长,很难界定现代计算机到底是冯·诺依曼架构还是哈佛架构,这里暂不赘述。

CPU工作原理

CPU(Central Processing Unit),中文翻译为中央处理器,负责执行用户和操作系统下发的指令。CPU是计算机中最为核心的部分,经常被比作计算机的大脑。CPU只能接受01二进制语言,0和1用来控制高低电位。比如,一个加法运算,在x86处理器上的的二进制代码为:

01001000 00000001 11000011

这样一行代码被称为机器码,它执行了加法操作。除了这样的加法,CPU的电路还要实现很多其他指令,如存取内存数据,进行逻辑判断等。不同厂商的电路设计不同,在电路上所能进行的二进制码不同。某类CPU能支持一种指令集(instruction set architecture)。指令集相当于一种设计图纸,规定了一种CPU架构实现哪些指令。参照指令集,硬件开发人员只需要关心如何设计电路,软件开发人员只关心如何用01机器码实现软件功能。比较常见的指令集有x86、ARM、MIPS、SPARC、Power等。x86和ARM被广泛应用在我们身边的电子产品上,相对比较知名,此外,龙芯实现了MIPS,IBM小型机则采用Power指令集。

单核计算机系统示意图

一个单核CPU的架构包括:

  • Control Unit(CU)起协调管理功能。
  • Arithmetic Logic Unit(ALU)接受控制单元的命令,负责进行加减乘与或非运算。所有数据都存放在寄存器(Register)里。
  • 寄存器以极高的速度与CU和ALU交互,通常小于1纳秒。从寄存器的名字可以看出来,里面的数据是临时寄存的,这些数据和指令会被ALU和CU拿来立即进行计算。如果寄存器没有CPU想要的数据,CPU会去内存或硬盘中读取。
  • CPU通过Bus(总线)读取内存或其他设备的数据。计算机中有多条总线。

我们以一个加法运算来解释上面这些概念。对于一个2 + 2的加法,人类可以直接说出答案,但是换成13234 + 87912,就不得不拿出纸和笔来算一下了。计算机对这两次计算速度没有差别,其本质为半导体电路对两个数字执行加法操作。但与人类不同的是,计算机需要知道两个问题:

  1. 本次所执行的是哪个指令。
  2. 该指令的执行对象是什么。

指令执行过程

因此,控制单元先取指令 Fetch,然后指令译码 Decode解析出要执行什么指令,并确认指令是对哪些数据(操作数 operand)进行操作,并将操作数从主存加载到寄存器中。ALU执行指令 Execute结果写回 Store

存储金字塔

随着技术的发展,计算机的速度瓶颈已经变成了超高速的CPU运算速度与落后的数据读取速度之间的矛盾。CPU计算速度在纳秒级别,但是CPU读取主存的速度竟有百纳秒,CPU进行完计算后,要闲置几十倍的时间,实在是巨大的浪费。综合计算速度、技术水平、生产成本,设计人员给CPU增加了很多中间的缓存层(Cache)。

存储金字塔

CPU的寄存器存取速度极快,但是造价成本太高,发热量大,不能被大量采用。通常,CPU的寄存器只有几KB。L1 Cache和L2 Cache一般设计在CPU上,访问延迟在几纳秒只几十纳秒内,主存的访问延迟在百纳秒内。速度越快,意味着成本越高。所以硬件设计是在现有技术水平、期望计算速度、成本、散热等因素之间所做的trade-off。

多核

当单个CPU主频超过一定范围后,CPU成本和散热成了很大的问题,主频很难突破10GHz。为了获得更快的计算速度和更好的性能,芯片设计者决定绕过主频,采用人海战术,在一块CPU中增加多个核心(Core)。

一个核心是一个可以运行指令的独立单元,它包含了前面所提到的ALU和寄存器,并配备L1和L2 Cache。多个核心共享L3 Cache。

CPU和cache 图片来源:网络

上图中是一个多核处理器的电路图,每个Core旁边的黑色圆圈分别为L1和L2 Cache。可以看到CPU中,各类Cache占用了很大的空间。

多处理器多核结构 图片来源:Intel

高性能服务器通常可以支持多个处理器,提供更多计算核心。支持单个CPU的服务器被称为单路服务器,支持两个CPU的服务器被称为双路服务器,支持四个CPU的服务器被称为四路服务器。上图展示了Intel的四路架构,系统支持四个CPU,假如每块CPU内有8个核心,系统可对外提供32核计算能力。

单线程与多线程

在多核架构出现之前,CPU在某个特定时刻只能执行某个程序,无法并行。就像人在某个时刻只能做一件事情,不可能在唱歌的同时还能吃东西,因为两项活动都要占用嘴。如果要干另一件事,就必须把其中一件事停下来。这种处理计算任务的场景被称为单线程。单线程每次切换任务,会产生一些资源开销。

单核单线程

以网页浏览器为例,浏览器打开一个网页时通常需要下载网页中素材同时也要渲染成美观的画面。在单核场景下,时间被切成了不同的片段,某段时间只能用来做渲染、缓存或下载中的一项任务。每个任务都有优先级,CPU优先执行高优先级的任务。比如,浏览器打开一个新网页时,要第一时间把网页展示出来,背景音乐下载比较慢,可以等网站渲染好后再下载,所以有时候背景音乐会比网页晚半分钟。

多核多线程

多核架构提供给用户多个可以独立计算的核心,这也意味着计算机可以同时并行执行多项任务,即并行计算。某个计算任务在某个核中进行,被称作线程。多个核处理多个任务通常被称为多线程

当多个核心都处理相同任务,极有可能使用同一块数据,就有可能出现数据读写的问题。

线程安全问题

例如,进行i = i + 1操作,如果两个线程短时间内都对变量i加一,变量应该被加了两次。由于两个线程相隔时间太短,加上前面所说的缓存机制,计算的过程和临时结果在了寄存器和L1缓存,还没来得及写到主存上。线程B读到的数据是线程A没写回内存中的数据,这样就出现了数据不一致的情况。这种问题被称为线程安全问题。一般需要使用来处理线程安全问题。

本专栏将在未来的文章中分享多线程编程和线程安全的具体案例。

小结

现代CPU一般使用缓存(Cache)来解决CPU读写主存慢的问题;使用多核来并行计算以加速程序运行。并行计算一般需要多线程技术,如何操作多线程对编程人员提出了挑战。

本文分享自微信公众号 - 皮皮鲁的AI星球(ai-xingqiu)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-07-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • SWA2G422&485JK2G基础篇: STM32+W5500实现MQTT通信控制,485/422透传通信

        如果使用域名连接,则会经过DHCP->DNS->TCP连接->MQTT连接通信

    杨奉武
  • 树莓派与arduino通信

    (2)安装python的GPIO模块,用于控制LED、电机等: wget https://sourceforge.NET/projects/raspberry-...

    似水的流年
  • 环境监控场景的 IoT 物联网开发实战

    MQTT(消息队列遥测传输) 是基于 TCP/IP 协议栈而构建的支持在各方之间异步通信的消息协议。MQTT 在空间和时间上将消息发送者与接收者分离,因此可以在...

    用户1737318
  • 基于Django的电子商务网站开发(连载13)

    小老鼠
  • 基于Django的电子商务网站开发(连载33)

    顾翔老师开发的bugreport2script开源了,希望大家多提建议。文件在https://github.com/xianggu625/bug2testscr...

    小老鼠
  • 基于Django的电子商务网站开发(连载19)

    表3-3为修改用户密码测试用例,在这里我们假设旧密码为“000000”,新密码为“123456”,设计4个测试用例,分别为。

    小老鼠
  • ESP8266 LUA脚本语言开发: 准备工作-LUA开发是怎么来的

    https://www.cnblogs.com/yangfengwu/p/9315841.html    点击查看

    杨奉武
  • ESP8266 AT指令开发(基于STC89C52单片机): 硬件使用说明

      1.如果自己的电脑没有安装CH340(串口模块)驱动,请先安装CH340(串口模块)驱动程序

    杨奉武
  • 配置nginx.conf实现负载均衡

    http   {            include       mime.types;            default_type  applicati...

    似水的流年
  • 基于Django的电子商务网站开发(连载31)

    (2)修改一个当前登录用户已经存在的地址信息,系统应该报“这个地址已经存在!”的错误信息。

    小老鼠

扫码关注云+社区

领取腾讯云代金券