6.什么是CPU缓存L1L2L3？原创

扣个一，我都给你拎出来那张图。可以啊。在我的。能找的出来吗？嗯。嗯，来看看看这个薪水。就当老师扫盲了是吧，来吧。

一到家立马开机上课，不是应该开课上机吗？学完if能听懂吗？完全没问题。字节跳动对出去谈工资一般怎么定位，一般比上家涨个30%-50%。我希望大家伙拿到这个薪水啊。这是字节跳动，也就是TikTok在美国开的工资。当然，人家是个博士，PHD。84万美元，50万的股票，24万的津贴。10万的签字费。啊。希望大家有朝一日拿到这样的一个薪水啦。只要你肯学这行，能给的薪水还是蛮高的。嗯。

只有在上坟的时候才看过这么多钱。其实等别人烧给你这么多钱的时候，也许你就什么都看不到了，你就已经见我们马家门的最后一位牛逼人士马克思同志去了。这是在这儿上出来的吗？然而并不是啊。我们有AI的课，但是达不到博士这种水平。PP8课程教程大概要多久？快的仨月，慢的两年。好的，小兔子。新娘，新娘。考博，其实这个博士呢，是已经有七年的工作经验了。你见过最快的是三个月，Yes？自己二-一的飘过二-一是什么水平，好像听上去比较低的。P8也是要博士学历吗？不是，还有一分钟说的很对，8.05我们准时开球，84万刀，也是打工仔。

100万刀，你在这儿说来说去说风凉话，你也是个人。键盘侠谁都会当。那叫高级工学spring源码，看什么书？跟连老师的spring源码课？一般人都都P7都费劲，肯学P7就没那么难。普通大学刚毕业正常多少工资？普通大学刚毕业，不要在意工资，找更好的更大的企业去做好，我们开始讲技术吧，好不好？聊了半天废话了，来，准备好的同学给老师扣一。嗯。有没有第一次来到课堂的，我简单介绍一下公司跟我自己本人了，有没有？有的话给老师扣个一来。

嗯。反正都是要扣一的好。我就当有人是第一次来，呃，第一次呢，我稍微简单介绍一下。咱们的公司啊。嗯。拿错PPT了。就是这么的帅气。好，呃，第一次来到的小伙伴啊，我稍微介绍一下那个我们公司呢，叫马士兵教育。好，那个我我我我叫马士兵哈，呃。我们呢是编程腾讯课堂的编程类目唯一的一个最受欢迎的课程。这也是站在。

站在站在学员的角度，评了唯一的一个奖啊，我们拿到了，还不错。这是本人大概批了200多遍，好，就不看了，除了我个人之外呢，我们有一大堆的牛逼的老师。我觉得牛逼老师带牛逼学员在这儿呢，我就不一一介绍了。有两位清华的老师，我和周老师都是毕业于清华。有一位北大的博士后卢静罗老师，他是前腾讯的AI的主管，然后呃，在北大的博士后毕业，掌区的CTO好。摆BAT歌的老师在这全有。百度的知道老师，阿里的黄老师，常老师，京东齐老师和程老师，嗯，阿里还有一位那个那个那个呃，徐老师，然后腾讯的罗老师，那么。海江老师呢，是原来前掌去做游戏月流水过千万的，呃，我们的小姐姐呢，是留学北美的博士，来教大家英语的一些方面的课程。

嗯，呃，叫带我们算法课程的老师呢，呃，此人姓左名左。左左冷禅，没有啊，开个玩笑啊，左成云。左左老师呢，是IBM100度、Amazon都待过，算法教学呢，已经做过六年了，带的学生进到头条、BAT、勾TMDP的非常的多，这位老师是那个左老师的助手Tom cat老师。这，这位老师比较严厉啊，我一般都懒得介绍他。曹鹏飞，曹老师是原来阿里的老师，他是一位阿里的一线的开发人员，然后呢，被我拉过来，来给大家专门讲课。呃，就是这位老师，Here。他，嗯，这是我们的曹鹏飞曹老师啊。目前在我们网约车第三版。呃，李亮李老师呢，是我们的，呃，运维的老师，也是我们私有云的搭建者，呃，我们最近有一个私有云的平台已经上线了。

正在搭建之中吧，也不能说完全伤心。嗯。呃，就是来给学员们开放我们自己的一个私有云，这个私有云呢，就是你你你你你可以创建你自己的云主机，呃，因为好多人呢，在做实验的时候，比方说几十台服务器这样的一个这样的一种一种实验环境，他实际上他在自己的机器上怎么搭都搭不出来，那这时候怎么办呢？在云上，在云上帮你搭。呃，你创建好了之后。我就不给你不带你创建了，创建好了之后呢，直接就从远程的那个shell上就可以执行任何操作了。我看看我我有没有权限运维的产品，互动模板机的通用性。

一停止。还都不的说稳定。盘是陈道，而是内网。MY，这是我们搭建P8的时候的一些建设的机器啊。呃，这个呢，是主要由李亮李老师带着他的团队来帮咱们搭建这套东西。嗯，测试这边的老师呢，姓陈，叫陈记。这个大家在网上一搜就知道，他是原阿里的老师，也是现在为阿里提供测试的解决方案的老师。黄建华老师呢，是前阿里的老师，前美团的老师，他呢24岁，从美团离职的时候，差不多是百万左右的年薪，呃，我觉得我请老师呢，我是想请给大家请到最牛逼的老师，好吧，不仅技术牛逼，而且还能表述出来，而且呢还能有给大家的一种激励的这种机制才更好，所以呢，在这边请的老师呢，都不是那种泛泛之辈。嗯，也希望大家伙能跟上他们的步伐。

嗯。呃，京东的呢，有咱们的孙老师，他带完咱们的she的课了，呃，为什么普通普普通通的一个she，我要请京东老师来讲，其实非常简单，就是我想呢，让大家伙理解，呃，Shero像这一类的东西在真正的大厂里头是怎么运用的啊，这个非常的重要，目前呢，孙老师正在在activity的课程。呃，阿里的我们PC的程老师给咱们带过Kim的课程已经上线了，Kim呢是我昨天讲过的一个概念，就是携程在Java里面的一个实现。我还有很多学生也是很牛逼的，其实啊，但是呢，他们不是非常的方便出来讲课，那这时候怎么办呢？做我们的课程顾问。从P6到P10，咱们的课程顾问全都有，因此大家伙在工作之中遇到了什么各种各样的不知道的解决方案啊，找我们问就行了，留给老师就可以。我们呢是位于北京市海淀区的文教产业园，A117等疫情过去之后，欢迎大家在周末的时候参加我们的线下沙龙。

了，OK，公司呢，我就介绍完了，我们开始今天的内容，好吧，好，可以开始了吗？啊，可以开始的话来扣个一开始啊。嗯。好，今天呢，是我们高薪养成计划的第二天，呃，我今天主要给大家介绍这么几个概念。呃，CPU的内存缓存，什么叫缓存行，缓存一致性协议for sharing和它的编程技巧，CPU的乱序执行的概念，乱序执行我向你证明DC为什么不能使用，不能不能乱续。

那么VO如何阻止乱续？内存屏障是什么概念？为什么lock at l指令能实现VO2个作用？最后一道题，关于线程池的面试题呢？我们看时间，时间如果不够的话呢，今天可能讲不了。呃，看时间吧，好不好，放轻松了啊，放轻松了听，呃，今天知识呢很好玩，也是很多面试官呢特别喜欢问的问题，我们一点点来聊这件事好吧。好了，我们开始啊，首先呢，我们来聊一聊呢，就是作为计算机来讲，它的一个最基本的这种结构，其实昨天呢，我讲过这张图了，由于有有小同学呢，可能是今天第一次过来，我稍微的再给大家复习复习，作为计算机来说，最核心的两个组件，一个叫CPU，一个叫内存，我们的一个程序静悄悄的躺在硬盘上，qq.exe。当你想让它运行的时候，你双击它，哎本它就跑，跑到内存里分配了一块空间，分配一块内存的空间给它，分配好它相应的资源，然后开始运行。

进程，这就是一个进程，进程的是我们资源调配，调配的基本单位，真正开始运行的时候是线程是吧？哎，线程呢，是程序开始运行的基本单位，真正开始运行的时候什么样呢？就是在我们内存里头呢，有指令，有数据通过总线传到我们CPU。数据会存到我们的register里面，指令的位置会放在我们的PC里面，然后开始计算结果，计算好的结果返回到内存里去，这就是整个程序的一步一步的执行过程。当然这里面呢，有一个很重要的一个点，就是他们两个的速度不一致。CPU的速度比内存速度大概要快100倍。这边跑了100步了，这边只走出来一步。所以就会产生了一个。

什么样的一个一个一种情况呢？你们可以想象一下。CPU这边呢，做了个计算，然后下一步要去内存里头拿个数据。结果呢，他就得等99个空的时钟周期，就得跟那儿等着，傻等着它速度太快了，内存速度跟不上它。为了提升这个效率，实际中工业之中是怎么做的呢？实际工作工业之中呢，是在CPU和内存之间，多了很多很多的县城，Sorry，多了很多很多的。缓缓啊，缓冲区缓存。好，看这里。这是现代工业的计算机里头呢，关于呃，缓存这块的一个一个最基本的结构，这个结构呢，是深入音乐计算机系统第三版的第421页的一个图，我就直接把它画在了PPT上，大家理解就行。作为速度最快的单元，叫做寄存器。

当然速度最快的单元其实呢，是我们的a Lu，就是呃计计算单元，计算单元要去访问这里面数据的时候，速度最快。然后访问主存内存的时候速度比较慢，大概是慢100倍。为了提升速度，在它们中间加了一系列的缓存。这个缓存目前。根据工业实践得出来的最好的结果就是三层。有同学老老师问我，老师，为什么不是四层，为什么不是五层？为什么不是两层，为什么不是一层？好了，这是跟工业实践之中测试得出来的结果，你记着这个就行了。就是三层，目前用的最多的就是三层。嗯。缓存的最基本的概念，应该不需要我讲吧？我觉得应该是不需要啊，缓存的话呢，就是那个用到的数据最快的放在我们最近，离离我们最近的位置。呃，原来呢，曾经有这样的一个测算，从CN计算单元Lu ru到寄存器访问一个数据的话，它大概是小于一个纳秒。

访问，访问我们的LY，也就是我们的一级缓存。它大概是一个纳秒访问，二级缓存大概是三个纳秒访问，三级缓存大概15个纳秒，访问的主存的时候大概是80个纳秒，它们之间呢，大概从从从最头的这开始到最后，这大概是100 : 1的一个关系。那好。在这呢，我给大家讲一点非常基本的一些小小的概念啊，呃，以前有同学老总是不理解，说老师这个L3在哪里啊，L2在哪里啊，L one在哪里啊，就是呃，L1在哪里啊等等，听我说。大家看这个图。你大概就能理解，那么每一个缓存到底在什么位置，每个缓冲区啊，缓存到底在什么位置。这是我们的主内存。读一个数据的时候。去ARU需要计算，需要一个数据，这个数据在这儿。

他会首先去哪里取，取，从L里面去取，如果没有到l two里面找，如果l two没有到LV里面找，如果说这没有到我们的主存里面去找。它是一级一级这么找出来找下来的。从物理结构上来讲，LY和l two位于一个CPU核的内部。当然有的，一颗CPU里面有好几个核，比如说这颗CPU，这一颗CPU整个的它里面有两个核。那么每一个核都有自己的L缓冲区和l two缓冲区。所有的核共享一个l three，也就是说每颗CPU里面有一个三级缓存。第三级。不知道大家能不能看清楚。来这块没有疑问。同学老师扣一。嗯，很简单。OK。

那现在问题就来了，当我们读数据的时候，从内存里头读数据，我们来分析一下。从内存里头读一个数据的时候，我可以按照一位一位的来读，就只有一个位，一个比特。也可以按照一个字节来读，也可以按照一大块儿来读好，我们读的时候到底怎么读呢？是用到了一位的时候，我就把这only一个小位，一小位就读到缓存，然后这小位再读到缓存，这小位再读到缓存，是这样的吗？并不是。它是按照一定的长度来的，一定的块儿来的。他读的时候是从内存里头，比方说我只用到了这一个数据。我并没有用到其他的数据，但是我会把一整块儿都放到。二三里面。都放到L2里面，都放到L1里面，它是按照一块一块来读的。有同学说，老师，为什么呀，为什么我不能用一点，我就读一点不行吗？这个程序呢，有两个原理，程序运行的时候两个原理，这两个原理呢，一个叫时间局部性。

这个稍微的学术一点啊，大家大概一听就行，这两个原理呢，一个叫做时间的局部性原理。一个叫做空间的局部性原理。所谓时间局部性原理指的是什么呢？当我执行完这条指令的时候，挨着它的指令很快就会被执行到。空间局部性原理指的是什么？当我读到这个数据的时候，挨着它的数据很快被执行到，如果你这个想象不到的话，你可以想象一下这有一个数组，我们对数组做一个循环。同学们，你们想象一下这个数组的循环，是不是我循环完第一个，马上循环第二个，循环第三个，循环第四个？所以你们想象一下，如果说我每次只拿一个数据过来。我下次再拿第二个数据的时候，我还要从内存里头找一遍，放到我们缓存，放到缓存，放到缓存，反而这个效率会变低。我还不如直接去内存拿一次，慢慢拿过来，你还要填充中间的缓存。

所以这个肯定不合适。因此。空间，根据空间局部性原理，每一次拿数据的时候最好是成块的拿过来。好，这个问题不知道我说清楚没有。也是按块读取。根据程序的局部性原理，可以提高效率啊，同时呢，充分发挥总线CPU针脚一次性读取更多数据的能力。他一个针脚一次性只能读一位，他64个针脚，他就读64位。连着读好几次就能读好多个字节，这个应该没问题啊，很简单，那现在问题就来了，那这一块到底是多大呢？这一块到底是多大？好听我说。这一块呢。目前先说结论。目前一块的大小大概是64个字节，请大家把这结论给我记住，也很简单，64个字节。

有同学又开始抬杠，说，老师，为什么64个？为什么不是128，为什么不是两个？为什么不是三个？这里面依然是工业实践得出来的折中指。啥意思呢？就是在实践之中，人们发现缓存行你可以定的非常大，你一次性把内存一半全读过来，那才爽呢。但是你读取的时间，读这一下的话，读取的时间比较慢。另外呢，你也盛不开那么大个，你的缓存如果能撑开整个内存一半的话，那你干脆就不要内存，直接全用缓存就行了，所以缓存方越大，有它的优势，也有它的劣势，缓存行越小呢，缓存行越小，你一次性性性读俩数据过来，那速度是很快，但是你马上要取另外两个数据的时候，你又得读一遍。所以也有它的优势，也有它的劣势。那么怎么办呢？人们在工业时间之中发现，64个字节对目前的计算机结构来说比较合适。

所以得出这个结论。好了。这里就是64个字节的来历。那好，我们稍微回顾一下，这是一个什么概念呢？我刚刚解释了，其实就是一个按块读取的概念。由于计算单元和寄存器和我们的内存之间。它的那个速度差非常的大，因此在中间填写填了很多很多的这种。缓存缓冲区，这个缓冲区我要在读取一个数据的时候，比如说我计算单元要想读取某一块里面的这个X。我这个我这个CPU，这颗CPU要想去读这个X，我都说怎么读呢，我会优先去我的离我最近的缓存里面找有没有啊，没有没有，这儿有没有没有这儿有没有没有没有怎么办，存内存。读过来。读过来读过来，好，这时候我开始使用这个X开始做计算，那虽然我没有用到Y，但是由于X和Y位于同一个缓存行。

所以我会一次性的把这个缓存行全都拿过来。OK，这是缓存行的概念，同时这一小块有一个专业名词啊，就叫做line，叫做缓存行。这就是缓存行的最基本概念啊，所以缓存行就是一小块一小块，就这么个东西，记住这点就行。好。那如果我另外一个CPU要是用到里面的Y呢？同学们，你们想一下，我要用到同一个缓存行里面的Y呢？怎么办？他会去L3里面，他发现这个缓存行已经在L3了，他还用去内存里面读吗？不需要，他直接从L3里面宽机拿过来就行了，换机拿过来他就可以用Y了。OK，我讲到现在为止关于缓存行的概念。大家是不是清楚了。来，可以继续的给老师扣一。

大家记得这个图。好，那下面呢，我们来聊一聊，有同学说了，老师，这个缓存行真的存在吗？大家看这里啊，我给大家调个小程序。Talk show me the code是吧，总是也得看点，呃，因看看点代码。呃。Fish sharing。嗯。好的家看这里代码比较多，我找一下啊，就在这。OK，我们来读个小程序，在这小程序里面呢，我们来观察一下，呃，缓存行的概念，有同学说老师这个能观察出来。

可以观察。在这里有一个特别好玩的程序，呃，写写，看看大家能不能理解是什么意思啊。嗯。在这呢，我有第一个小程序，这个小程序呢，先给大家一点点时间，你大概大概读一下十秒钟15秒，你大概读一下，我给你解释解释。注意啊，我要求大家脑子里先存着一个概念。每一行。每一个缓存行是多大来着？还记得吗？64个字节对吧。接着这个概念，每一缓存好像是64个字节。嗯。好，再看这里。我的小程序呢，干了这么一件事，首先呢，我定义了一个类，这个类叫T，这个类里面只有一个成员变量是一个long类型的，它是一个X。

呃，我问大家一句话啊，这个浪类型的，它是呃多占多少个字节，这个这个大家知道吗。Long类型的数据占多少个字节呢？八个。OK，这是八字节。再提醒一遍，我们的缓存行是多少个字节？64个字节。一行数据可以装八个long。我定义了一个T类型的数组，这个数组只有两个元素。然后我把这两个元素初始化。瑞零等于6T21等于6T。内存之中呢，你可以想象一下啊，就是一个数组。这里面装了一个2020里面有个X21里面有个有个X。然后我干一件什么事呢？我干了这么一件事，我起了两个县城，第一个县城。他。

修改A0看到了吗？A0，点S等于I，修改了多少次呢？I小于count count是1亿次。那么也就是说我第一个线程是修改零，里面这个X修改了1亿次。第二个线程。修改一的X修改了。一一次。你先别着急啊，你先听我讲，我们先，然后再来看最后的这个这个这个这个结论，嗯，看这里。我先把这程序跑一下，这个程序最终计算的一个结果值是什么，其实就是计算这个结果呢，整个程序跑完之后，大概消耗的时间是多少。跑一下。1501，哎，怎么这么快，我得换机器了之后啊。1501啊，大家记着一点。15011秒五，嗯。

好，这是第一个小程序，这个小程序大家应该能消化吧。我们来看第二个小程序。第二个小程序是什么？第二个小程序我别的地儿都没变。依然是两个线程，每个线程改零的X11次。但是呢，我重新定义了这个class，这个T，我们来比较一下这个定义啊，定义有区别，注意看。这是我第一个程序的定义。这是我第二个程序的定义，大家比较一下。这是第二个。第二个里头呢，依然是这个T，但是呢，我除了这个X之外呢，我前面定义了七个 longp1到P7。后面定义了七个long p9到P15。别的什么都没变。看这里我们来看它的执行时间跑一下。432。

哎，刚才是多少来着。1501。这是多少？432。What，发生了什么？大家想想看，能理解这件事儿吗？为什么我在这个地儿前面填充了八个long之后，后面填充了八个long之后，它的执行时间居然比上一个。快了这么多，太多了。为啥？我们来分析一下这个这个效果，你仔细听。看这里，依然看这张图。这张图看起来比较直观一些。我们现在假设刚才。第一个程序，这是那个X，这是这也是那个X，你把它当成Y什么的，没关系啊，总而言之呢，这哥俩非常有可能位于同一行里头。好，位于同一行里头，就会发生一件什么样的事儿呢？就会发生这么一件事。

如果你位于同一行。那么。当我的计算机第一科CPU修改完这个X之后。根据我们要保持数据一致性来说。数据的一致性。我这边这一行数据发生了改变。现在的CPU呢，都支持叫缓存一致性协议，所谓的缓存一致性就是缓存行这个数据一定要保持一致，我这边这个数据这个这行的数据改了。哥们，你另外一颗CPU啊。得去内存里头重新拿一遍我改过的数据。那么就会发生这样一种情形。第一个CPU改完X马上。