图解Cache | 一个月代码白写了
我是cloud3
本文是图解系列之Cache
谈起高速缓存大家肯定了解
不了解也很正常
因为它设计在CPU里
一般你不能直观的接触它
但是今天说些它和我们紧密相关的事情
就是CPU Cache对写代码的影响
首先看几个例子
A:
B:
那么cache是如何影响这2段code的呢？
根据Cache局部性和连续性原则：A例子中当访问第一个访问变量时，会发生一次cacache miss，此时CPU会把后面连续的一段内存load到cache line中，继续往下执行会一直cache hit，直到访问到cache line的结尾再次cacache miss，然后再次一直cache hit，由此往复到完毕。
总结起来这种写法cache命中率很高。
B例子中变量是跳跃的访问的，在cache比较小时，cache命中率极低。
用一个极端的图来感受一下两者的区别：
A:
B:
结果也是符合我们预期的：
运算时间后者是前者的1.8倍。
另一个例子
A:
B:
A中对同一个变量，一个线程写，一个线程读，因为两个线程调度在不同的CPU上，硬件会有大量cache同步动作。
B中两个线程读写的是不同的变量，就没有硬件cache同步开销。
结果也是符合我们预期的:
运算时间前者是后者的1.5倍。
发散
还有很多例子，在此再说一个比较常用的。
#define CACHE_LINE 32
struct S1 {int a, b, c, d;} __attribute__ ((aligned(CACHE_LINE)));上面这段声明是使用数据对齐支持来优化缓存行的使用。
这种方法是将经常一起使用到的小对象放到一个结构体中，并强制使用缓存行大小对齐。
这样可以有效地保证每个小对象被访问时其他小对象也同时被load到缓存中，从而产生显著的性能优势。否则可能这些变量会落到不同的cache line中，降低命中率。
上述数据对齐提高cache命中率在windows下有类似的方式:
#define CACHE_LINE 32
__declspec(align(CACHE_LINE)) struct S1 {int a, b, c, d;};通过以这种方式声明变量，编译器可确保变量分配在同一缓存行上。
关于理解Cache对写代码的重要性本文就讨论到这里。
如果感觉有用，记得点个赞】。
我是cloud3
本文是图解系列之Cache