Java并发之CAS原理分析

CAS,compare and swap的缩写，中文翻译成比较并交换

在java语言之前，并发就已经广泛存在并在服务器领域得到了大量的应用。所以硬件厂商老早就在芯片中加入了大量直至并发操作的原语，从而在硬件层面提升效率。在intel的CPU中，使用cmpxchg指令。

CAS 操作包含三个操作数 —— 内存位置（V）、预期原值（A）和新值(B)。 如果内存位置的值与预期原值相匹配，那么处理器会自动将该位置值更新为新值 。否则，处理器不做任何操作。

CAS原理

利用CPU的CAS指令，同时借助JNI来完成Java的非阻塞算法。其它原子操作都是利用类似的特性完成的。

整个J.U.C都是建立在CAS之上的，因此对于synchronized阻塞算法，J.U.C在性能上有了很大的提升。

CAS通过调用JNI的代码实现的。JNI:Java Native Interface为JAVA本地调用，允许java调用其他语言。而compareAndSwapInt就是借助C来调用CPU底层指令实现的。

下面是sun.misc.Unsafe类的compareAndSwapInt()方法的源代码：

public final native boolean compareAndSwapInt(Object o, long offset,int expected,int x)

处理器是如何实现原子操作的

处理器自动保证基本内存操作的原子性

首先说明，处理器会自动保证基本的内存操作是原子性的。处理器保证从系统内存中读取或写入一个字节是原子的。意思是，当一个处理器读取一个字节时，其他处理器不能访问这个字节的内存地址。

当然， long和 double类型在32位操作系统中的读写操作不是原子的，因为 long和 double占64位，需要分成2个步骤来处理，在读写时分别拆成2个字节进行读写。因此 long和 double类型的数据在进行计算时需要注意这个问题。

使用总线锁保证原子性

如果多个处理器同时对共享变量进行读改写操作（如：i++）,共享变量就会被多个处理器同时进行操作，这样读改写操作就不是原子的。如图所示：

当多个处理器调度线程时，同时读取主内存中的共享变量，就会造成上面的问题。如果想上述操作是原子的，那么必须保证CPU1读改写共享变量时，CPU2不能做缓存该共享变量的操作。

处理器使用总线锁就是解决这个问题的。总线锁就是使用处理器提供的一个LOCK#信号，当一个处理器在总线上输出此信号时，其他处理器的请求将被阻塞住，那么该处理器可以独占使用共享内存。

java锁机制其实是锁总线。

使用缓存锁保证原子性

总线锁把CPU和内存之间通信锁住，使得锁定期间，其他处理器不能操作其他内存地址的数据，所以总线锁的开销比较大。所以在某些场合使用缓存锁替代总线锁。

缓存锁是指通过锁住CPU缓存，在CPU缓存区实现共享变量的原子性操作。

如果缓存在处理器的缓存行中，内存区域在LOCK操作期间被锁定，当它执行锁操作，回写主内存时，处理器不在总线锁上声言LOCK#信号，而是修改内部内存地址，并允许它的缓存一致性机制来保证操作的原子性。因为缓存一致性机制会阻止同时修改被两个以上处理器缓存的内存区域数据，当其他处理器回写已被锁定的缓存行的数据时会起缓存行无效。

缓存锁使用的是比较并交换策略（Compare And Swap简称CAS），CAS操作需要输入两个数值，一个旧值（期望操作前的值）和一个新值，在操作期间先比较下旧值有没有发生变化，如果没有发生变化，才交换成新值，发生了变化则不交换。

java并发包中的原子类就是使用缓存锁机制。

在两种情况下处理器不会使用缓存锁。

1、当操作的数据不能被缓存在处理器内部，或操作的数据跨多个缓存行（cache line），则处理器会调用总线锁定。

2、有些处理器不支持缓存锁定。

CAS缺点

在Java并发包中有一些并发框架也使用了自旋CAS的方式实现了原子操作，比如：LinkedTransferQueue类的Xfer方法。CAS虽然很高效的解决了原子操作，但是CAS仍然存在三大问题：ABA问题、循环时间长开销大、只能保证一个共享变量的原子操作

什么是ABA问题

因为CAS需要在操作值得时候，检查值有没有发生变化，如果没有发生变化则更新，但是如果一个值原来是A、变成了B、又变成了A，那么使用CAS进行检查时会发现它的值没有发生变化，但实际上却变化了。

1.ABA问题解决方法

1、使用版本号

ABA问题的解决思路是使用版本号，每次变量更新的时候版本号加1，那么A->B->A就会变成1A->2B->3A

2、jdk自带原子变量

从jdk1.5开始，jdk的Atomic包里就提供了一个类AtomicStampedReference来解决ABA问题，这个类中的compareAndSet方法的作用就是首先检查当前引用是否等于预期引用，并且检查当前标志是否等于预期标志，如果全部相等，则以原子方式将该引用和该标志的值更新为指定的新值

/**
 * 如果当前引用等于预期引用并且当前标志等于预期标志
 * 则以原子方式将该引用和该标志的值设置为给定新值
 *
 * @param expectedReference 预期引用值
 * @param newReference 新的引用值
 * @param expectedStamp 预期标记值
 * @param newStamp 新标记值
 * @return {@code true} if successful
*/
public boolean compareAndSet(V   expectedReference,
                                 V   newReference,
                                 int expectedStamp,
                                 int newStamp) {
        Pair<V> current = pair;
        return
        #预期引用==当前引用
            expectedReference == current.reference &&
            #预期标志==当前标志
            expectedStamp == current.stamp &&
            #新引用==当前引用 并且 新标志==当前标志
            ((newReference == current.reference &&
              newStamp == current.stamp) ||
              #原子更新值
             casPair(current, Pair.of(newReference, newStamp)));
}

2.循环时间长开销大

自旋CAS如果长时间不成功，会给CPU带来非常大的执行开销。如果jvm能支持处理器提供的pause指令，那么效率会有一定的提升。pause指令有两个作用：

第一，它可以延迟流水线执行指令（de-pipeline），使CPU不会消耗过多的执行资源，延迟的时间取决于具体实现的版本，在一些处理器上延迟时间是零。

第二，它可以避免在退出循环的时候因内存顺序冲突（Memory Order Violation）而引起CPU流水线被清空（CPU Pipeline Flush），从而提高CPU的执行效率。

3.只能保证一个共享变量的原子操作

当对一个共享变量执行操作时，我们可以使用循环CAS的方式来保证原子操作，但是多个共享变量操作时，循环CAS就无法保证操作的原子性，这个时候就可以用锁。还有一个方法，就是把多个共享变量合并成一个共享变量来操作。比如，有两个共享变量i=2,j=a合并一下ij=2a，然后用CAS来操作ij。从java1.5开始，JDK提供了AtomicReference类来保证引用对象之间的原子性，就可以把多个变量放在一个对象里来进行CAS操作。