第十三章线程安全与锁优化

13.1 概述

在软件业发展的初期，程序编写都是以算法为核心的，程序员会把数据和过程分别作为独立的部分来考虑，数据代表问题空间中的客体，程序代码则用于处理这些数据，这种思维方式直接站在计算机的角度去抽象问题和解决问题，称为面向过程的编程思想。

与此相对的是，面向对象的编程思想是站在现实世界的角度去抽象和解决问题，它把数据和行为都看做是对象的一部分，这样可以让程序员能以符合现实世界的思维方式来编写和组织程序。

13.2 线程安全

Brian Goetz 对“线程安全”有一个比较恰当的定义：：“ 当多个线程访问一个对象时，如果不用考虑这些线程在运行时环境下的调度和交替执行，也不需要进行额外的同步，或者在调用方进行任何其他的协调操作，调用这个对象的行为都可以获得正确的结果，那这个对象是线程安全的”。

Java 语言中的线程安全

将Java 语言中各种操作共享的数据分为以下5 类：不可变、绝对线程安全、相对线程安全、线程兼容和线程对立。

1）不可变

在 Java 语言中，不可变（Immutable）的对象一定是线程安全的，无论是对象的方法实现还是方法的调用者，都不需要再采取任何的线程安全保障措施，“不可变”带来的安全性是最简单和最纯粹的。
- 共享数据是一个基本数据类型，那么只要在定义时使用 final 关键字修饰它就可以保证它是不可变的。
- 共享数据是一个对象，那就需要保证对象的行为不会对其状态产生任何影响才行，例如 java.lang.String 类的对象，它是一个典型的不可变对象，我们调用它的substring()、replace()等方法，都不会影响它原来的值，只会返回一个新构造的字符串对象。
在 Java API 中符合不可变要求的类型，除了String 外，常用的还有枚举类型，以及 java.lang.Number 的部分子类，如Long 和Double 等数值包装类型， Biglnteger 和 BigDecimal 等大数据类型：但同为Number 的子类型的原子类 Atomiclnteger 和 AtomicLong 则并非不可变的。

2）绝对线程安全

绝对的线程安全完全满足Brian Goetz 给出的线程安全的定义，这个定义其实是很严格的。在 Java API 中标注自己是线程安全的类，大多数都不是绝对的线程安全。

java.util.Vector 是一个线程安全的容器，因为它的 add()、get() 和 size() 这类方法都是被 synchronized 修饰的，尽管这样效率很低，但确实是安全的。但下方代码任然不是线程安全的，某个线程抛出了异常。
```
private static Vector<Integer> vector = new Vector<Integer>();
public static void main(String[] args) {
    while (true) {
        for (int i = 0; i < 10; i++) {
            vector.add(i);
        }
        Thread removeThread = new Thread(() -> {
            for (int i = 0; i < vector.size(); i++) {
                vector.remove(i);
            }
        });
        Thread printThread = new Thread(() -> {
            for (int i = 0; i < vector.size(); i++) {
                System.out.println((vector.get(i)));
            }
        });
        removeThread.start();
        printThread.start();
        // 不要同时产生过多的线程，否则会导致操作系统假死
        while (Thread.activeCount() > 20);
    }
}
// 抛出异常
Exception in thread "Thread-5711" java.lang.ArrayIndexOutOfBoundsException: Array index out of range: 17
        at java.base/java.util.Vector.get(Vector.java:781)
        at Test.lambda$1(Test.java:17)
        at java.base/java.lang.Thread.run(Thread.java:834)
```
如果要保证这段代码能正确执行下去，我们不得不做出如下修改。
```
private static Vector<Integer> vector = new Vector<Integer>();
public static void main(String[] args) {
    while (true) {
        for (int i = 0; i < 10; i++) {
            vector.add(i);
        }
        Thread removeThread = new Thread(() -> {
            synchronized (vector) {
                for (int i = 0; i < vector.size(); i++) {
                    vector.remove(i);
                }
            }
        });
        Thread printThread = new Thread(() -> {
            synchronized (vector) {
                for (int i = 0; i < vector.size(); i++) {
                    vector.get(i);
                }
            }
        });
        removeThread.start();
        printThread.start();
        // 不要同时产生过多的线程，否则会导致操作系统假死
        while (Thread.activeCount() > 200);
    }
}
```
3）绝对线程安全

相对的线程安全就是我们通常意义上所讲的线程安全，它需要保证对这个对象单独的操作是线程安全的，我们在调用的时候不需要做额外的保障措施，但是对于一些特定顺序的连续调用，就可能需要在调用端使用额外的同步手段来保证调用的正确性。

在 Java 语言中，大部分的线程安全类都属于这种类型，例如Vector、HashTable 、Collections的synchronizedCollection() 方法包装的集合等。

4）线程兼容

线程兼容是指对象本身并不是线程安全的，但是可以通过在调用端正确地使用同步手段来保证对象在并发环境中可以安全地使用，我们平常说一个类不是线程安全的，绝大多数时候指的是这一种情况。Java API 中大部分的类都是属于线程兼容的，如与前面的 Vector 和 Hash Table 相对应的集合类 ArrayList 和 HashMap 等。

5）线程对立

线程对立是指无论调用端是否采取了同步措施，都元法在多线程环境中并发使用的代码。由于Java 语言天生就具备多线程特性，线程对立这种排斥多线程的代码是很少出现的，而且通常都是有害的，应当尽量避免。

一个线程对立的例子是Thread 类的 suspend() 和 resume() 方法，如果有两个线程同时持有一个线程对象，一个尝试去中断线程，另一个尝试去恢复线程，如果并发进行的话，无论调用时是否进行了同步，目标线程都是存在死锁风险的，如果 suspend() 中断的线程就是即将要执行resume() 的那个线程，那就肯定要产生死锁了。也正是由于这个原因， suspend() 和 resume() 方法已经被JDK 声明废弃（＠Deprecated）了。常见的线程对立的操作还有 System.setIn() 、Sytem.setOut() 和 System.runFinalizersOnExit() 等。
线程安全的实现万法

虚拟机提供的同步和锁机制主要有：

1）互斥同步

互斥同步（ Mutual Exclusion & Synchronization ）是常见的一种并发正确性保障手段。同步是指在多个线程并发访问共享数据时·，保证共享数据在同一个时刻只被一个线程使用。而互斥是实现同步的一种手段，临界区（Critical Section）、互斥量（Mutex）和信号量（Semaphore）都是主要的互斥实现方式。因此，在这 4 个字里面，互斥是因，同步是果：互斥是方法，同步是目的。

在 Java 中，最基本的互斥同步手段就是 synchronized 关键字， synchronized 关键字经过编译之后，会在同步块的前后分别形成 monitorenter 和 monitorexit 这两个字节码指令，这两个字节码都需要一个reference 类型的参数来指明要锁定和解锁的对象。如果 Java 程序中的 synchronized 明确指定了对象参数，那就是这个对象的reference ；如果没有明确指定，那就根据 synchronized 修饰的是实例方法还是类方法，去取对应的对象实例或Class 对象来作为锁对象。

在执行 monitorenter 指令时，首先要尝试获取对象的锁。如果这个对象没被锁定，或者当前线程已经拥有了那个对象的锁，把锁的计数器加 1，相应的，在执行 monitorexit 指令时会将锁计数器减 1，当计数器为0 时，锁就被释放。如果获取对象锁失败，那当前线程就要阻塞等待，直到对象锁被另外一个线程释放为止。
- synchronized 同步块对同一条线程来说是可重人的，不会出现自己把自己锁死的问题。
- 同步块在已进入的线程执行完之前，会阻塞后面其他线程的进入。
- Java 的线程是映射到操作系统的原生线程之上的，如果要阻塞或唤醒一个线程，都需要操作系统来帮忙完成，这就需要从用户态转换到核心态中，，因此状态转换需要耗费很多的处理器时间，因此以synchronized 是Java 语言中一个重量级（Heavyweight）的操作。
除了 synchronized 之外，我们还可以使用 java.util.concurrent 包中的重入锁（ReentrantLock）来实现同步，在基本用法上， ReentrantLock 与 synchronized 很相似，他们都具备一样的线程重人特性，只是代码写法上有点区别，一个表现为API 层面的互斥锁（lock() 和 unlock() 方法配合try/ finally 语句块来完成），另一个表现为原生语法层面的互斥锁。但 JDK 1.6 后，synchronized 与ReentrantLock 的性能基本上是完全持平了。

ReentrantLock 增加了一些高级功能，主要有以下3 项：等待可中断、可实现公平锁，以及锁可以绑定多个条件。
- 等待可中断：指当持有锁的线程长期不释放锁的时候，正在等待的线程可以选择放弃等待，改为处理其他事情，可中断特性对处理执行时间非常长的同步块很有帮助。
- 公平锁：指多个线程在等待同一个锁时，必须按照申请锁的时间顺序来依次获得锁：而非公平锁则不保证这一点，在锁被释放时，任何一个等待锁的线程都有机会获得锁。synchronized 中的锁是非公平的， ReentrantLock 默认情况下也是非公平的，但可以通过带布尔值的构造函数要求使用公平锁。
- 锁绑定多个条件：指一个ReentrantLock 对象可以同时绑定多个Condition 对象，而在synchronized 中，锁对象的 wait() 和 notify() 或 notifyAll() 方法可以实现一个隐含的条件，如果要和多于二个的条件关联的时候，就不得不额外地添加一个锁，而ReentrantLock 则无须这样做，只需要多次调用newCondition() 方法即可。
2）非阻塞同步

五斥同步最主要的问题就是进行线程阻塞和唤醒所带来的性能问题，因此这种同步也称为阻塞同步（Blocking Synchronization）。互斥同步属于一种悲观的并发策略，论共享数据是否真的会出现竞争，它都要进行加锁、用户态核心态转换、维护锁计数器和检查是否有被阻塞的线程需要唤醒等操作。

随着硬件指令集的丰富，发展出了基于冲突检测：基于冲突检测的乐观并发策略，即先进行操作，如果没有其他线程争用共享数据，那操作成功；如果共享数据有争用，产生了冲突，那就再采取其他的补偿措施（例：不断地重试，直到成功），这种乐观的并发策略的许多实现都不需要把线程挂起，因此这种同步操作称为非阻塞同步（Non-Blocking Synchronization）。

基于冲突检测需要操作和冲突检测这两个步骤具备原子性，因此多次操作的行为只通过一条处理器指令就能完成，这类指令常用的有：
- 测试并设置（Test-and-Set）。
- 获取并增加（Fetch-and-Increment）。
- 交换（Swap）。
- 比较并交换（Compare-and-Swap ，下文称CAS)
- 加载链接/条件存储（Load-Linked/Store-Conditional ，下文称LL/SC）。
CAS 指令需要有3 个操作数，分别是内存位置（在Java 中可以简单理解为变量的内存地址，用V 表示）、旧的预期值（用A 表示）和新值（用B 表示）。CAS 指令执行时，当且仅当V 符合旧预期值A 时，处理器用新值B 更新V 的值，否则它就不执行更新，但是无论是否更新了V 的值，都会返回V 的旧值，上述的处理过程是一个原子操作。该操作由 sun.misc.Unsafe 类里面的 compareAndSwaplnt() 和 compareAndSwapLong() 等几个方法包装提供，虚拟机在内部对这些方法做了特殊处理，即时编译出来的结果就是一条平台相关的处理器CAS 指令，没有方法调用的过程。

由于Unsafe 类不是提供给用户程序调用的类（Unsafe.getUnsafe() 的代码中限制了只有启动类加载器（Bootstrap ClassLoader）加载的Class 才能访问它），因此，如果不采用反射手段，我们只能通过其他的Java API 来间接使用它，如 J.U.C 包里面的整数原子类，其中的 compareAndSet() 和 getAndlncrement() 等方法都使用了Unsafe 类的 CAS 操作。

3）非阻塞同步

要保证线程安全，并不是一定就要进行同步，两者没有因果关系。同步只是保证共享数据争用时的正确性的手段，如果一个方法本来就不涉及共享数据，那它自然就无须任何同步措施去保证正确性，因此会有一些代码天生就是线程安全的，笔者简单地介绍其中的两类。

可重入代码（ Reentrant Code ）：这种代码也叫做纯代码（Pure Code），可以在代码执行的任何时刻中断它，转而去执行另外一段代码（包括递归调用它本身），而在控制权返回后，原来的程序不会出现任何错误。相对线程安全来说，可重人性是更基本的特性，它可以保证线程安全，即所有的可重人的代码都是线程安全的，但是并非所有的线程安全的代码都是可重入的。

可重人代码有一些共同的特征，不依赖存储在堆上的数据和公用的系统资源、用到的状态量都由参数中传人、不调用非可重人的方法等。我们可以通过一个简单的原则来判断代码是否具备可重人性：如果一个方法，它的返回结果是可以预测的，只要输入了相同的数据，就都能返回相同的结果，那它就满足可重入性的要求，当然也就是线程安全的。

线程本地存储（Thread Local Storage）：如果一段代码中所需要的数据必须与其他代码共享，那就看看这些共享数据的代码是否能保证在同一个线程中执行。如果能保证，我们就可以把共享数据的可见范围限制在同一个线程之内，这样，无须同步也能保证线程之间不出现数据争用的问题。

符合这种特点的应用并不少见，大部分使用消费队列的架构模式（如“ 生产者一消费者”模式）都会将产品的消费过程尽量在一个线程中消费完，其中最重要的一个应用实例就是经典Web 交互模型中的“一个请求对应一个服务器线程”（Thread-per-Request）的处理方式，这种处理方式的广泛应用使得很多Web 服务端应用都可以使用线程本地存储来解决线程安全问题。

Java 语言中，如果一个变量要被多线程访问，可以使用 volatile 关键词声明它为“易变的”：如果一个变量要被某个线程独享，是可以通过 java.lang.ThreadLocal 类来实现线程本地存储的功能。每一个线程的Thread 对象中都有一个ThreadLocalMap 对象，这个对象存储了一组以 ThreadLocal.threadLocalHashCode 为键，以本地线程变量为值的 K-V 值对， ThreadLocal 对象就是当前线程的 ThreadLocalMap 的访问入口，每一个 ThreadLocal 对象都包含了一个独一无二的 threadLocaHashCode 值，使用这个值就可以在线程K-V 值对中找回对应的本地线程变量。

13.3 锁优化

高效并发是从JDK 1.5 到JDK 1.6 的一个重要改进， HotS pot 虚拟机开发团队在这个版本上花费了大量的精力去实现各种锁优化技术，如适应性自旋（ Adaptive Spinning ）、锁消除( Lock Elimination ）、锁粗化（ Lo ck Coarsening ）、轻量级锁（ Lightweight Locking ）和偏向锁(Biased Locking ）等，这些技术都是为了在线程之间更高效地共享数据，以及解决竞争问题。

自旋锁与自适应自旋

若物理机器能让两个或以上的线程同时并行执行，可以让后面请求锁的那个线程等待一段时间，但不放弃处理器的执行时间，持有锁的线程是否很快就会释放锁。为了让线程等待，我们只需让线程执行一个忙循环（自旋），这项技术就是所谓的自旋锁。

自旋等待不能代替阻塞，自旋等待的时间必须要有一定的限度，如果自旋超过了限定的次数仍然没有成功获得锁，就应当使用传统的方式去挂起线程了。自旋次数的默认值是10 次，用户可以使用参数 -XX:PreBlockSpin 来更改。

在 JDK 1.6 中引入了自适应的自旋锁。自适应意味着自旋的时间不再固定了，而是由前一次在同一个锁上的自旋时间及锁的拥有者的状态来决定。
- 如果在同一个锁对象上，自旋等待刚刚成功获得过锁，并且持有锁的线程正在运行中，那么虚拟机就会认为这次自旋也很有可能再次成功，进而它将允许自旋等待持续相对更长的时间。
- 如果对于某个锁，自旋很少成功获得过，那在以后要获取这个锁时将可能省略掉自旋过程，以避免浪费处理器资源。
锁消除

锁消除是指虚拟机即时编译器在运行时，对一些代码上要求同步，但是被检测到不可能存在共享数据竞争的锁进行消除。锁消除的主要判定依据来源于逃逸分析的数据支持，如果判断在一段代码中，堆上的所有数据都不会逃逸出去从而被其他线程访问到，那就可以把它们当做椅上数据对待，认为它们是线程私有的，同步加锁自然就无须进行。

例如 StringBuffer 的 append() 方法，自带线程安全。
锁粗化

在编写代码的时候，我们推荐将同步块的作用范围限制得尽量小只在共享数据的实际作用域中才进行同步，这样是为了使得需要同步的操作数量尽可能变小，如果存在锁竞争，那等待锁的线程也能尽快拿到锁。但若一系列的连续操作都对同一个对象反复加锁和解锁，甚至加锁操作是出现在循环体中的，那即使没有线程竞争，频繁地进行互斥同步操作也会导致不必要的性能损耗。

若虚拟机探测到有这样一串零碎的操作都对同一个对象加锁，将会把加锁同步的范围扩展（粗化）到整个操作序列的外部。
轻量级锁

轻量级锁是 JDK 1.6 之中加入的新型锁机制，它名字中的“轻量级”是相对于使用操作系统互斥量来实现的传统锁而言的，因此传统的锁机制就称为“重量级”锁。首先需要强调一点的是，轻量级锁并不是用来代替重量级锁的，它的本意是在没有多线程竞争的前提下，减少传统的重量级锁使用操作系统互斥量产生的性能消耗。

Hotspot 虚拟机的对象头（Object Header）分为两部分信息，第一部分用于存储对象自身的运行时数据，如哈希码（HashCode）、GC 分代年龄（Generational GC Age）等，这部分数据的长度在32 位和64 位的虚拟机中分别为32bit和64bit，官方称它为“Mark Word”，飞它是实现轻量级锁和偏向锁的关键。

对象头信息是与对象自身定义的数据无关的额外存储成本，考虑到虚拟机的空间效率，Mark Word 被设计成一个非固定的数据结构以便在极小的空间内存储尽量多的信息，它会根据对象的状态复用自己的存储空间。

在32 位的Hotspot 虚拟机中对象未被锁定的状态下， Mark Word 的32bit 空间中的25bit 用于存储对象哈希码（ HashCode), 4bit 用于存储对象分代年龄，2bit 用于存储锁标志位， I bit 固定为0，在其他状态（轻量级锁定、重量级锁定、GC 标记、可偏向）下对象的存储内容如下：

在代码进入同步块的时候，如果此同步对象没有被锁定（锁标志位为“ 01 ”状态），虚拟机首先将在当前线程的技帧中建立一个名为锁记录（Lock Record）的空间，用于存储锁对象目前的Mark Word 的拷贝（Displaced Mark Word ），这时候线程堆栈与对象头的状态如下左图所示。

然后，虚拟机将使用CAS 操作尝试将对象的Mark Word 更新为指向Lock Record 的指针。如果这个更新动作成功了，那么这个线程就拥有了该对象的锁，并且对象Mark Word 的锁标志位（ Mark Word 的最后2bit ）将转变为“ 00 飞即表示此对象处于轻量级锁定状态，这时候线程堆栈与对象头的状态如下右图所示。

如果这个更新操作失败了，虚拟机首先会检查对象的Mark Word 是否指向当前线程的钱帧，如果只说明当前线程已经拥有了这个对象的锁，那就可以直接进入同步块继续执行，否则说明这个锁对象已经被其他线程抢占了。如果有两条以上的线程争用同一个锁，那轻量级锁就不再有效，要膨胀为重量级锁，锁标志的状态值变为“10”， Mark Word 中存储的就是指向重量级锁（互斥量）的指针，后面等待锁的线程也要进入阻塞状态。

如果对象的Mark Word 仍然指向着线程的锁记录，那就用CAS 操作把对象当前的Mark Word 和线程中复制的Displaced Mark Word 替换回来，如果替换成功，整个同步过程就完成了。如果替换失败，说明有其他线程尝试过获取该锁，那就要在释放锁的同时，唤醒被挂起的线程。

轻量级锁能提升程序同步性能的依据是“对于绝大部分的锁，在整个同步周期内都是不存在竞争的”，这是一个经验数据。如果没有竞争，轻量级锁使用CAS 操作避免了使用互斥量的开销，但如果存在锁竞争，除了互斥量的开销外，还额外发生了CAS 操作，因此在有竞争的情况下，轻量级锁会比传统的重量级锁更慢。
偏向锁

偏向锁也是 JDK 1.6 中引入的一项锁优化，它的目的是消除数据在无竞争情况下的同步原语，进一步提高程序的运行性能。如果说轻量级锁是在无竞争的情况下使用CAS 操作去消除同步使用的互斥量，那偏向锁就是在无竞争的情况下把整个同步都消除掉，连CAS 操作都不做了。

偏向锁的“偏”的意思是这个锁会偏向于第一个获得它的线程，如果在接下来的执行过程中，该锁没有被其他的线程获取，则持有偏向锁的线程将永远不需要再进行同步。

假设当前虚拟机启用了偏向锁，那么，当锁对象第一次被线程获取的时候，虚拟机将会把对象头中的标志位设为“ 01”，即偏向模式。同时使用CAS 操作把获取到这个锁的线程的ID 记录在对象的Mark Word 之中，如果CAS 操作成功，持有偏向锁的线程以后每次进入这个锁相关的同步块时，虚拟机都可以不再进行任何同步操作。

当有另外一个线程去尝试获取这个锁时，偏向模式就宣告结束。根据锁对象目前是否处于被锁定的状态，撤销偏向（Revoke Bias）后恢复到未锁定（标志位为“ 01 ”）或轻量级锁定（标志位为“ 00”）的状态，后续的同步操作就如上面介绍的轻量级锁那样执行。

偏向锁、轻量级锁的状态转化及对象Mark Word 的关系如下：

偏向锁可以提高带有同步但无竞争的程序性能。它同样是一个带有效益权衡（ TradeOff）性质的优化，也就是说，它并不一定总是对程序运行有利，如果程序中大多数的锁总是被多个不同的线程访问，那偏向模式就是多余的。