Synchronized与锁升级

11、Synchronized与锁升级

11.1 同学反馈

11.2 本章路线总纲说明

11.3 Java5之前,用户态和内核态之间的切换

  • java的线程是映射到操作系统原生线程之上的,如果要阻塞或唤醒一个线程就需要操作系统介入,需要在户态与核心态之间切换,这种切换会消耗大量的系统资源,因为用户态与内核态都有各自专用的内存空间,专用的寄存器等,用户态切换至内核态需要传递给许多变量、参数给内核,内核也需要保护好用户态在切换时的一些寄存器值、变量等,以便内核态调用结束后切换回用户态继续工作。
  • 在Java早期版本中,synchronized属于重量级锁,效率低下,因为监视器锁(monitor)是依赖于底层的操作系统的Mutex Lock(系统互斥量)来实现的,挂起线程和恢复线程都需要转入内核态去完成,阻塞或唤醒一个Java线程需要操作系统切换CPU状态来完成,这种状态切换需要耗费处理器时间,如果同步代码块中内容过于简单,这种切换的时间可能比用户代码执行的时间还长”,时间成本相对较高,这也是为什么早期的synchronized效率低的原因Java6之后,为了减少获得锁和释放锁所带来的性能消耗,引入了轻量级锁和偏向锁。

11.4 markOop.hpp

  • Monitor可以理解为一种同步工具,也可理解为一种同步机制,常常被描述为一个Java对象。Java对象是天生的Monitor,每一个Java对象都有成为Monitor的潜质,因为在Java的设计中,每一个Java对象自打娘胎里出来就带了一把看不见的锁,它叫做内部锁或者Monitor锁。

  • Monitor的本质是依赖于底层操作系统的MutexLock实现,操作系统实现线程之间的切换需要从用户态到内核态的转换,成本非常高。

11.5 Monitor(监视器锁)

  • JVM中的同步就是基于进入和退出管程(Monitor)对象实现的。每个对象实例都会有一个Monitor,Monitor可以和对象一起创建、销毁。 Monitor是由ObjectMonitor实现,而ObjectMonitor是由C++的ObjectMonitor.hpp文件实现,如下所示:

  • Mutex Lock Monitor:是在jvm底层实现的,底层代码是c++。本质是依赖于底层操作系统的MutexLock实现,操作系统实现线程之间的切换需要从用户态到内核态的转换,状态转换需要耗费很多的处理器时间成本非常高。所以synchronized是Java语言中的一个重量级操作。

  • Monitor与java对象以及线程是如何关联?

    • 如果一个java对象被某个线程锁住,则该java对象的Mark Word字段中LockWord指向monitor的起始地址。
    • Monitor的Owner字段会存放拥有相关联对象锁的线程id。
  • Mutex Lock的切换需要从用户态转换到核心态中,因此状态转换需要耗费很多的处理器时间。

11.6 结合之前的synchronized和对象头说明

11.7 复习C源码的MarkWord标记

11.8 无锁Code演示

1
2
3
4
5
6
7
8
9
10
11
public class TestLock {
public static void main(String[] args) throws IOException {
Object o = new Object();

System.out.println("10进制:" + o.hashCode());
System.out.println("16进制:" + Integer.toHexString(o.hashCode()));
System.out.println("2进制:" + Integer.toBinaryString(o.hashCode()));

System.out.println(ClassLayout.parseInstance(o).toPrintable());
}
}

11.9 程序不会有锁的竞争

11.10 偏锁

11.10.1 是什么

  • 偏向锁:单线程竞争
    • 当线程A第一次竞争到锁时,通过操作修改Mark Word中的偏向线程ID、偏向模式。
    • 如果不存在其他线程竞争,那么持有偏向锁的线程将永远不需要进行同步。

11.10.2 小结论

  • Hotspot的作者经过研究发现,大多数情况下:

    • 多线程的情况下,锁不仅不存在多线程竞争,还存在锁由同一个线程多次获得的情况,偏向锁就是在这种情况下出现的,它的出现是为了解决只有在一个线程执行同步时提高性能。
  • 备注:偏向锁会偏向于第一个访问锁的线程,如果在接下来的运行过程中,该锁没有被其他的线程访问,则持有偏向锁的线程将永远不需要触发同步。也即偏向锁在资源没有竞争情况下消除了同步语句,懒的连CAS操作都不做了,直接提高程序性能。

11.10.3 偏向锁的持有说明

  • 理论落地:

    • 在实际应用运行过程中发现,“锁总是同一个线程持有,很少发生竞争”,也就是说锁总是被第一个占用他的线程拥有,这个线程就是锁的偏向线程。
    • 那么只需要在锁第一次被拥有的时候,记录下偏向线程ID。这样偏向线程就一直持有着锁(后续这个线程进入和退出这段加了同步锁的代码块时,不需要再次加锁和释放锁。而是直接会去检查锁的MarkWord里面是不是放的自己的线程ID)。
      • 如果相等,表示偏向锁是偏向于当前线程的,就不需要再尝试获得锁了,直到竞争发生才释放锁。以后每次同步,检查锁的偏向线程ID与当前线程ID是否一致,如果一致直接进入同步。无需每次加锁解锁都去CAS更新对象头。如果自始至终使用锁的线程只有一个,很明显偏向锁几乎没有额外开销,性能极高。
      • 如果不等,表示发生了竞争,锁已经不是总是偏向于同一个线程了,这个时候会尝试使用CAS来替换MarkWord里面的线程ID为新线程的ID,
      • 竞争成功,表示之前的线程不存在了,MarkWord里面的线程ID为新线程的ID,锁不会升级,仍然为偏向锁;
      • 竞争失败,这时候可能需要升级变为轻量级锁,才能保证线程间公平竞争锁。
    • 注意,偏向锁只有遇到其他线程尝试竞争偏向锁时,持有偏向锁的线程才会释放锁,线程是不会主动释放偏向锁的。
  • 技术实现:一个synchronized方法被一个线程抢到了锁时,那这个方法所在的对象就会在其所在的Mark Word中将偏向锁修改状态位,同时还会有占用前54位来存储线程指针作为标识。若该线程再次访问同一个synchronized方法时,该线程只需去对象头的Mark Word中去判断一下是否有偏向锁指向本身的ID,无需再进入Monitor去竞争对象了。

11.10.4 细化案例Account对象举例说明

  • 偏向锁的操作不用直接捅到操作系统,不涉及用户到内核转换,不必要直接升级为最高级,我们以一个account对象的“对象头”为例。

  • 假如有一个线程执行到synchronized代码块的时候,JVM使用CAS操作把线程指针ID记录到Mark Word当中,并修改标偏向标示,标示当前线程就获得该锁。锁对象变成偏向锁(通过CAS修改对象头里的锁标志位),字面意思是“偏向于第一个获得它的线程”的锁。执行完同步代码块后,线程并不会主动释放偏向锁。

  • 这时线程获得了锁,可以执行同步代码块。当该线程第二次到达同步代码块时会判断此时持有锁的线程是否还是自己(持有锁的线程ID也在对象头里),JVM通过account对象的Mark Word判断:当前线程ID还在,说明还持有着这个对象的锁,就可以继续进入临界区工作。由于之前没有释放锁,这里也就不需要重新加锁。如果自始至终使用锁的线程只有一个,很明显偏向锁几乎没有额外开销,性能极高。结论:JVM不用和操作系统协商设置Mutex(争取内核),它只需要记录下线程ID就标示自己获得了当前锁,不用操作系统接入。

  • 上述就是偏向锁:在没有其他线程竞争的时候,一直偏向偏心当前线程,当前线程可以一直执行。

11.10.5 偏向锁JVM命令

11.10.5.1 java -XX:+PrintFlagsInitial |grep BiasedLock*

11.10.5.2 重要参数说明

11.10.6 Code演示

11.10.6.1 演示无效果

11.10.6.2 因为参数系统默认开启

11.10.6.3 关闭延时参数,启用该功能

  • -XX:BiasedLockingStartupDelay=0

11.10.7 Code演示2

11.10.7.1 Code

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
public class TestLock {
public static void main(String[] args) throws IOException {
try {
TimeUnit.SECONDS.sleep(5);
} catch (InterruptedException e) {
e.printStackTrace();
}

Object o = new Object();
System.out.println(ClassLayout.parseInstance(o).toPrintable());

System.out.println("=======================");
new Thread(() -> {
synchronized (o) {
System.out.println(ClassLayout.parseInstance(o).toPrintable());
}
}, "t1").start();
}
}

11.10.7.2 第一种情况

11.10.7.3 第二种情况

11.10.8 撤销

  • 偏向锁使用一种等到竞争出现才释放锁的机制,只有当其他线程竞争锁时,持有偏向锁的原来线程才会被撤销。撤销需要等待全局安全点(该时间点上没有字节码正在执行),同时检查持有偏向锁的线程是否还在执行:

    • ①第一个线程正在执行synchronized方法(处于同步块).它还没有执行完,其它线程来抢夺,该偏向锁会被取消掉并出现锁升级。此时轻量级锁由原持有偏向锁的线程持有,继续执行其同步代码,而正在竞争的线程会进入自旋等待获得该轻量级锁。
    • ②第一个线程执行完成synchronized方法(退出同步块),则将对象头设置成无锁状态并撤销偏向锁,重新偏向。

11.10.9 总体步骤流程图示

11.10.10 Java15逐步废弃偏向锁

11.11 轻锁

11.11.1 是什么

  • 轻量级锁:多线程竞争,但是任意时刻最多只有一个线程竞争,即不存在锁竞争太过激烈的情况,也就没有线程阻塞。

11.11.2 轻量级锁的获取

  • 轻量级锁是为了在线程近乎交替执行同步块时提高性能。

  • 主要目的:在没有多线程竞争的前提下,通过CAS减少重量级锁使用操作系统互斥量产生的性能消耗,说白了先自旋,不行才升级阻塞。

  • 升级时机:当关闭偏向锁功能或多线程竞争偏向锁会导致偏向锁升级为轻量级锁。

  • 假如线程A已经拿到锁,这时线程B又来抢该对象的锁,由于该对象的锁已经被线程A拿到,当前该锁已是偏向锁了。而线程B在争抢时发现对象头Mark Word中的线程ID不是线程B自己的线程ID(而是线程A),那线程B就会进行CAS操作希望能获得锁。此时线程B操作中有两种情况:

    • 如果锁获取成功,直接替换Mark Word中的线程ID为B自己的ID(A→B),重新偏向于其他线程(即将偏向锁交给其他线程,相当于当前线程“被”释放了锁),该锁会保持偏向锁状态,A线程Over,B线程上位;

    • 如果锁获取失败,则偏向锁升级为轻量级锁(设置偏向锁标识为0并设置锁标志位为00),此时轻量级锁由原持有偏向锁的线程持有,继续执行其同步代码,而正在竞争的线程B会进入自旋等待获得该轻量级锁。

11.11.3 补充

  • 轻量级锁的加锁
    • JVM会为每个线程在当前线程的栈帧中创建用于存储锁记录的空间,官方成为Displaced Mark Word。若一个线程获得锁时发现是轻量级锁,会把锁的MarkWord复制到自己的Displaced Mark Word里面。然后线程尝试用CAS将锁的MarkWord替换为指向锁记录的指针。如果成功,当前线程获得锁,如果失败,表示Mark Word已经被替换成了其他线程的锁记录,说明在与其它线程竞争锁,当前线程就尝试使用自旋来获取锁。
    • 自旋CAS:不断尝试去获取锁,能不升级就不往上捅,尽量不要阻塞。
  • 轻量级锁的释放
    • 在释放锁时,当前线程会使用CAS操作将Displaced Mark Word的内容复制回锁的Mark Word里面。如果没有发生竞争,那么这个复制的操作会成功。如果有其他线程因为自旋多次导致轻量级锁升级成了重量级锁,那么CAS操作会失败,此时会释放锁并唤醒被阻塞的线程。

11.11.4 Code演示

11.11.5 步骤流程图示

1654826558564

11.11.6 自适应自旋锁的大致原理

  • 自适应自旋锁的大致原理
    • 线程如果自旋成功了,那下次自旋的最大次数会增加,因为JVM认为既然上次成功了,那么这一次也很大概率会成功。
    • 反之,如果很少会自旋成功,那么下次会减少自旋的次数甚至不自旋,避免CPU空转。

11.12 重锁

11.12.1 锁标志位

  • 重量级锁原理
    • Java中synchronized的重量级锁,是基于进入和退出Monitor对象实现的。在编译时会将同步块的开始位置插入monitor enter指令,在结束位置插入monitor exit指令。
    • 当线程执行到monitor enter指令时,会尝试获取对象所对应的Monitor所有权,如果获取到了,即获取到了锁,会在Monitor的owner中存放当前线程的id,这样它将处于锁定状态,除非退出同步块,否则其他线程无法获取到这个Monitor。

11.12.2 Code演示

11.12 说明

  • 锁升级为轻量级或重量级锁后,Mark Word中保存的分别是线程栈帧里的锁记录指针和重量级锁指针,已经没有位置再保存哈希码,GC年龄了,那么这些信息被移动到哪里去了呢?

  • 在无锁状态下,Mark Word中可以存储对象的identity hash code值。当对象的hashCode()方法第一次被调用时,JVM会生成对应的identity hash code值并将该值存储到Mark Word中。

  • 对于偏向锁,在线程获取偏向锁时,会用Thread ID和epoch值覆盖identity hash code所在的位置。如果一个对象的hashCode()方法已经被调用过一次之后,这个对象不能被设置偏向锁。因为如果可以的话,那Mark Word中的identity hash code必然会被偏向线程ld给覆盖,这就会造成同一个对象前后两次调用hashCode()方法得到的结果不一致。

  • 升级为轻量级锁时,JVM会在当前线程的栈帧中创建一个锁记录(Lock Record)空间,用于存储锁对象的Mark Word拷贝,该拷贝中可以包含identity hash code,所以轻量级锁可以和identity hash code共存,哈希码和GC年龄自然保存在此,释放锁后会将这些信息写回到对象头。

  • 升级为重量级锁后,Mark Word保存的重量级锁指针,代表重量级锁的ObjectMonitor类里有字段记录非加锁状态下的Mark Word,锁释放后也会将信息写回到对象头。

11.13 当一个对象已经计算过identity hash code,”它就无法进入偏向锁状态,跳过偏向锁,直接升级轻量级锁

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
public class TestLock {
public static void main(String[] args) throws IOException {
//先睡眠5秒,保证开启偏向锁
try {
TimeUnit.SECONDS.sleep(5);
} catch (InterruptedException e) {
e.printStackTrace();
}

Object o = new Object();
System.out.println("本应是偏向锁");
System.out.println(ClassLayout.parseInstance(o).toPrintable());

o.hashCode();//没有重写,一致性哈希,重写后无效,当一个对象已经计算过identity hash code,它就无法进入偏向锁状态;

synchronized (o) {
System.out.println("本应是偏向锁,但是由于计算过一致性哈希,会直接升级为轻量级锁");
System.out.println(ClassLayout.parseInstance(o).toPrintable());
}
}
}

11.14 偏向锁过程中遇到一致性哈希计算请求,立马撤销偏向模式,膨胀为重量级锁

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
public class TestLock {
public static void main(String[] args) throws IOException {
//先睡眠5秒,保证开启偏向锁
try {
TimeUnit.SECONDS.sleep(5);
} catch (InterruptedException e) {
e.printStackTrace();
}
Object o = new Object();

synchronized (o) {
o.hashCode();//没有重写,一致性哈希,重写后无效
System.out.println("偏向锁过程中遇到一致性哈希计算请求,立马撤销偏向模式,膨胀为重量级锁");
System.out.println(ClassLayout.parseInstance(o).toPrintable());
}
}
}

11.15 各种锁优缺点、synchronized锁升级和实现原理

  • synchronized锁升级过程总结:一句话,就是先自旋,不行再阻塞。
  • 实际上是把之前的悲观锁(重量级锁)变成在一定条件下使用偏向锁以及使用轻量级(自旋锁CAS)的形式。
  • synchronized在修饰方法和代码块在字节码上实现方式有很大差异,但是内部实现还是基于对象头的MarkWord来实现的。
  • JDK1.6之前synchronized使用的是重量级锁,JDK1.6之后进行了优化,拥有了无锁->偏向锁->轻量级锁->重量级锁的升级过程,而不是无论什么情况都使用重量级锁。
  • 偏向锁:适用于单线程适用的情况,在不存在锁竞争的时候进入同步方法/代码块则使用偏向锁。
  • 轻量级锁:适用于竞争较不激烈的情况(这和乐观锁的使用范围类似),存在竞争时升级为轻量级锁,轻量级锁采用的是自旋锁,如果同步方法/代码块执行时间很短的话,采用轻量级锁虽然会占用cpu资源但是相对比使用重量级锁还是更高效。
  • 重量级锁:适用于竞争激烈的情况,如果同步方法/代码块执行时间很长,那么使用轻量级锁自旋带来的性能消耗就比使用重量级锁更严重,这时候就需要升级为重量级锁。

11.16 锁消除code

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
/**
* 锁消除
* 从JIT角度看相当于无视它,synchronized (o)不存在了,
* 这个锁对象并没有被共用扩散到其它线程使用,
* 极端的说就是根本没有加这个锁对象的底层机器码,消除了锁的使用
*/
public class LockClearUPDemo {
static Object objectLock = new Object();

public void m1() {
//锁消除问题,JIT编译器会无视它 ,synchronized(o),每次new出来的,不存在了,非正常的。
Object o = new Object();

synchronized (o) {
System.out.println("-----hello LockClearUPDemo" + "\t" + o.hashCode() + "\t" + objectLock.hashCode());
}
}

public static void main(String[] args) {
LockClearUPDemo lockClearUPDemo = new LockClearUPDemo();

for (int i = 1; i <= 10; i++) {
new Thread(() -> {
lockClearUPDemo.m1();
}, String.valueOf(i)).start();
}
}
}

11.17 锁粗化code

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
/**
* 锁粗化
* 假如方法中首尾相接,前后相邻的都是同一个锁对象,那JIT编译器就会把这几个synchronized块合并成一个大块,
* 加粗加大范围,一次申请锁使用即可,避免次次的申请和释放锁,提升了性能
*/
public class LockBigDemo {
static Object objectLock = new Object();

public static void main(String[] args) {
new Thread(() -> {
synchronized (objectLock) {
System.out.println("111111");
}
synchronized (objectLock) {
System.out.println("222222");
}
synchronized (objectLock) {
System.out.println("333333");
}
synchronized (objectLock) {
System.out.println("444444");
}

synchronized (objectLock) {
System.out.println("111111");
System.out.println("222222");
System.out.println("333333");
System.out.println("444444");
}

}, "t1").start();
}
}