垃圾回收器

Posted on Edited on In , Views: Word count in article: 8.5k Reading time ≈ 8 mins.

一、垃圾回收器概述

  • 按线程数分为串行垃圾回收器和并行垃圾回收器。

    • 串行回收指的是在同一时间段内只允许有一个CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束。串行回收默认被应用在客户端的Client模式下的JVM中。
    • 和串行回收相反,并行收集可以运用多个CPU同时执行垃圾回收,因此提升了应用的吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用“Stop-the-world”机制。

  • 按工作模式分为并发式垃圾回收器和独占式垃圾回收器。

    • 并发式垃圾回收器与应用程序交替工作，以尽可能减少应用程序的停顿时间。
    • 独占式垃圾回收器一旦运行，就停止应用程序中的所有用户线程，直到垃圾回收过程完全结束。

  • 按碎片处理方式可分为压缩式垃圾回收器和非压缩式垃圾回收器。

    • 压缩式垃圾回收器会在回收完成后，对存活对象进行压缩整理，消除回收后的碎片。
    • 非压缩式垃圾回收器不进行这步操作。

  • 按工作的内存区间分为年轻代垃圾回收器和老年代垃圾回收器。

  • 评估GC的性能指标有：

    • 吞吐量:运行用户代码的时间占总运行时间的比例。(总运行时间:程序的运行时间+内存回收的时间)
    • 垃圾收集开销:吞吐量的补数,垃圾收集所用时间与总运行时间的比例。
    • 暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间。
    • 收集频率:相对于应用程序的执行,收集操作发生的频率。
    • 内存占用:Java堆区所占的内存大小。
    • 快速:一个对象从诞生到被回收所经历的时间。

  • 串行回收器：Serial、Serial Old

  • 并行回收器：ParNew、Parallel Scavenge、Parallel Old

  • 并发回收器：CMS、G1

    • 其中，两个收集器间有连线，表明它们可以搭配使用：Serial/ Serial Old、 Serial/CMS、 ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel scavenge/Parallel Old、G1
    • 其中Serial Old作为CMS出现”Concurrent mode failure”失败的后备预案。
    • (红色虚线)由于维护和兼容性测试的成本,在JDK8时将Serial+CMS、ParNew+Serial Old这两个组合声明为废弃(JEP 173),并在]DK9中完全取消了这些组合的支持(JEP 214),即:移除。
    • (绿色虚线)JDK14中弃用Parallel scavenge和 Serial Old GC组合(JEP 366)。
    • (青色虚线)JDK14中:删除CMS垃圾回收器(JEP 363)。

  • 查看具体使用的垃圾回收器：

    • 虚拟机参数设置-XX:+PrintCommandLineFlags。
    • 终端使用jps查看端口号，再使用jinfo -flag UseParallelGC <端口号>查看。

    例子：

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    public class GCUseTest {
        public static void main(String[] args) {
            ArrayList<byte[]> list = new ArrayList<>();

            while(true){
                byte[] arr = new byte[100];
                list.add(arr);
                try {
                    Thread.sleep(10);
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        }
    }

    ①加上虚拟机参数-XX:+PrintCommandLineFlags后运行，控制台打印结果：

    此时的运行环境是jdk8，说明jdk8默认的新生代垃圾收集器是Parallel Scavenge，同时老年代默认使用Parallel Old来搭配使用。

    ②打开终端，依次输入以下命令也可验证。

二、各种垃圾回收器

1.1 Serial与Serial Old回收器

  • Serial收集器作为 Hot Spot中 Client模式下的默认新生代垃圾收集器。

  • Serial收集器采用复制算法、串行回收和”stop-the-World”机制的方式执行内存回收。

  • 除了年轻代之外, Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。 Serial Old收集器同样也采用了串行回收和”Stop the World”机制,只不过内存回收算法使用的是标记-压缩算法。

    • Serial Old是运行在client模式下默认的老年代的垃圾回收器。
    • Serial Old在Server模式下主要有两个用途:①与新生代的Parallel Scavenge配合使用。②作为老年代CMS收集器的后备垃圾收集方案。

  • 这个收集器是一个单线程的收集器,但它的“单线程”的意义并不仅仅说明**它只会使用一个CPU或一条收集线程去完成垃圾收集工作,**更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束( Stop The world)。

  • -XX:+UseSerialGC:表明新生代使用Serial GC ，同时老年代使用Serial Old GC。

1.2 ParNew回收器：并行回收

  • 如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Serial收集器的多线程版本。

    • Par是Parallel的缩写,New:只能处理的是新生代。

  • ParNew收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。 ParDew收集器在年轻代中同样也是采用复制算法、”stop-the-World”机制。

  • ParNew是很多JVM运行在 Server模式下新生代的默认垃圾收集器。

    • 对于新生代，回收次数频繁，使用并行方式高效。
    • 对于老年代，回收次数少，使用串行方式节省资源。（CPU并行需要切换线程，串行可以省去切换线程的资源）

  • 由于 ParNew收集器是基于并行回收,那么是否可以断定ParNew收集器的回收效率在任何场景下都会比 Serial集器更高效?

    • ParNew收集器运行在多CPU的环境下,由于可以充分利用多CPU、多核心等物理硬件资源优势,可以更快速地完成垃圾收集,提升程序的吞吐量。
    • 但是在单个CPU的环境下, ParNew收集器不比 Serial收集器更高效。虽然 Serial收集器是基于串行回收,但是由于CPU不需要频繁地做任务切换（ParNew收集器的多个线程同时去抢占一个CPU资源需要花时间）,因此可以有效避免多线程交互过程中产生的一些额外开销。

  • -XX:+UseParNewGC：标明新生代使用ParNew GC。

  • -XX:+ParallelGCThreads参数限制线程数量，默认开启和CPU数据相同的线程数。

1.3 Parallel回收器：吞吐量优先

  • Hotspot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样也采用了复制算法、并行回收和”stop the World”机制。

  • 那么Parallel收集器的出现是否多此一举?

    • 和 ParNew收集器不同,Parallel scavenge收集器的目标则是达到个可控制的吞吐量( Throughput),它也被称为吞吐量优先的垃圾收集器。
    • 自适应调节策略也是Parallel Scavenge与ParNew一个重要区别。
    • 高吞吐量则可以高效率地利用CPU时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,那些执行批量处理、订单处理、工资支付、科学计算的应用程序。

  • Parallel收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel Old收集器,用来代替老年代的Serial Old收集器。

  • Parallel Old收集器采用了标记-压缩算法,但同样也是基于并行回收和stop-the-Word”机制。

  • 是jdk8默认的垃圾收集器。

  • -XX:+UseParallelGC:表明新生代使用Parallel GC。**-XX:+UseParallelOldGC** : 表明老年代使用Parallel Old GC。二者可以相互激活。

  • -XX:+ParallelGCThreads设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能。

    • 在默认情况下,当CPU数量小于8个, ParallelGCThreads的值等于CPU数量。
    • 当CPU数量大于8个,ParallelGCThreads的值等于3+[5*CPU_Count/8]。

  • -XX: MaxGCPauseMillis设置垃圾收集器最大停顿时间(即STW的时间)。单位是毫秒。

    • 为了尽可能地把停顿时间控制在 MaxGCPauseMillis以内,收集器在工作时会调整Java堆大小或者其他一些参数。
    • 对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重
      高并发,整体的吞吐量。所以服务器端适合Paralel,进行控制。

  • -XX: GCTimeRatio垃圾收集时间占总时间的比例(=1/(N+1))。

    • 取值范围(0,100)。默认值99,也就是垃圾回收时间不超过1%。
    • 与前一个-XX: MaxGCPauseMillis参数有一定矛盾性。暂停时间越长, Radio参数就容易超过设定的比例。

  • -XX:+ UseAdaptiveSizePolicy设置Parallel Scavenge收集器具有自适应调节策略。

    • 在这种模式下,年轻代的大小、Eden和 Survivor的比例、晋升老年代的对象年龄等参数会被自动调整,已达到在堆大小、吞吐量和停顿时间之间的平衡点。
    • 在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标的吞吐量(GCTimeRatio)和停顿时间(MaxGCPauseMills),让虚拟机自己完成调优工作。

1.4 CMS回收器：低延迟

  • 在JDK1.5时期, Hotspot推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器:CMS( Concurrent-Mark- Sweep)收集器,这款收集器是 Hotspot虚拟机中第一款真正意义上的并发收集器,它第一次实现了
    让垃圾收集线程与用户线程同时工作。

  • CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验。

    • 目前很大一部分的Java应用集中在互联网站或者B/S系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来较好的体验。CMS收集器就非常符合这类应用的需求。

  • CMS的垃圾收集算法采用标记-清除算法,并且也会”Stop-the-world″。

  • CMS整个过程比之前的收集器要复杂,整个过程分为4个要阶段,即初始标记阶段、并发标记阶段、重新标记阶段和并发清除阶段。

    • 初始标记( Initial-Mark)阶段:在这个阶段中,程序中所有的工作线程都将会因为”stop-the-World”机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快。
    • 并发标记( Concurrent-Mark)阶段:从 GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。
    • 重新标记(Remark)阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短。
    • 并发清除(Concurrent-Sweep)阶段：此阶段清理删除掉标记阶段判断的已经死亡的对象，释放内存空间。由于不需要移动存活对象，所以这个阶段也是可以与用户线程同时并发的。

  • 另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是**当堆内存使用率达到某一阈值时,便开始进行回收,**以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次“ Concurrent Mode failure”失败,这时虚拟机将启动后备预案:临时启用 Serial Old收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。

  • CMS的优点:

    • 并发收集。
    • 低延迟。

  • CMS的弊端:

    • **会产生内存碎片,**导致并发清除后,用户线程可用的空间不足。在无法分配大对象的情况下,不得不提前触发Full GC。
    • CMS收集器对CPU资源非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低。
    • CMS收集器无法处理浮动垃圾。可能出现“ Concurrent mode failure”失败而导致另一次Full GC的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么**在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,**从而只能在下一次执行GC时释放这些之前未被回收的内存空间。

  • -XX:+ UseConcMarkSweepGC手动指定使用CMS收集器执行内存回收任务。

    • 开启该参数后会自动将-XX:+ Use parNewGC打开。即: ParDew( Young区用)+CMS(Old区用)+ Serial old的组合。

  • -XX:CMSlnitiatingOccupanyFraction设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收。

    • JDK5及以前版本的默认值为68,即当老年代的空间使用率达到68％时,会执行
      次CMS回收。JDK6及以上版本默认值为92%。
    • 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效降低CMS的触发频率,减少老年代回收的次数可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低Full GC的执行次数。

  • -XX: UseCMSCompactAtFullCollection用于指定在执行完Full GC后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长了。

  • -XX: CMSFullGCsBeforeCompaction设置在执行多少次Full GC后对内存空间进行压缩整理。

  • -XX:ParallelCMSthreads设置CMS的线程数量。

    • CMS默认启动的线程数是(ParallelGCThreads+3)/4,ParallelGCThreads是年轻代并行收集器的线程数。当CPU资源比较紧张时,受到CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕。

1.5 G1回收器：区域化分代式

  • G1( Garbage- First)是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征。

  • 在JDK1.7版本正式启用,移除了 Experimental的标识,是JDK9以后的默认垃圾回收器,取代了CMS回收器以及Parallel+Parallel Old组合。被oracle官方称为“全功能的垃圾收集器”。

  • 与此同时,CMS已经在JDK9中被标记为废弃(deprecated)。在jdk8中还不是默认的垃圾回收器,需要使用-XX:+UseG1GC来启用。

  • 缺点：

    • 相较于CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用( Footprint)还是程序运行时的额外执行负载( Overload)都要比CMS要高。
    • 从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间。

  • 优点：

    • 并行与并发
      • 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW。
      • 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况。
    • 分代收集
      • 从分代上看,**G1依然属于分代型垃圾回收器,**它会区分年轻代和老年代,年轻代依然有Eden区和 Survivor区。但从堆的结构上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量。
      • 将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代。
      • 和之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代。
    • 空间整合
      • CMS:“标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理。
      • G1将内存划分为一个个的 region。内存的回收是以 region作为基本单位的。Region之间是复制算法,但整体上实际可看作是标记-压缩(Mark- Compact)算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次GC。尤其是当Java堆非常大的时候,G1的优势更加明显。
    • 可预测的停顿时间模型(即:软实时 soft real-time)
      • 这是G1相对于CMS的另一大优势,G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒。
        • 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。
        • G1跟踪各个 Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的 Region。保证了G1收集器在有限的时间内可以获取尽可能高的收集效率。
        • 相比于CMS GC,G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多。

  • G1的设计原则就是简化性能调优,开发人员只需要简单的三步即可完成调优:

    • 第一步:开启G1垃圾收集器。
    • 第二步:设置堆的最大内存。
    • 第三步:设置最大的停顿时间。

  • G1中提供了三种垃圾回收模式: Young GC、 Mixed GC和Full GC,在不同的条件下被触发。

    • 一个region有可能属于Eden, Survivor或者old/Tenured内存区域。但是个 region只可能属于一个角色。图中的E表示该 region属于Eden内存区域,S表示属于 Survivor内存区域,o表示属于old内存区域。图中空白的表示未使用的内存空间。
    • G1垃圾收集器还增加了一种新的内存区域,叫做Humongous内存区域,如图中的H块。主要用于存储大对象,如果超过1.5个region,就放到H。
    • 设置H的原因:
      • 对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个 Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待。

  • 垃圾回收过程：

    • 年轻代GC(Young GC)。

    • 老年代并发标记过程(Concurrent Marking)。

    • 混合回收(Mixed GC)。

    • (如果需要，单线程、独占式、高强度的Full GC还是继续存在的。它针对GC的评估失败提供了一种失败保护机制，即强力回收。)

      • ①应用程序分配内存,当年轻代的Eden区用尽时开始年轻代回收过程;G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到 Survivor区间或者老年区间,也有可能是两个区间都会涉及。
      • ②当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程。
      • ③标记完成马上开始混合回收过程。对于一个混合回收期,G1Gc从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收小部分老年代的 Region就可以了。同时,这个老年代 Region是和年轻代一起被回收的。

1.6 总结