记忆集

记忆集 Remembered Set 在新生代中，每个 Region 都有一个 Remembered Set，用来被哪些其他 Region 里的对象引用（谁引用了我就记录谁）

• 程序对 Reference 类型数据写操作时，产生一个 Write Barrier 暂时中断操作，检查该对象和 Reference 类型数据是否在不同的 Region（跨代引用），不同就将相关引用信息记录到 Reference 类型所属的 Region 的 Remembered Set 之中
• 进行内存回收时，在 GC 根节点的枚举范围中加入 Remembered Set 即可保证不对全堆扫描也不会有遗漏

垃圾收集器在新生代中建立了记忆集这样的数据结构，可以理解为它是一个抽象类，具体实现记忆集的三种方式：

• 字长精度
• 对象精度
• 卡精度(卡表)

卡表（Card Table）在老年代中，是一种对记忆集的具体实现，主要定义了记忆集的记录精度、与堆内存的映射关系等，卡表中的每一个元素都对应着一块特定大小的内存块，这个内存块称之为卡页（card page），当存在跨代引用时，会将卡页标记为 dirty，JVM 对于卡页的维护也是通过写屏障的方式

收集集合 CSet 代表每次 GC 暂停时回收的一系列目标分区，在任意一次收集暂停中，CSet 所有分区都会被释放，内部存活的对象都会被转移到分配的空闲分区中。年轻代收集 CSet 只容纳年轻代分区，而混合收集会通过启发式算法，在老年代候选回收分区中，筛选出回收收益最高的分区添加到 CSet 中

• CSet of Young Collection
• CSet of Mix Collection

跨代引用

什么是跨代引用？

新生代中的对象持有了老年代中的对象的引用 或 老年代中的对象持有了新生代中对象的引用。

跨代引用所带来的问题

当进行一次只局限于新生代区域内的垃圾回收(Minor GC)，但是新生代中的对象完全有可能被老年代中的对象所引用。为了找出这个区域中的存活对象，不得不在固定的GC Roots之外，在额外的遍历整个老年代中的对象，来确保可达性分析结果的准确性，反之也是一样，这样就会给内存回收带来很大的负担。

如何解决这个问题

跨代引用假说

存在相互引用关系的两个对象应该是倾向于同生共死的。举个例子，如果新生代对象存在跨代引用，由于老年代对象难以消亡，该引用会使得新生代对象在垃圾收集时同样得以存活，进而在年龄到达阈值后进入老年代中，这时候跨代引用也随之被消除。

解决方案

依据这条假说，只有少量对象才会存在跨代引用的问题。因此没有必要为了少量的跨代引用而去扫描整个老年代，也没有必要浪费空间去专门记录没一个对象是否存在及存在哪些跨代引用，只需要在新生代上建立一个全局的数据结构，这个数据结构将老年代划分为若干个小块，每次都只记录老年代中的哪一块内存存在跨代引用。此后每当发生Minor GC时，只有包含了跨代引用的那一小块内存才会被加入到GC Roots中进行扫描。

上述数据结构就被称之为记忆集，可以简单理解为一种用于记录从非收集区域指向收集区域的指针集合的抽象数据结构。记忆集的记录精度可以分为不同级别，下面展示三种记录精度：

• 字长精度：每个记录精确到机器字长，该字包含跨代指针

• 对象精度：每个记录精确到一个对象，该对象的字段中含有跨代指针

• 卡精度：每个记录精确到一块内存区域，该区域中含有跨代指针

其中，第三种卡精度所指的是一种被称之为卡表的实现方式。

卡表

卡表最简单的形式可以只是一个字节数组。

CARD_TABLE[this address >> 9] = 0;

字节组CARD_TABLE的每一个元素都对应着其标示的内存区域中一块特定大小的内存块，这个内存块被称之为”卡页”。一般来说，卡页大小都是2的N次幂的字节数，从上述代码中可以看出Hotspot中使用的卡页是2的9次幂，即512字节。

一个卡页内存中通常包含不止一个对象，只要卡页内某个对象的字段存在跨代指针，那就将对应卡表数组对应位置上的元素标示为1，称之为Dirty，没有则标示为0，称之为Clean。在垃圾收集时，只需要筛选出卡表中变脏的元素，就能够找到对应卡页内存块中包含的跨代指针，将其加入到GC Roots中一并扫描。

写屏障

卡表元素如何维护？

当有其他分代区域中的对象引用了本区域的对象时，其对应的卡表元素就应该变脏，变脏的时间点原则上应该发生在引用类型字段被赋值的那一刻。

如何在对象赋值的一刻去更新卡表？

假设是解释执行的字节码，虚拟机负责每条字节码指令的执行，有充分的时间介入；但是在编译执行的场景中，经过即时编译后得到的代码已经是纯粹的指令流了，这就必须要找到一个在机器码层面的手段，将维护卡表的动作放到没一个赋值操作中。

在HotSpot虚拟机中是通过写屏障技术来维护卡表的。写屏障可以看做是虚拟机层面上对于“引用类型字段赋值”这个动作的AOP切面，在引用对象赋值时会产生一个环绕式通知，供程序执行额外的动作，也就是说赋值的前后都在写屏障的覆盖范畴内。在赋值前的写屏障叫做写前屏障，在赋值后的写屏障叫做写后屏障。

1
2
3
4
5
6

void oop_field_store(oop* field, oop new_value) {
	// 引用字段赋值操作    
	*field = new_value;    
	// 写后屏障，在这里完成卡表状态更新    
	post_write_barrier(field, new_value); 
}

写屏障带来的性能问题

应用写屏障后，虚拟机就会为所有的赋值操作生成相应的指令，一旦收集器在写屏障中增加了更新卡表的操作，无论更新的是老年代对新生代对象的引用，每次只要对引用进行了赋值操作，就会判断是否需要更新卡表，从而产生额外的开销，不过这个开销与MinorGC时扫描整个老年代的代价要低的多。

回收算法

在通过引用分析后，JVM知道了哪些对象是可以被回收的，接下来就是执行具体的回收算法。一下介绍三种回收算法，JVM不会单独采用以下的某一种，而是三种算法结合使用，协同工作，这其中还涉及分代回收，不同代的区域执行不同的回收算法。

复制算法

复制算法的核心就是，将原有的内存空间一分为二，每次只用其中的一块，在垃圾回收时，将正在使用的对象复制到另一个内存空间中，然后将该内存空间清理，交换两个内存的角色，完成垃圾的回收

应用场景：如果内存中的垃圾对象较多，需要复制的对象就较少，这种情况下适合使用该方式并且效率比较高，反之则不适合

算法优点：

• 没有标记和清除过程，实现简单，运行速度快
• 复制过去以后保证空间的连续性，不会出现碎片问题

算法缺点：

• 主要不足是只使用了内存的一半
• 对于 G1 这种分拆成为大量 region 的 GC，复制而不是移动，意味着 GC 需要维护 region 之间对象引用关系，不管是内存占用或者时间开销都不小

现在的商业虚拟机都采用这种收集算法回收新生代，因为新生代 GC 频繁并且对象的存活率不高，但是并不是划分为大小相等的两块，而是一块较大的 Eden 空间和两块较小的 Survivor 空间

标记清除

标记清除算法，是将垃圾回收分为两个阶段，分别是标记和清除

• 标记：Collector 从引用根节点开始遍历，标记所有被引用的对象，一般是在对象的 Header 中记录为可达对象，标记的是引用的对象，不是垃圾

• 清除：Collector 对堆内存从头到尾进行线性的遍历，如果发现某个对象在其 Header 中没有标记为可达对象，则将其回收，把分块连接到空闲列表的单向链表，判断回收后的分块与前一个空闲分块是否连续，若连续会合并这两个分块，之后进行分配时只需要遍历这个空闲列表，就可以找到分块

• 分配阶段：程序会搜索空闲链表寻找空间大于等于新对象大小 size 的块 block，如果找到的块等于 size，会直接返回这个分块；如果找到的块大于 size，会将块分割成大小为 size 与 block - size 的两部分，返回大小为 size 的分块，并把大小为 block - size 的块返回给空闲列表

算法缺点：

• 标记和清除过程效率都不高
• 会产生大量不连续的内存碎片，导致无法给大对象分配内存，需要维护一个空闲链表

标记整理

标记整理（压缩）算法是在标记清除算法的基础之上，做了优化改进的算法

标记阶段和标记清除算法一样，也是从根节点开始，对对象的引用进行标记，在清理阶段，并不是简单的直接清理可回收对象，而是将存活对象都向内存另一端移动，然后清理边界以外的垃圾，从而解决了碎片化的问题

优点：不会产生内存碎片

缺点：需要移动大量对象，处理效率比较低

分代思想

分代介绍

Java8 时，堆被分为了两份：新生代和老年代（1:2），在 Java7 时，还存在一个永久代

• 新生代使用：复制算法
• 老年代使用：标记 - 清除 或者 标记 - 整理 算法

Minor GC 和 Full GC：

• Minor GC：回收新生代，新生代对象存活时间很短，所以 Minor GC 会频繁执行，执行的速度比较快

• Full GC：回收老年代和新生代，老年代对象其存活时间长，所以 Full GC 很少执行，执行速度会比 Minor GC 慢很多

  Eden 和 Survivor 大小比例默认为 8:1:1

分代分配

工作机制：

• 对象优先在 Eden 分配：当创建一个对象的时候，对象会被分配在新生代的 Eden 区，当 Eden 区要满了时候，触发 Minor GC
• 当进行 Minor GC 后，此时在 Eden 区存活的对象被移动到 to 区，并且当前对象的年龄会加 1，清空 Eden 区
• 当再一次触发 Minor GC 的时候，会把 Eden 区中存活下来的对象和 to 中的对象，移动到 from 区中，这些对象的年龄会加 1，清空 Eden 区和 to 区
• To 区永远是空 Survivor 区，From 区是有数据的，每次 MinorGC 后两个区域互换
• From 区和 To 区 也可以叫做 S0 区和 S1 区

晋升到老年代：

• 长期存活的对象进入老年代：为对象定义年龄计数器，对象在 Eden 出生并经过 Minor GC 依然存活，将移动到 Survivor 中，年龄就增加 1 岁，增加到一定年龄则移动到老年代中

  -XX:MaxTenuringThreshold：定义年龄的阈值，对象头中用 4 个 bit 存储，所以最大值是 15，默认也是 15

• 大对象直接进入老年代：需要连续内存空间的对象，最典型的大对象是很长的字符串以及数组；避免在 Eden 和 Survivor 之间的大量复制；经常出现大对象会提前触发 GC 以获取足够的连续空间分配给大对象

  -XX:PretenureSizeThreshold：大于此值的对象直接在老年代分配

• 动态对象年龄判定：如果在 Survivor 区中相同年龄的对象的所有大小之和超过 Survivor 空间的一半，年龄大于等于该年龄的对象就可以直接进入老年代

空间分配担保：

• 在发生 Minor GC 之前，虚拟机先检查老年代最大可用的连续空间是否大于新生代所有对象总空间，如果条件成立的话，那么 Minor GC 可以确认是安全的
• 如果不成立，虚拟机会查看 HandlePromotionFailure 的值是否允许担保失败，如果允许那么就会继续检查老年代最大可用的连续空间是否大于历次晋升到老年代对象的平均大小，如果大于将尝试着进行一次 Minor GC；如果小于或者 HandlePromotionFailure 的值不允许冒险，那么就要进行一次 Full GC

回收策略

触发条件

内存垃圾回收机制主要集中的区域就是线程共享区域：堆和方法区

Minor GC 触发条件非常简单，当 Eden 空间满时，就将触发一次 Minor GC

FullGC 同时回收新生代、老年代和方法区，只会存在一个 FullGC 的线程进行执行，其他的线程全部会被挂起，有以下触发条件：

• 调用 System.gc()：

  • 在默认情况下，通过 System.gc() 或 Runtime.getRuntime().gc() 的调用，会显式触发 FullGC，同时对老年代和新生代进行回收，但是虚拟机不一定真正去执行，无法保证对垃圾收集器的调用
  • 不建议使用这种方式，应该让虚拟机管理内存。一般情况下，垃圾回收应该是自动进行的，无须手动触发；在一些特殊情况下，如正在编写一个性能基准，可以在运行之间调用 System.gc()

• 老年代空间不足：

  • 为了避免引起的 Full GC，应当尽量不要创建过大的对象以及数组
  • 通过 -Xmn 参数调整新生代的大小，让对象尽量在新生代被回收掉不进入老年代，可以通过 -XX:MaxTenuringThreshold 调大对象进入老年代的年龄，让对象在新生代多存活一段时间

• 空间分配担保失败

• JDK 1.7 及以前的永久代（方法区）空间不足

• Concurrent Mode Failure：执行 CMS GC 的过程中同时有对象要放入老年代，而此时老年代空间不足（可能是 GC 过程中浮动垃圾过多导致暂时性的空间不足），便会报 Concurrent Mode Failure 错误，并触发 Full GC

安全区域

安全点 (Safepoint)：程序执行时并非在所有地方都能停顿下来开始 GC，只有在安全点才能停下

• Safe Point 的选择很重要，如果太少可能导致 GC 等待的时间太长，如果太多可能导致运行时的性能问题
• 大部分指令的执行时间都非常短，通常会根据是否具有让程序长时间执行的特征为标准，选择些执行时间较长的指令作为 Safe Point， 如方法调用、循环跳转和异常跳转等

在 GC 发生时，让所有线程都在最近的安全点停顿下来的方法：

• 抢先式中断：没有虚拟机采用，首先中断所有线程，如果有线程不在安全点，就恢复线程让线程运行到安全点
• 主动式中断：设置一个中断标志，各个线程运行到各个 Safe Point 时就轮询这个标志，如果中断标志为真，则将自己进行中断挂起

问题：Safepoint 保证程序执行时，在不太长的时间内就会遇到可进入 GC 的 Safepoint，但是当线程处于 Waiting 状态或 Blocked 状态，线程无法响应 JVM 的中断请求，运行到安全点去中断挂起，JVM 也不可能等待线程被唤醒，对于这种情况，需要安全区域来解决

安全区域 (Safe Region)：指在一段代码片段中，对象的引用关系不会发生变化，在这个区域中的任何位置开始 GC 都是安全的

运行流程：

• 当线程运行到 Safe Region 的代码时，首先标识已经进入了 Safe Region，如果这段时间内发生 GC，JVM 会忽略标识为 Safe Region 状态的线程

• 当线程即将离开 Safe Region 时，会检查 JVM 是否已经完成 GC，如果完成了则继续运行，否则线程必须等待 GC 完成，收到可以安全离开 SafeRegion 的信号