type
status
date
slug
summary
tags
category
icon
password
1、概述
本文基于 OpenJDK 11
在分析线上 JVM 性能问题的时候，我们可能会碰到下面这些场景：
1、GC 本身没有花多长时间，但是 JVM 暂停了很久，例如下面：
2、JVM 没有 GC，但是程序暂停了很久，而且这种情况时不时就出现。
这些问题一般和 SafePoint 还有 Stop the World 有关。
2、什么是 Safepoint
2.1 如何找到 GC Roots？
我们知道 HotSpot 虚拟机采取的是可达性分析算法来顺着根节点向下搜寻所有可达对象。也就是说，只要有了GC Roots，我们就能够依据可达性分析算法通过根节点来找出所有可达对象。经典老图献上
固定可作为 GC Roots 的节点，一般是在全局性的引用（例如常量或类静态属性）执行上下文（例如栈帧中的本地变量表）中。尽管目标明确，但查找过程要做到高效并非一件容易的事情。现在 Java 应用越做越庞大，光是方法区的大小就常有数百上千兆，如果在这日渐庞大的栈区和方法区中，逐地址寻找引用，对于这个应用的性能来说，一定会是个灾难。
为了可以高效的找到 GC Root，在 HotSpot 的解决方案里，是使用一组称为 OopMap 的数据结构来达到这个目的。
一旦类加载动作完成的时候， HotSpot 就会把对象内什么偏移量上是什么类型的数据计算出来。这样收集器在扫描时就可以直接得知这些信息了，并不需要真正一个不漏地从方法区等 GC Roots 开始查找。
下面代码是HotSpot虚拟机客户端模式下生成的一段String::hashCode()方法的本地代码，可以看到在0x026eb7a9处的call指令有OopMap记录，它指明了EBX寄存器和栈中偏移量为16的内存区域 中各有一个普通对象指针（Ordinary Object Pointer，OOP）的引用，有效范围为从call指令开始直到 0x026eb730（指令流的起始位置）+142（OopMap记录的偏移量）=0x026eb7be，即hlt指令为止。
2.2 引入SafePoint（安全点）和Stop the world
在 OopMap 的协助下，HotSpot 可以快速准确地完成 GC Roots 枚举，但一个很现实的问题随之而来：程序运行期间，很多指令都是有可能修改引用关系的，即要修改 OopMap。如果碰到就修改，那代价是十分巨大。
另外现在的可达性分析算法耗时最长的查找引用链的过程已经可以做到与用户线程一起并发，但根节点枚举始终还是必须在一个能保障一致性的快照中才得以进行。这里“一致性”的意思是整个枚举期间执行子系统看起来就像被冻结在某个时间点上，不会出现分析过程中，根节点集合的对象引用关系还在不断变化 的情况，若这点不能满足的话，分析结果准确性也就无法保证。
故而引入了 Safepoint（安全点）和 Stop the world。
Safepoint 可以理解成是在代码执行过程中的一些特殊位置，当线程执行到这些位置的时候，线程可以暂停。我们一般这么理解 SafePoint，就是线程只有运行到了 SafePoint 的位置，他的一切状态信息，才是确定的。也只有这个时候，才知道这个线程用了哪些内存，没有用哪些；并且，只有线程处于 SafePoint 位置，这时候对 JVM 的堆栈信息进行修改，例如回收某一部分不用的内存，线程才会感知到，之后继续运行，每个线程都有一份自己的内存使用快照，这时候其他线程对于内存使用的修改，线程就不知道了，只有再进行到 SafePoint 的时候，才会感知。
在 SafePoint 位置保存了线程上下文中的任何东西，包括对象，指向对象或非对象的内部指针，在线程处于 SafePoint 的时候，对这些信息进行修改，线程才能感知到。所以，只有线程处于 SafePoint 的时候，才能针对线程使用的内存进行 GC，以及改变正在执行的代码，例如 OSR （On Stack Replacement，栈上替换现有代码为JIT优化过的代码）或者 Bailout（栈上替换JIT过优化代码为去优化的代码）。并且，还有一个重要的 Java 线程特性也是基于 SafePoint 实现的，那就是
Thread.interrupt()，线程只有运行到 SafePoint 才知道是否 interrupted。有了Safepoint的设定，也就决定了用户程序执行时并非在代码指令流的任意位置都能够停顿下来开始垃圾收集，而是强制要求必须执行到达 Safepoint 后才能够暂停。只在 SafePoint 才会对 OopMap 做一个统一的更新。这也使得，只有 SafePoint 处 OopMap 是一定准确的，因此只能在 SafePoint 处进行 GC 行为。
所以，GC 一定需要所有线程同时进入 SafePoint，并停留在那里，等待 GC 处理完内存，再让所有线程继续执。像这种所有线程进入 SafePoint等待的情况，就是 Stop the world。为啥需要 Stop The World？有时候我们需要全局所有线程进入 SafePoint 这样才能统计出那些内存还可以回收用于 GC，，以及回收不再使用的代码清理 CodeCache，以及执行某些 Java instrument 命令或者 JDK 工具，例如 jstack 打印堆栈就需要 Stop the world 获取当前所有线程快照。
2.3 引入SafeRegion（安全区域）
使用安全点的设计似乎已经完美解决如何停顿用户线程，让虚拟机进入垃圾回收状态的问题了， 但实际情况却并不一定。
安全点机制保证了程序执行时，在不太长的时间内就会遇到可进入垃圾收集 过程的安全点。但是，程序“不执行”的时候呢？
所谓的程序不执行就是没有分配处理器时间，典型的场景便是用户线程处于Sleep状态或者Blocked状态，这时候线程无法响应虚拟机的中断请求，不能再走到安全的地方去中断挂起自己，虚拟机也显然不可能持续等待线程重新被激活分配处理器时间。
对于 这种情况，就必须引入安全区域（Safe Region）来解决。
安全区域是指能够确保在某一段代码片段之中，引用关系不会发生变化，因此，在这个区域中任意地方开始垃圾收集都是安全的。我们也可以把安全区域看作被扩展拉伸了的安全点。
当用户线程执行到安全区域里面的代码时，首先会标识自己已经进入了安全区域，那样当这段时间里虚拟机要发起垃圾收集时就不必去管这些已声明自己在安全区域内的线程了。当线程要离开安全区域时，它要检查虚拟机是否已经完成了根节点枚举（或者垃圾收集过程中其他需要暂停用户线程的阶段），如果完成了，那线程就当作没事发生过，继续执行；否则它就必须一直等待，直到收到可以离开安全区域的信号为止。
2.4 SafePoint 如何实现的？
可以这么理解，SafePoint 可以插入到代码的某些位置，每个线程运行到 SafePoint 代码时，主动去检查是否需要进入 SafePoint，这个主动检查的过程，被称为 Polling。
理论上，可以在每条 Java 编译后的字节码的边界，都放一个检查 Safepoint 的机器命令。线程执行到这里的时候，会执行 Polling 询问 JVM 是否需要进入 SafePoint，这个询问是会有性能损耗的，所以 JIT 会优化尽量减少 SafePoint。
经过 JIT 编译优化的代码，会在所有方法的返回之前，以及所有非 counted loop 的循环（无界循环）回跳之前放置一个 SafePoint。为了防止发生 GC 需要 Stop the world 时，该线程一直不能暂停，但是对于明确有界循环，为了减少 SafePoint，是不会在回跳之前放置一个 SafePoint，也就是：
里面是不会放置 SafePoint 的，这也导致了后面会提到的一些性能优化的问题。注意，仅针对 int 有界循环，例如里面的 int i 换成 long i 就还是会有 SafePoint；
SafePoint 实现相关源代码： safepoint.cpp
可以看出，针对 SafePoint，线程有 5 种情况；假设现在有一个操作触发了某个 VM 线程所有线程需要进入 SafePoint（例如现在需要 GC），如果其他线程现在：
- 运行字节码：运行字节码时，解释器会看线程是否被标记为 poll armed，如果是，VM 线程调用
SafepointSynchronize::block(JavaThread *thread)进行 block。
- 运行 native 代码：当运行 native 代码时，VM 线程略过这个线程，但是给这线程设置 poll armed，让它在执行完 native 代码之后，它会检查是否 poll armed，如果还需要停在 SafePoint，则直接 block。
- 运行 JIT 编译好的代码：由于运行的是编译好的机器码，直接查看本地 local polling page 是否为脏，如果为脏则需要 block。这个特性是在 Java 10 引入的 JEP 312: Thread-Local Handshakes 之后，才是只用检查本地 local polling page 是否为脏就可以了。
- 处于 BLOCK 状态：在需要所有线程需要进入 SafePoint 的操作完成之前，不许离开 BLOCK 状态
- 处于线程切换状态或者处于 VM 运行状态：会一直轮询线程状态直到线程处于阻塞状态（线程肯定会变成上面说的那四种状态，变成哪个都会 block 住）。
如果有线程一直没有进入到安全点，就会导致 GC 时 GC 本身的耗时不是很长，但是 JVM 停顿时间很长的问题。
2.5 哪些情况下会让所有线程进入 SafePoint， 即发生 Stop the world？
- 定时进入 SafePoint：每经过
XX:GuaranteedSafepointInterval配置的时间，都会让所有线程进入 Safepoint，一旦所有线程都进入，立刻从 Safepoint 恢复。这个定时主要是为了一些没必要立刻 Stop the world 的任务执行，可以设置XX:GuaranteedSafepointInterval=0关闭这个定时，我推荐是关闭。
- 由于 jstack，jmap 和 jstat 等命令，也就是 Signal Dispatcher 线程要处理的大部分命令，都会导致 Stop the world：这种命令都需要采集堆栈信息，所以需要所有线程进入 Safepoint 并暂停。
- 偏向锁取消（这个不一定会引发整体的 Stop the world，参考JEP 312: Thread-Local Handshakes）：Java 认为，锁大部分情况是没有竞争的（某个同步块大多数情况都不会出现多线程同时竞争锁），所以可以通过偏向来提高性能。即在无竞争时，之前获得锁的线程再次获得锁时，会判断是否偏向锁指向我，那么该线程将不用再次获得锁，直接就可以进入同步块。但是高并发的情况下，偏向锁会经常失效，导致需要取消偏向锁，取消偏向锁的时候，需要 Stop the world，因为要获取每个线程使用锁的状态以及运行状态。
- Java Instrument 导致的 Agent 加载以及类的重定义：由于涉及到类重定义，需要修改栈上和这个类相关的信息，所以需要 Stop the world
- Java Code Cache相关：当发生 JIT 编译优化或者去优化，需要 OSR 或者 Bailout 或者清理代码缓存的时候，由于需要读取线程执行的方法以及改变线程执行的方法，所以需要 Stop the world
- GC：这个由于需要每个线程的对象使用信息，以及回收一些对象，释放某些堆内存或者直接内存，所以需要 Stop the world
- JFR 的一些事件：如果开启了 JFR 的 OldObject 采集，这个是定时采集一些存活时间比较久的对象，所以需要 Stop the world。同时，JFR 在 dump 的时候，由于每个线程都有一个 JFR 事件的 buffer，需要将 buffer 中的事件采集出来，所以需要 Stop the world。
其他的事件，不经常遇到，可以参考源码 vmOperations.hpp
2.6 什么情况会导致 Stop the world 时间过长？
Stop the world 阶段可以简单分为（这段时间内，JVM 都是出于所有线程进入 Safepoint 就 block 的状态）：
- 某个操作，需要 Stop the world（就是上面提到的哪些情况下会让所有线程进入 SafePoint， 即发生 Stop the world 的那些操作）
- 向 Signal Dispatcher 这个 JVM 守护线程发起 Safepoint 同步信号并交给对应的模块执行。
- 对应的模块，采集所有线程信息，并对每个线程根据状态做不同的操作以及标记（根据之前源码那一块的描述，有5种情况）
- 所有线程都进入 Safepoint 并 block。
- 做需要发起 Stop the world 的操作。
- 操作完成，所有线程从 Safepoint 恢复。
基于这些阶段，导致 Stop the world 时间过长的原因有：
- 阶段 4 耗时过长，即等待所有线程中的某些线程进入 Safepoint 的时间过长，这个很可能和有 大有界循环与JIT优化 有关，也很可能是 OpenJDK 11 引入的获取调用堆栈的类
StackWalker的使用导致的，也可能是系统 CPU 资源问题或者是系统内存脏页过多或者发生 swap 导致的。
- 阶段 5 耗时过长，需要看看是哪些操作导致的，例如偏向锁撤销过多， GC时间过长等等，需要想办法减少这些操作消耗的时间，或者直接关闭这些事件（例如关闭偏向锁，关闭 JFR 的 OldObjectSample 事件采集）减少进入，这个和本篇内容无关，这里不赘述。
- 阶段2，阶段3耗时过长，由于 Signal Dispatcher 是单线程的，可以看看当时 Signal Dispatcher 这个线程在干什么，可能是 Signal Dispatcher 做其他操作导致的。也可能是系统 CPU 资源问题或者是系统内存脏页过多或者发生 swap 导致的。
2.7 大有界循环与 JIT 优化会给 SafePoint 带来哪些问题？
已知：只有线程执行到 Safepoint 代码才会知道
Thread.intterupted()的最新状态 ，而不是线程的本地缓存。我们来看下面一段代码：
之后利用 JVM 参数
-Xlog:jit+compilation=debug:file=jit_compile%t.log:uptime,level,tags:filecount=10,filesize=100M 打印 JIT 编译日志到另一个文件，便于观察。最后控制台输出：可以看出，最后一次循环直接运行结束了，并没有看到线程已经 interrupted 了。并且 JIT 编译日志可以看到，在最后一线程执行循环的时候发生了发生代码即时编译优化并 OSR：
3 还有 4 表示编译级别，% 表示是 OSR 栈上替换方法，也就是 for 循环还在执行的时候，进行了执行代码的机器码替换。在这之后，线程就看不到线程已经 interrupted 了，这说明，JIT 优化后的代码，for 循环里面的 Safepoint 会被拿掉。 这样带来的问题，也显而易见了，当需要 Stop the world 的时候，所有线程都会等着这个循环执行完，因为这个线程只有执行完这个大循环，才能进入 Safepoint。
那么，如何优化呢？
第一种方式是修改代码，将 for int 的循环变成 for long 类型：
第二种是通过
-XX:+UseCountedLoopSafepoints参数，让 JIT 优化代码的时候，不会拿掉有界循环里面的 SafePoint用这两种方式其中一种之后的控制台输出：
2.8 如何通过日志分析 SafePoint？
目前，在 OpenJDK 11 版本，主要有两种 SafePoint 相关的日志。一种基本上只在开发时使用，另一种可以在线上使用持续采集。
第一个是
-XX:+PrintSafepointStatistics -XX:PrintSafepointStatisticsCount=1，这个会定时采集，但是采集的时候会触发所有线程进入 Safepoint，所以，线程一般不打开（之前我们对于定时让所有线程进入 Safepoint 都要关闭，这个就更不可能打开了）。并且，在 Java 12 中已经被移除，并且接下来的日志配置基本上可以替代这个，所以这里我们就不赘述这个了。另外是通过
-Xlog:safepoint=trace:stdout:utctime,level,tags，对于 OpenJDK 的日志配置，可以参考我的另一篇文章详细解析配置的格式，这里我们直接用。我们这里配置了所有的 safepoint 相关的 JVM 日志都输出到控制台，一次 Stop the world 的时候，就会像下面这样输出：
首先，阶段 1 会打印日志，这个是 debug 级别的，代表要开始全局所有线程 Safepoint 了，这时候，JVM 就开始无法响应请求了，也就是 Stop the world 开始：
阶段 2 不会打印日志，阶段 3 会打印：
Application time: 12.4565068 seconds 代表上次全局 Safepoint 与这次 Safepoint 间隔了多长时间。后面 trace 的日志表示每个线程的状态，其中没有处于 Safepoint 的只有一个：这里有详细的线程号，可以通过 jstack 知道这个线程是干啥的。 最后的
Waiting for 1 thread(s) to block也代表到底需要等待几个线程走到 Safepoint。阶段 4 执行完，开始阶段 5 的时候，会打印：
阶段 5 执行完之后，会打印：
最后阶段 6 开始的时候，会打印：
Total time for which application threads were stopped是这次阶段1到阶段6开始，一共过了多长时间，也就是 Stop the world 多长时间。后面的Stopping threads took是这次等待线程走进 Safepoint 过了多长时间，一般除了 阶段 5 执行触发 Stop the world 以外，都是由于 等待线程走进 Safepoint 时间长。这是就要看 trace 的线程哪些没有处于 Safepoint，看他们干了什么，是否有大循环，或者是使用了StackWalker这个类.2.9 如何通过 JFR 分析 SafePoint？
JFR 相关的配置以及说明以及如何通过 JFR 分析 SafePoint 相关事件，可以参考我的另一个系列JFR全解系列
3、常见的 SafePoint 调优参数以及讲解
3.1 建议关闭定时让所有线程进入 Safepoint
对于微服务高并发应用，没必要定时进入 Safepoint，所以关闭
-XX:+UnlockDiagnosticVMOptions -XX:GuaranteedSafepointInterval=03.2 建议取消偏向锁
在高并发应用中，偏向锁并不能带来性能提升，反而因为偏向锁取消带来了很多没必要的某些线程进入Safepoint 或者 Stop the world。所以建议关闭：
-XX:-UseBiasedLocking3.3 建议打开循环内添加 Safepoint 参数
防止大循环 JIT 编译导致内部 Safepoint 被优化省略，导致进入 SafePoint 时间变长：
-XX:+UseCountedLoopSafepoints3.4 建议打开 debug 级别的 safepoint 日志（和第五个选一个）
debug 级别虽然看不到每次是哪些线程需要等待进入 Safepoint，但是整体每阶段耗时已经很清楚了。如果是 trace 级别，每次都能看到是那些线程，但是这样每次进入 safepoint 时间就会增加几毫秒。
3.5 建议打开 JFR 关于 safepoint 的采集（和第四个选一个）
修改，或者新建 jfc 文件：
参考
- Author:mcbilla
- URL:http://mcbilla.com/article/10c85c7d-7c1d-800d-9009-f969bc65d75b
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!