随笔分类
堆是分配对象存储的唯一选择吗?
-
在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述∶
随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么"绝对"了。
-
在Java虚拟机中,对象是在Java堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是如果经过逃逸分析(Escape Analysis)后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配内存,也无须进行垃圾回收了。这也是最常见的堆外存储技术
-
基于OpenJDK深度定制的TaoBaoVM,其中创新的GCIH(GC invisible heap)技术实现off-heap,将生命周期较长的Java对象从heap中移至heap外,并且GC不能管理GCIH内部的Java对象,以此达到降低GC的回收频率和提升GC的回收效率的目的。
逃逸分析
- 如何将堆上的对象分配到栈,需要使用逃逸分析手段
- 这是一种可以有效减少Java程序中同步负载和内存分配压力的跨函数全局数据流分析算法
- 通过逃逸分析,Java Hotspot编译期能够分析出一个新的对象的引用的使用范围从而决定是否将这个对象分配到栈上
- 逃逸分析的基本行为就是分析对象动态作用域
- 当一个对象在方法中被定义后,且该对象只在该方法中被使用,则认为没有发生逃逸
- 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生了逃逸
- 比如作为调用参数传递带其它地方
没有发生逃逸的对象,则可以分配到栈上,随着方法的结束,栈空间就被移除了
- 栈不涉及GC
/**
* 栈上分配对象
* 逃逸分析
* 最快分析:即这个对象是否有在方法外被使用
*/
public class EscapeTest {
private EscapeTest escapeTest;
/**
* 方法返回EscapeTest对象,发生逃逸
* @return
*/
public EscapeTest getInstance(){
return escapeTest == null ? new EscapeTest() : escapeTest;
}
/**
* 为成员属性赋值,发生逃逸
*/
public void setValue(){
escapeTest = new EscapeTest();
}
/**
* 对象的作用域仅在当前方法中有效,没有发生逃逸
*/
public void useEscapeTest(){
EscapeTest escapeT = new EscapeTest();
}
/**
* 引用成员变量的值,发生逃逸
*/
public void useInstance(){
EscapeTest escapeT = getInstance();
}
}
结论
- 开发中是能使用局部变量,就不要在方法外定义
参数设置:
- 在JDK7即之后,HotSpot就默认开启了逃逸分析
- -XX∶+DoEscapeAnalysis"显式开启逃逸分析通过选项"
- -XX∶ +PrintEscapeAnalysis查看逃逸分析的筛选结果
代码优化
使用逃逸分析,编译期可以对代码进行一系列的优化
栈上分配
-
将堆分配转化为栈分配。如果一个对象在子程序中进行分配,要使指向该对象的指针永远不会发生逃逸,对象只可能是栈分配的候选,而不是堆分配
- JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃l逸出方法的话,就可能被优化成栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了
- 常见的栈上分配的场景
- 在逃逸分析中,已经说明了。分别是给成员变量赋值、方法返回值、实例引用传递
-
栈上分配的效果还是比较好的
-
/** * -Xms1G -Xmx1G -XX:-DoEscapeAnalysis -XX:+PrintGCDetails * 运行结果:花费时间:9ms * -Xms1G -Xmx1G -XX:+PrintGCDetails * 运行结果:花费时间:3ms */ public class EscapeTest2 { public static void main(String[] args) { long start = System.currentTimeMillis(); for (int i = 0; i < 1000000; i++) { alloc(); } //查看执行时间 long end = System.currentTimeMillis(); System.out.println("花费时间:" + (end - start) + "ms"); try { Thread.sleep(1000000); } catch (InterruptedException e) { e.printStackTrace(); } } private static void alloc() { EscapeTest2 escapeTest2 = new EscapeTest2(); }
}
-
同步省略
- 如果一个对象被发现了只能从一个线程被访问到,那么对这个对象的操作可以不考虑同步
- 线程同步的代价是相当高的,同步的后果是降低并发性和性能
- 在动态编译同步块时,JIT编译器可以借助逃逸分析来判断同步块所使用的对象是否只能被一个线程访问而不发布到其他线程中。
- 如果没有,那么JIT编译器在编译这个同步块时就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫做同步省略,也叫锁消除
- 锁消除发生在字节码加载到内存后,反编译时还是能够看到对应代码块有着锁同步
分离对象或标量替换
有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器
标量(Scalar)是指无法再分解成更小的数据。Java中基本数据类型就是标量
相对的,那些还可以分解的数据叫做聚合量(Aggregate),Java中对象就是聚合量,其可以分解成其它聚合量和标量
在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来替代
这个过程就是标量替换
- 标量替换大大减少了堆内存的占用
- 变量替换为栈上分配提供了很好的基础
参数设置
- -XX:+EliminateAllocations 开启标量替换(默认打开),允许将对象打散分配在栈上,即将对象的标量字段视为独立的局部变量在栈上进行分配
- -server∶启动Server模式,因为在Server模式下,才可以启用逃逸分析
- -XX∶+DoEscapeAnalysis∶启用逃逸分析
/**
* 测试标量替换
* -Xms1G -Xmx1G -XX:+PrintGC -XX:+DoEscapeAnalysis -XX:-EliminateAllocations
* 运行结果:花费时间:99ms
* -Xms1G -Xmx1G -XX:+PrintGC -XX:+DoEscapeAnalysis -XX:+EliminateAllocations
* 运行结果:花费时间:3ms
*/
public class EscapeTest3 {
public EscapeTest3(int id, String name) {
this.id = id;
this.name = name;
}
private int id;
private String name;
public static void main(String[] args) {
long start = System.currentTimeMillis();
for (int i = 0; i < 10000000; i++) {
alloc();
}
//查看执行时间
long end = System.currentTimeMillis();
System.out.println("花费时间:" + (end - start) + "ms");
try {
Thread.sleep(1000000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
private static void alloc() {
EscapeTest3 escapeTest2 = new EscapeTest3(1, "liangye");
}
}
小结
逃逸分析并不成熟
-
关于逃逸分析的论文在1999年就已经发表了,但直到JDK 1.6才有实现,而且这项技
术到如今也并不是十分成熟的
-
其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的,这其实也是一个相对耗时的过程
- 一个极端的例子,就是经过逃逸分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了
-
虽然这项技术并不十分成熟,但是它也是即时编译器优化技术中一个十分重要的手段。·注意到有一些观点,认为通过逃逸分析,JVM会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于JVM设计者的选择。据我所知,Oracle Hotspot JVM中并未这么做,这一点在逃逸分析相关的文档里已经说明,所以可以明确所有的对象实例都是创建在堆上(否定之否定)
-
目前很多书籍还是基于JDK 7以前的版本,JDK已经发生了很大变化,intern字符串的缓存和静态变量曾经都被分配在永久代上,而永久代已经被元数据区取代。但是,intern字符串缓存和静态变量并不是被转移到元数据区,而是直接在堆上分配,所以这一点同样符合前面一点的结论∶对象实例都是分配在堆上