JVM堆
堆的核心概述
- 一个JVM实例只存在一个堆内存，堆也是Java内存管理的核心区域。(如下例1)
- Java堆在JVM启动时被创建，其空间大小也就被确定了。是JVM管理的最大一块内存空间。(JVM堆内存的大小是可调节的)
- 《Java虚拟机规范》规定，堆可以处于物理上不连续的内存空间中，但在逻辑上它应该被是视为连续的。
- 所有的线程共享Java堆，在这里还可以划分线程私有的缓冲区(Thread Local Allocation Buffer,TLAB)。
- Java虚拟机规范中描述：所有对象实例以及数组都要在堆上分配。(从实际角度来看，“几乎”是所有的对象实例都在这里分配)
- 数组和对象可能永远不会存储在栈上，因为栈帧中保存引用，这个引用指向对象或者数组在堆中的位置。
- 在方法结束后，堆中的对象不会马上被移除，仅仅在垃圾收集的时候才会被移除。
- 堆，是GC执行垃圾回收的重点区域。
例1：
①启动两个实例
②在jdk/bin中启动：jvisualvm.exe
附：jvisualvm 插件安装：https://www.cnblogs.com/old-cha/p/13171879.html
内存细分
现代垃圾收集器大部分都是基于分代收集理论设计，堆空间细分为：
- JDK7及之前堆内存逻辑上分为三部分：新生区+养老区+永久区
- Young Generation Space 新生区 Young/New
- 又被划分为Eden区和Survivor区
- Tenure Generation Space 老年区 Old/Tenure
- Permanent Space 永久区 Perm
- Young Generation Space 新生区 Young/New
- JDK8及之后堆内存逻辑上分为三部分：新生区+养老区+元空间
- Young Generation Space 新生区 Young/New
- 又被划分为Eden区和Survivor区
- Tenure Generation Space 老年区 Old/Tenure
- Meta Space 元空间 Meta
- Young Generation Space 新生区 Young/New
设置堆内存大小
- Java堆用于存储Java对象实例，堆的大小在JVM启动时就设定好了。可通过“-Xmx”和“-Xms”来设置：
- "-Xms" 用于表示堆区的起始内存，等价于 -XX:InitialHeapSize
- "-Xmx" 用于表示堆区的最大内存，等价于 -XX:MaxHeapSize
- 一旦堆区中的内存大小超过“-Xmx”指定的最大内存，会抛出OutOfMemory异常。
- 通常会将 -Xms 和 -Xmx 两个参数配置相同的值，其目的是为了能够在java垃圾回收机制清理完堆区后不需要重新分隔计算堆区大小，从而提高性能。
- 默认情况下，初始内存大小：物理电脑内存大小/64 ；最大内存大小：物理电脑内存大小/4
空间测试：
public class HeapSizeInitial { /** * 1.设置堆空间大小参数 * -Xms 用来设置堆空间(年轻代+老年代)的初始内存大小 * -X 是jvm运行参数 * ms 是memory start * -Xms 用来设置堆空间(年轻代+老年代)的最大内存大小 * * 2.默认情况下，初始内存大小：物理电脑内存大小/64 * 最大内存大小：物理电脑内存大小/4 */ public static void main(String[] args) { //返回Java虚拟机中的堆内存容量 long initialMemory = Runtime.getRuntime().totalMemory() / 1024 / 1024; //返回Java虚拟机试图试用的最大堆内存量 long maxMemory = Runtime.getRuntime().maxMemory() / 1024 / 1024; System.out.println("-Xms:" + initialMemory + "M"); System.out.println("-Xmx:" + maxMemory + "M"); System.out.println("系统内存大小为：" + initialMemory * 64 / 1024 + "G"); System.out.println("系统内存大小为：" + maxMemory * 4 / 1024 + "G"); // try { // Thread.sleep(1000000); // } catch (InterruptedException e) { // e.printStackTrace(); // } } }
查看设置的参数：(from和to只有一份能够算进Heap内存中)
方式一：使用 jps 和 jstat -gc pid 查看
方式二：-XX:+PrintGCDeatils
OOM测试：
public class OOMTest { public static void main(String[] args) { ArrayList<Picture> list = new ArrayList<>(); while (true) { try { Thread.sleep(50); } catch (InterruptedException e) { e.printStackTrace(); } list.add(new Picture(new Random().nextInt(1024 * 1024))); } } } class Picture{ private byte[] pixels; public Picture(int length){ this.pixels = new byte[length]; } }
年轻代和老年代
- 存储在JVM的的Java对象可以被划分为两类：
- 一类是生命周期较短的瞬时对象，这类对象的创建和消亡都非常迅速。
- 另外一类对象的生命周期都非常长，在某些极端情况下还能够与JVM生命周期保持一致。
- Java堆中进一步细分，可分为年轻代(youngGen)和老年代(OldGen)
- 其中年轻代又可以划分为Eden空间、Survivor0空间和Survivor1空间(From,To区)
- 配置新生代和老年代的结构占比：
- 默认 -XX:NewRatio=2 表示新生代占1，老年代占2，新生代占整个堆的1/3
- 可以修改 -XX:NewRatio=4 表示新生代占1，老年代占4，新生代占整个堆的1/5
- 在HotSpot中，Eden空间和另外两个Survivor空间缺省占比的比例是8：1：1(默认值-XX:SurvivorRatio=8)。
- 可通过“-XX:SurvivorRatio”调整次比例。
- 几乎所有的Java对象都是在Eden区域被new出来。
- 绝大部分的Java对象的销毁都是在年轻代(新生代)进行。
- 可以使用“-Xmn”设置新生代最大内存大小(一般使用默认值即可)。
Eden->From->To->Old示例图：
使用 jvisualvm 看不到8：1：1，使用以下配置(如果无效，需要显示使用 -XX:SurvivorRatio=8)
-XX：-UseAdaptiveSizePolicy （关闭自适应内存分配策略）
-XX：+UseAdaptiveSizePolicy （开启自适应内存分配策略）
对象分配过程
为新对象分配内存是一件非常严谨和复杂的任务，JVM的设计者们不仅需要考虑内存如何分配、在哪里分配等问题。并且由于内存分配算法与内存回收算法密切相关，所以还需要考虑GC执行完内存回收后是否在内存中产生内存碎片。
- new对象先放Eden区。此区有大小限制。
- 当Eden空间填满时，程序又需要创建对象，JVM的垃圾回收器将对Eden区进行垃圾回收(Minor GC)，将Eden区中不再被其他对象所引用的对象进行销毁。再加载新的对象到Eden区。
- 然后将Eden区的剩余对象移动到Survivor0(S0)区。
- 如果再次触发垃圾回收，此时上次幸存下来的放到Survivor0(S0)区，如果没有回收，就放到Survivor1(S1)区。
- 如果再次经历垃圾回收，此时会重新放到Survivor0区，接着再去Survivor1区。
- 去老年区可通过参数设置，默认15次。(-XX:MaxTenuringThreshold=<N>进行设置)
- 在老年区，相对悠闲。当老年区内存不足时，再次触发GC：Major GC，进行老年区内存清理。
- 当老年区执行了Major GC后发现仍然无法进行对象保存，就会产生OOM异常。
对象分配一般过程如下图：
图1：
图2：
使用上面的OOMTest代码进行测试，在jvisualvm查看：
总结：
- 针对S0和S1区，复制之后有交换，谁空就变成To。
- 关于垃圾回收：频繁在新生区收集，很少在养老区收集，几乎不在永久区/元空间收集。
常用调优工具：
- JDK命令行
- Eclipse:Memory Analyzer Tool
- JConsole
- VisualVM
- JProfiler（https://www.ej-technologies.com/download/jprofiler/files）
- Java Flight Recoder
- GCViewer
- GC Easy
Minor GC、Major GC 与 Full GC
JVM在进行GC时，并非每次都对上面三个内存(新生代，老年代，方法区)区域一起回收，大部分回收指的是新生代。针对HotSpot VM的实现，它里面的GC按回收区域又分为两大种类型：一种是部分收集(Partial GC)，一种是整堆收集(Full GC)
- 部分收集：不是完整收集整个Java堆的垃圾收集，其中又分为：
- 新生代收集（Minor GC/Young GC）：只是新生代的垃圾收集。
- 老年代收集（Major GC/Old GC）：只是老年代的垃圾收集。
-> 目前，只有CMS GC会单独收集老年代的行为。
-> 注意，很多时候Major GC和Full GC混淆使用，需要具体分辨是老年代回收还是整堆回收。 - 混合收集（Mixed GC）：收集整个新生代以及部分老年代的垃圾收集。
-> 目前，只有G1 GC有这种行为
- 整堆收集（Full GC）：收集整个Java堆和方法区的垃圾收集。
年轻代GC(Minor GC)触发机制：
- 当年轻代空间不足时，就会触发Minor GC，这里年轻代满指的是Eden区满，Survivor满不会引发GC。(每次Minor GC会清理年轻代内存)
- 因为Java对象大多数都具备朝生夕灭的特征，所以Minor GC非常频繁，一般回收速度也较快。
- Minor GC会引发STW，暂停其他用户线程，等垃圾回收结束，用户线程才恢复。
老年代GC(Major GC)触发机制：
- 指发生在老年代的GC，对象从老年代消失时，我们说“Major GC”或者“Full GC”发生了。
- 出现了Major GC，经常会伴随至少一次的Minor GC（但非绝对，在Parallel Scavenge收集器的收集策略里就有直接进行Major GC的策略选择过程）
-> 也就是在老年代空间不足时，会先尝试Minor GC。如果之后空间还不足，则会触发Major GC。 - Major GC的速度一般比Minor GC慢10倍以上，STW时间更长。
- 如果Major GC之后内存还不足就会OOM。
Full GC触发机制有以下五种：
- 调用System.gc()时，系统建议执行Full GC，但不必然执行
- 老年代空间不足
- 方法区空间不足
- 通过Minor GC后进入老年代的平均大小大于老年代的可用内存
- 由Eden区，S0(From)区向S1(To)区复制时，对象大小大于To区可用内存，则把该对象转存到老年代，且老年代的可用内存小于该对象大小。
说明：Full GC是开发或调优中尽量要避免的，这样STW时间会短。
为什么要把Java堆分代？不分代就不能正常工作吗？
- 经研究，不同对象生命周期不同。70%~99%的对象都是临时对象。
- 不分代完全可以，分代的唯一理由就是优化GC性能。
内存分配策略(对象提升Promotion规则)
针对不同年龄段的对象分配规则如下：
- 优先分配到Eden
- 大对象直接分配到老年代
- 尽量避免程序中出现过多大对象
- 长期存活对象分配到老年代
- 动态对象年龄判断
- 如果Survivor区相同年龄的所有对象大小总和大于Survivor空间的一半，年龄大于或等于该年龄的对象可以直接进入老年代，无需等到MaxTenuringThreshold中要求的年龄。
- 空间分配担保
- -XX:HandlePromotionFailure
大对象直接分配老年代代码：
public class YoungOldAreaTest { /** * 测试 大对象直接进入老年代 * -Xms60m -Xmx60m -XX:NewRatio=2 -XX:SurvivorRatio=8 -XX:+PrintGCDetails */ public static void main(String[] args) { byte[] buffer = new byte[1024 * 1024 * 20];//20m } }
TLAB
为什么要有TLAB（Thread Local Allocation Buffer）
- 堆区是线程共享区域，任何线程都可以访问到堆区中的共享数据
- 由于对象实例的创建在JVM中非常频繁，因此在并发环境下从堆区划分内存空间是线程不安全的
- 为避免多个线程操作同一地址，需要使用加锁等机制，进而影响分配速度
什么是TLAB
- 从内存模型而不是垃圾收集的角度，对Eden区继续进行划分，JVM为每个线程分配了一个私有缓存区域。它包含在Eden空间内。
- 多线程同时分配内存时，使用TLAB可以避免一系列非线程安全问题，同时还能提高内存分配的吞吐量，因此我们可以将这种内存分配方式称为快速分配策略。
- 目前所知的OpenJDK衍生出来的JVM都提供TLAB设计。
TLAB再说明：
- 尽管不是所有的对象实例都能在TLAB中成功分配内存，但JVM确实将TLAB作为内存分配的首选。
- 可通过 -XX:UseTLAB 设置是否开启TLAB
- 默认情况下，TLAB空间的内存非常小，**仅占整个Eden空间的1%。**当然可以通过 -XX:TLABWasteTargetPercent 设置TLAB空间占Eden百分比大小。
- 一旦对象在TLAB空间分配失败，JVM就会尝试通过使用加锁机制确保数据操作的原子性，从而直接在Eden空间中分配内存。
对象分配过程：
堆空间参数设置
- 官网说明：https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html
- -XX:+PrintFlagsInitial 查看所有的参数的默认初始值
- -XX:+PrintFlagsFinal 查看所有参数的最终值(可能会存在修改，不再是初始值)
-> 具体查看某个参数(比如查看SurvivorRatio)的指令 jps：查看当前运行中的进程
jinfo -flag SurvivorRatio 进程 id - -Xms 初始堆空间内存(默认为物理内存的1/64）
- -Xmx 最大堆空间内存(默认为物理内存的1/4)
- -Xmn 设置新生代的大小(初始值和最大值)
- -XX:NewRatio 配置新生代与老年代在堆结构占比
- -XX:SurvivorRatio 设置新生代中Eden和S0/S1空间的比例
- -XX:MaxTenuringThreshold 设置新生代垃圾的最大年龄
- -XX:+PrintGCDetails 输出GC详细处理日志
- 打印GC简要信息 -XX:+PrintGC -verbose:gc
- -XX:HandlePromotionFailure 是否设置空间分配担保
-XX:HandlePromotionFailure解释：
在发生Minor GC之前，虚拟机会检查老年代最大可用连续空间是否大于新生代所有对象的总空间。
- 如果大于，则此次Minor GC是安全的
- 如果小于，则虚拟机会查看-XX:HandlePromotionFailure设置值是否允许担保失败。
- 如果HandlePromotionFailure=true，那么会继续检查老年代最大可用连续空间是否大于历次晋升老年代对象的平均大小。
- 如果大于，则尝试进行一次Minor GC，但此次Minor GC仍然是有风险的。
- 如果小于，则改为进行一次Full GC
- 如果如果HandlePromotionFailure=false，则改为进行一次Full GC。
- 如果HandlePromotionFailure=true，那么会继续检查老年代最大可用连续空间是否大于历次晋升老年代对象的平均大小。
在JDK7之后，HandlePromotionFailure参数不会再影响到虚拟机空间分配担保策略(即为True)。规则变为：只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行MinorGC，否则进行Full GC。
堆是分配对象存储的唯一选择吗？
随着JIT编译期的发展与逃逸技术分析渐渐成熟，栈上分配，标量替换优化技术将导致一些微妙变化，所有对象分配到堆上不是那么绝对了。
在Java虚拟机中，对象是在Java堆中分配内存的，但有一种特殊情况，那就是**如果经过逃逸分析(Escape Analysis)后发现，一个对象并没有逃逸出去的方法，那么就可能被优化成栈上分配。**这样就无需在堆上分配内存，也无需进行垃圾回收。这也是最常见的堆外存储技术。
逃逸分析概述
- 如何将堆上对象分配到栈，需要使用逃逸分析手段。
- 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法。
- 通过逃逸分析，Java HotSpot编译期能够分析出一个新的对象的引用的范围从而决定是否要将这个对象分配到堆上。
- 逃逸分析的基本行为就是分析对象动态作用域：
- 当一个对象在方法中被定义后，对象只在方法内部使用，则认为没有发生逃逸。
- 当一个对象在方法中被定义后，他被外部方法所引用，则认为发生逃逸。例如作为调用参数传递到其他方法中。
如何快速的判断是否发生了逃逸分析，就看new的对象实体是否有可能在方法外被调用。
public class EscapeAnalysis { public EscapeAnalysis obj; /* 方法返回EscapeAnalysis对象，发生逃逸 */ public EscapeAnalysis getInstance(){ return obj == null ? new EscapeAnalysis() : obj; } /* 为成员属性赋值，发生逃逸 */ public void setObj(){ this.obj = new EscapeAnalysis(); } /* 对象的作用域仅在当前方法有效，没有发生逃逸 */ public void useEscapeAnalysis(){ EscapeAnalysis e = new EscapeAnalysis(); } /* 引用成员变量的值，发生逃逸 */ public void useEscapeAnalysis1(){ EscapeAnalysis e = getInstance(); } }
参数设置：
在JDK7之后，HotSpot默认开启了逃逸分析。
早起版本可以使用 -XX:DoEscapeAnalysis显示开启逃逸分析，通过-XX:+PrintEscapeAnalysis 查看逃逸分析筛选结果。
结论：
开发中能使用局部变量的，就不要使用在方法外定义。
逃逸分析：代码优化
使用逃逸分析，编译器可以对代码做如下优化：
- 栈上分配。将堆分配转化为栈分配。如果一个对象在子程序中被分配，要使指向该对象的指针永远不会逃逸，对象可能是栈分配的候选，而不是堆分配。
- 同步省略。如果一个对象被发现只能从一个线程被访问到，那么对于这个对象的操作可以不考虑同步。
- 分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到，那么对象的部分(或全部)可以不存储在内存，而是储存在CPU寄存器中。
1.代码优化之栈上分配代码示例：
/** * 栈上分配测试 * -Xmx1G -Xms1G -XX:+DoEscapeAnalysis -XX:+PrintGCDetails */ public class StackAllocation { public static void main(String[] args) { long start = System.currentTimeMillis(); for (int i = 0; i <10000000 ; i++) { alloc(); } long end = System.currentTimeMillis(); System.out.println("花费的时间为："+(end-start)+" ms"); try { Thread.sleep(100000); } catch (InterruptedException e) { e.printStackTrace(); } } private static void alloc(){ User user = new User();//未发生逃逸 } static class User{ } }
2.代码优化之同步省略(消除)
- 线程同步的代价是相当高的，同步的后果是降低并发性和性能。
- 在动态编译同步块的时候，JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能被一个线程访问而没有被发布到其他线程。如果没有，那么JIT编译器会在编译这个同步块的时候会取消这部分代码的同步。这样就大大提高并发性和性能。这个取消同步的过程叫同步省略，也叫锁消除。
/** * 同步省略说明 */ public class SynchronizedTest { public void f(){ Object hollis = new Object(); synchronized (hollis) { System.out.println(hollis); } } }
3.代码优化之分离对象或标量替换。
标量(Scalar)是指一个无法再分解成更小数据的数据。Java中的原始数据类型就是标量。
相对的，那些还可以分解的数据叫做聚合量(Aggregate)，Java中的对象就是聚合量，因为它可以分解成其他聚合量和标量。
在JIT阶段，如果经过逃逸分析，发现一个对象不会被外界访问的话，那么经过JIT优化，就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。
/** * 标量替换测试 * -Xmx100m -xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:-EliminateAllocations */ public class ScalarReplace { public static class User{ public int id; public String name; } public static void alloc(){ User u = new User();//未发生逃逸 u.id = 5; u.name = "Chase"; } public static void main(String[] args) { long start = System.currentTimeMillis(); for (int i = 0; i < 10000000; i++) { alloc(); } long end = System.currentTimeMillis(); System.out.println("花费时间："+(end-start)+" ms"); } }
标量替换参数设置:参数 -XX:+EliminateAllocations 开启了标量替换(默认打开)，允许将对象打散分配在栈上。
逃逸分析并不成熟。
- 无法保证逃逸分析的性能消耗一定能高于它的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析，这其实也是一个相对耗时的过程。
- 虽然这项技术并不成熟，但它也是即时编译器优化技术中一个十分重要的手段。
浙公网安备 33010602011771号