一、内存与垃圾回收篇
JVM参数列表:http://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html
(1-17章)
1、JVM与Java体系结构
1.1、JVM整体架构
■ HotSpot VM 是目前市面上高性能虚拟机的代表作之一
■ 它采用解释器与即时编译器并存的架构
■ 在今天,Java 程序的运行性能早已脱胎换骨,已经达到了可以与 C/C++ 程序一较高下的地步
1.2、JVM的架构模型
Java 编译器输入的指令流基本上是一种基于栈的指令集架构,另一种指令集架构则是基于寄存器的指令集架构
具体来说:这两种架构之间的区别:
■ 基于栈式架构的特点:
● 设计与实现更简单,适用于资源受限的系统;
● 避开了寄存器的分配难题:使用零地址指令方式分配;
● 指令流中的指令大部分是零地址指令,其执行过程依赖于操作栈。指令集更小,编译器容易实现;
● 不需要硬件支持,可移植性更好,更好实现跨平台
■ 基于寄存器架构的特点:
● 典型的应用是 x86 的二进制指令集:比如传统的 PC 以及 Android 的 Davlik 虚拟机;
● 指令集架构则完全依赖硬件,可移植性差
● 性能优秀和执行更高效;
● 花费更少的指令去完成一项操作;
● 在大部分情况下,基于寄存器架构的指令集往往都以一地址指令、二地址指令和三地址指令为主,而基于
栈式架构的指令集却是以零地址指令为主
举例:基于栈结构
1、编写 java 代码:
public static void main(String[] args) {
int i = 2;
int j = 3;
int k = i + j;
}
2、编译代码:
在 idea 中点击菜单栏的 Build,进行编译,编译完后,在项目路径下有一个 target 目录
3、进入编译的字节码路径下
4、将字节码文件进行反编译:
5、查看反编译内容如下:
总结:
由于跨平台性的设计,Java 的指令都是根据栈来设计的。不同平台 CPU 架构不同,所以不能设计为基于寄存器的。优点是跨平台,指令集小,编译器容易实现,缺点是性能下降,实现同样的功能需要更多的指令。
栈的特点:
优点:跨平台性,指令集小,指令多;缺点:执行性能比寄存器差;
时至今日,尽管嵌入式平台已经不是 Java 程序的主流运行平台了(准确来说应该是 HotSpot VM 的宿主环境已经不局限于嵌入式平台了),那么为什么不将架构更换为基于寄存器的架构呢?
1.3、JVM的生命周期
①、虚拟机的启动
Java 虚拟机的启动是通过引导类加载器(bootstrap class loader)创建一个初始类(initial class)来完成的,这个类是由虚拟机的具体实现指定的
②、虚拟机的执行
■ 一个运行中的 Java 虚拟机有着一个清晰的任务:执行java程序
■ 程序开始执行时它才运行,程序结束时它就停止
■ 执行一个所谓的 Java 程序的时候,真真正正在执行的是一个叫做 Java 虚拟机的进程
③、虚拟机的退出
有如下的几种情况:
■ 程序正常执行结束
■ 程序在执行过程中遇到了异常或错误而异常终止
■ 由于操作系统出现错误而导致 Java 虚拟机进程终止
■ 某线程调用 Runtime 类或 System 类的 exit 方法,或 Runtime 类的 halt 方法,并且 java 安全管理器也允许这次 exit 或 halt 操作
■ 除此之外,JNI(Java Native Interface)规范描述了 JNI Invocation API 来加载或卸载 Java 虚拟机时,Java虚拟机的退出情况
1.4、JVM发展历程
①、Sun Classic VM
■ 早在 1996 年 Java1.0版本的时候,Sun公司发布了一款名为 Sun Classic VM 的 Java 虚拟机,它同时也是世界上第一款商用 Java 虚拟机,JDK1.4时完全被淘汰
■ 这款虚拟机内部只提供解释器
■ 如果使用 JIT编译器,就需要进行外挂。但是一旦使用了 JIT 编译器,JIT就会接管虚拟机的执行系统。解释器就不再工作。解释器和编译器不能配合工作。
■ 现在 hotspot 内置了此虚拟机
②、Exact VM
■ 为了解决上一个虚拟机的问题,jdk1.2时,sun提供了此虚拟机
■ Exat Memory Management:准确式内存管理
● 也可以叫 Non-Conservative/Accurate Memory Management
● 虚拟机可以知道内存中某个位置的数据具体是什么类型
■ 具备现代高性能虚拟机的雏形
● 热点探测
● 编译器与解释器混合工作模式
■ 只在 Solaris 平台短暂使用,其他平台上还是 Classic VM
● 英雄气短,终被 HotSpot 虚拟机替换
③、HotSpot VM
■ HotSpot 历史
● 最初由一家名为 “Longview Technologies” 的小公司设计
● 1997年,此公司被 sun 收购;2009年,sun公司被甲骨文收购
● JDK1.3 时,HotSpot VM 成为默认虚拟机
■ 目前 HotSpot 占有绝对的市场地位,称霸武林
● 不管是现在仍在广泛使用的 JDK6,还是使用比较多的 JDK8中,默认的虚拟机都是 HotSpot
● Sun/Oracle JDK 和 OpenJDK 的默认虚拟机
● 因此本课程中默认介绍的虚拟机都是 HotSpot,相关机制也主要是指 HotSpot 的 GC 机制(比如其他两个商用虚拟机都没有方法区的概念)
■ 从服务器、桌面到移动端、嵌入式都有应用
■ 名称中的 HotSpot 指的就是它的热点代码探测技术
● 通过计数器找到最具编译价值代码,触发即时编译或栈上替换
● 通过编译器与解释器协同工作,在最优化的程序响应时间与最佳执行性能中取得平衡
④、BEA 的 JRockit
■ 专注于服务器端应用
● 它可以不太关注程序启动速度,因此 JRockit 内部不包含解释器实现,全部代码都靠即时编译器编译后执行
■ 大量的行业基准测试显示,JRockit JVM 是世界上最快的 JVM
● 使用 JRockit 产品,客户已经体验到了显著的性能提高(一些超过了70%)和硬件成本的减少(50%)
■ 优势:全面的 Java 运行时解决方案组合
● JRockit 面向延迟敏感型应用的解决方案 JRockit Real Time 提供以毫秒或微妙级的 JVM 响应时间,适合财务、军事指挥、电信网络的需要
● MissionControl 服务套件,它是一组以极低的开销户来监控、管理和分析生产环境中的应用程序的工具
■ 2008 年,BEA被Oracle收购
■ Oracle 表达了整合两大优秀虚拟机的工作,大致在 JDK8 中完成。整合的方式是在 HotSpot 的基础上,移植 JRockit的优秀特性
⑤、IBM的 J9
■ 全称:IMB Technology for Java Virtual Machine,简称 IT4J,内部代号:J9
■ 市场定位与 HotSpot 接近,服务器端、桌面应用、嵌入式等多用途VM
■ 广泛用于 IBM 的各种 Java 产品
■ 目前,有影响力的三大商用虚拟机之一,也号称是世界上最快的 Java 虚拟机
■ 2017 年左右,IBM发布了开源 J9 VM,命名为 OpenJ9,交给 Eclipse 基金会管理,也称为 Eclipse OpenJ9
2、类加载子系统
2.1、内存结构概述
2.2、概述类的加载器及类加载过程
①、类加载器子系统作用
类加载器子系统包含三个阶段:
● 加载阶段
● 链接(验证)阶段
● 初始化阶段
■ 类加载器子系统负责从文件系统或者网络中加载 Class 文件,Class 文件在文件开头有特定的文件标识
■ ClassLoader 只负责 Class 文件的加载,至于它是否可以运行,则由 Execution Engine 决定
■ 加载的类信息存放于一块称为方法区的内存空间。除了类的信息外,方法区中还会存放运行时常量池信息,可能还包含字符串字面量和数字常量(这部分常量信息是Class 文件中常量池部分的内存映射)
②、类加载器ClassLoader角色
■ class file 存在于本地硬盘上,可以理解为设计师画在纸上的模板,而最终这个模板在执行的时候是要加载到 JVM 当中来根据这个文件实例化出 n 个一模一样的实例
■ class file 加载到 JVM 中,被称为 DNA 元数据模板,放在方法区
■ 在 .class 文件 → JVM → 最终成为元数据模板,此过程就要一个运输工具(类装载器 Class Loader),扮演一个快递员的角色
③、类的加载过程
定义一个 HelloLoader 的类,里面有 main 方法,启动的时候加载过程如下:
④、类的加载步骤
类的加载步骤如下:
■ 加载
步骤:
1、通过一个类的全限定名获取定义此类的二进制字节流
2、将这个字节流所代表的静态存储结构转化为方法区的运行时数据结构
3、在内存中生成一个代表这个类的 java.lang.Class 对象,作为方法区这个类的各种数据的访问入口
补充:加载 .class 文件的方式
● 从本地系统中直接加载
● 通过网络获取,典型场景:Web Applet
● 从 zip 压缩包中读取,成为日后 jar、war 格式的基础
● 运行时计算生成,使用最多的是:动态代理技术
● 由其他文件生成,典型场景:JSP 应用
● 从专有数据库中提取 .class 文件,比较少见
● 从加密文件中获取,典型的防 Class 文件被反编译的保护措施
■ 链接
链接阶段分 验证、准备、解析 三步:
● 验证(Verify)
○ 目的在于确保 Class 文件的字节流中包含信息符合当前虚拟机要求,保证被加载类的正确性,不会危害虚拟机自身安全
○ 主要包含 4 种验证,文件格式验证,元数据验证,字节码验证,符号引用验证
○ 查看字节码有两个工具
▲ 一个 Binary Viewer,这个工具可以查看字节码的二进制文件,字节码文件都是以 CA FE BA BE 开头的
▲ 一个 jclasslib Bytecode Viewer,这个相当于将字节码文件进行反编译。当然,我们也可以在 idea中安装此软件的插件,在插件中搜索 jclasslib bytecode viewer 安装即可,以后就可以在 idea 中查看反编译文件了。具体是点击菜单的 view,然后点击 show bytecode with jclasslib
● 准备(Prepare)
○ 为类变量(类中使用 static 修饰的变量)分配内存并且设置该类变量的默认初始值,即零值(数据类型不一样,它的零值也不一样,如int零值是0,布尔零值是false)。如下:在准备阶段时,会将 a 赋值为零值,如 int 型会赋值为 0
public class HelloApp {
public static int a = 1;
}
○ 这里不包含用 final 修饰的 static,因为 final 在编译的时候就会分配了,准备阶段会显式初始化
○ 这里不会为实例变量分配初始化,类变量会分配在方法区中,而实例变量是会随着对象一起分配到 Java 堆中
● 解析(Resolve)
○ 将常量池内的符号引用转换为直接引用的过程
○ 事实上,解析操作往往会伴随着 JVM 在执行完初始化之后再执行
○ 符号引用就是一组符号来描述所引用的目标。符号引用的字面量形式明确定义在《java虚拟机规范》的 Class 文件格式中。直接引用就是直接指向目标的指针、相对偏移量或一个间接定位到目标的句柄
○ 解析动作主要针对类或接口、字段、类方法、接口方法、方法类型等,对应常量池中的 CONSTANT_Class_info、CONSTANT_Fieldref_info、CONSTANT_Methodref_info 等
■ 初始化
● 初始化阶段就是执行类构造器方法() 的过程,() 方法不是我们自己写的,是初始化生成
● 此方法不需定义,是 javac 编译器自动收集类中的所有类变量的赋值动作和静态代码块中的语句合并而来。但是如果在类中没有类变量的赋值以及没有静态代码块,那么()这个方法是不会产生的
举例:
如下代码:
public class ClassInitTest {
private static int num = 1;
static {
num = 2;
}
public static void main(String[] args) {
System.out.println(num);
}
}
通过编译(idea 上编译),使用 jclasslib 查看内容,可以看到在 Methods 中有 方法。里面内容就是收集类中的所有类变量的赋值动作和静态代码块中的语句合并
● 构造器方法中指令按语句在源文件中出现的顺序执行
但是有一种情况,如下代码,是没有问题的(先赋值再定义)。这是因为类加载器的链接阶段中的准备阶段中将 number 初始为0,然后再在初始化阶段按代码顺序将number先赋值为20,再将number赋值为10。但是在静态代码块中引用number的时候会报错,提示非法的前向引用
public class ClassInitTest {
private static int num = 1;
static {
num = 2;
number = 20;
//System.out.println(number); 这种会报错,提示非法的前向引用
}
private static int number = 10; //linking的prepare阶段将number赋值为0, 然后在静态代码块中将number赋值为20,再将number赋值为10
public static void main(String[] args) {
System.out.println(num); //打印 2
System.out.println(number); // 打印 10
}
}
字节码文件反编译如下:
● () 不同于类的构造器。(关联:构造器是虚拟机视角下的())
每个类都有一个构造器,而构造器对应在反编译中的方法就是 () 方法,如:
● 若该类具有父类,JVM 会保证子类的 () 执行前,父类的() 已经执行完毕
看如下代码,其加载步骤如下:
1、首先加载 ClinitTest1,然后调用 main 方法
2、在 main 方法中有调用 Son 类,然后加载 Son
3、加载 Son 的时候,发现 Son 有父类,则会先加载父类,然后调用父类的 () 方法,将静态变量和静态代码块按代码块的顺序执行
public class ClinitTest1 {
static class Father {
public static int A = 1;
static {
A = 2;
}
}
static class Son extends Father {
public static int B = A;
}
public static void main(String[] args) {
System.out.println(Son.B); //打印 2
}
}
● 虚拟机必须保证一个类的 () 方法在多线程下被同步加锁
类只需加载一次,加载完后存入方法区()。举例:
如下代码,如果类加载的时候会加载多个时,DeadThread 类中的打印语句可能会打印多次,从下面的代码打印情况,只会打印一次,说明类在加载的时候会加锁,而且只会加载一份
public class DeadThreadTest {
public static void main(String[] args) {
Runnable r = () -> {
System.out.println(Thread.currentThread().getName() + "开始");
DeadThread dead = new DeadThread();
System.out.println(Thread.currentThread().getName() + "结束");
};
Thread t1 = new Thread(r, "线程1");
Thread t2 = new Thread(r, "线程2");
t1.start();
t2.start();
}
}
class DeadThread {
static {
if(true) {
System.out.println(Thread.currentThread().getName() + "初始化当前类"); //只会打印一次
while(true) {
}
}
}
}
2.3、类加载器分类
■ JVM 支持两种类型的类加载器,分别为 引导类加载器(Bootstrap ClassLoader) 和 自定义类加载器(User-Defined ClassLoader)
■ 从概念上来讲,自定义类加载器一般指的是程序中由开发人员自定义的一类加载器,但是 Java 虚拟机规范却没有这么定义,而是将所有派生于抽象类 ClassLoader 的类加载器都划分为自定义类加载器
■ 无论类加载器的类型如何划分,在程序中我们最常见的类加载器始终只有3个,如下所示
这里的四者之间的关系是包含关系,不是上层下层,也不是父类的继承关系。
看下面代码:
从代码打印可以看到:
■ 系统类加载器上层是扩展类加载器
■ 扩展类加载器上层是引导类加载器
■ 引导类加载器是无法打印出来的,是通过 C/C++等实现的
■ 用户自定义的类,是通过系统类加载器进行加载的
■ Java的核心类库都是使用引导类加载器进行加载的
public class ClassLoaderTest {
public static void main(String[] args) {
//获取系统类加载器
ClassLoader systemClassLoader = ClassLoader.getSystemClassLoader();
System.out.println(systemClassLoader);//sun.misc.Launcher$AppClassLoader@18b4aac2
//获取其上层:扩展类加载器
ClassLoader extClassLoader = systemClassLoader.getParent();
System.out.println(extClassLoader); //sun.misc.Launcher$ExtClassLoader@1540e19d
//获取其上层:获取不到引导类加载器
ClassLoader bootstrapClassLoader = extClassLoader.getParent();
System.out.println(bootstrapClassLoader); //null
//对于用户自定义类来说:默认使用系统类加载器进行加载
ClassLoader classLoader = ClassLoaderTest.class.getClassLoader();
System.out.println(classLoader); //sun.misc.Launcher$AppClassLoader@18b4aac2
//String类使用引导类加载器进行加载的。从中可以知道:Java的核心类库都是使用引导类加载器进行加载的
ClassLoader classLoader1 = String.class.getClassLoader();
System.out.println(classLoader1); //null
}
}
①、虚拟机自带的加载器
■ 启动类加载器
启动类加载器------> 引导类加载器,Bootstrap ClassLoader
● 这个类加载器使用 C/C++ 语言实现的,嵌套在 JVM 内部
● 它用来加载 Java 的核心库(JAVA_HOME/jre/lib/rt.jar、resources.jar或sun.boot.class.path路径下的内容),用于提供 JVM 自身需要的类
● 并不继承自 java.lang.ClassLoader,没有父加载器
● 出于安全考虑,Bootstrap启动类加载器只加载包名为java、javax、sun等开头的类
■ 扩展类加载器
(Extension ClassLoader)
● Java 语言编写,由 sun.misc.Launcher$ExtClassLoader 实现
● 派生于 ClassLoader 类
● 父类加载器为启动类加载器(并不是继承启动类加载器)
● 从 java.ext.dirs 系统属性所指定的目录中加载类库,或从 JDK 的安装目录的 jre/lib/ext 子目录(扩展目录)下加载类库。如果用户创建的 JAR 放在此目录下,也会自动由扩展类加载器加载
■ 应用程序类加载器
(也叫系统类加载器,AppClassLoader)
● java 语言编写,由 sun.misc.Launcher$AppClassLoader 实现
● 派生于 ClassLoader 类
● 父类加载器为扩展类加载器(并不是继承扩展类加载器)
● 它负责加载环境变量 classpath 或系统属性 java.class.path 指定路径下的类库
● 系统类加载器是程序中默认的类加载器,一般来说,Java应用的类都是由它来完成加载的
● 通过 ClassLoader$getSystemClassLoader() 方法可以获取到该类加载器
示例代码:验证启动类加载器和扩展类加载器的加载路径
public class ClassLoaderTest1 {
public static void main(String[] args) {
System.out.println("******启动类加载器******");
//获取BootstrapClassLoader能够加载的api路径
URL[] urls = Launcher.getBootstrapClassPath().getURLs();
for (URL url : urls) {
System.out.println(url.toExternalForm());
}
//从上面的路径中随意选择一个类,来看看它的类加载器是什么
ClassLoader classLoader = Provider.class.getClassLoader();
System.out.println(classLoader); //null
System.out.println("******扩展类加载器******");
String extDirs = System.getProperty("java.ext.dirs");
for (String path : extDirs.split(";")) {
System.out.println(path);
}
//从上面的路径中随意选择一个类,来看看它的类加载器是什么:
ClassLoader classLoader1 = CurveDB.class.getClassLoader();
System.out.println(classLoader1); //sun.misc.Launcher$ExtClassLoader@12a3a380
}
}
②、用户自定义类加载器
■ 在 Java 的日常应用程序开发中,类的加载几乎是由上述3种类加载器相互配合执行的,在必要时,我们还可以自定义类加载器,来定制类的加载方式
■ 为什么要自定义类加载器
● 隔离加载类
● 修改类加载的方式
● 扩展加载源
● 防止源码泄漏
■ 用户自定义类加载器实现步骤:
● 开发人员可以通过继承抽象类 java.lang.ClassLoader 类的方式,实现自己的类加载器,以满足一些特殊的需求
● 在 JDK1.2 之前,在自定义类加载器时,总会去继承 ClassLoader 类并重写 loadClass() 方法,从而实现自定义的类加载类,但是在 JDK1.2 之后已不再建议用户去覆盖 loadClass() 方法,而是建议把自定义的类加载逻辑写在 findClass() 方法中
● 在编写自定义类加载器时,如果没有太过于复杂的需求,可以直接继承 URLClassLoader 类,这样就可以避免自己去编写 findClass() 方法及其获取字节码流的方式,使自定义类加载器编写更加简洁
● 自定义类加载器模型编码:
/**
* @author 86130
* @date 2021/6/7 20:09
* @desc 描述: 自定义用户类加载器
*/
public class CustomClassLoader extends ClassLoader {
@Override
protected Class<?> findClass(String name) throws ClassNotFoundException {
try {
byte[] result = getClassFromCustomPath(name);
if(result == null) {
throw new FileNotFoundException();
} else {
return defineClass(name, result, 0, result.length);
}
} catch (FileNotFoundException e) {
e.printStackTrace();
}
throw new ClassNotFoundException(name);
}
private byte[] getClassFromCustomPath(String name) {
//从自定义路径中加载指定类:细节略
//如果指定路径的字节码文件进行了加密,则需要在此方法中进行解密操作
return null;
}
}
2.4、关于ClassLoader
■ ClassLoader 类,它是一个抽象类,其后所有的类加载器都继承自 ClassLoader(不包括启动类加载器,启动类加载器是用 C/C++ 编写)
■ api:
方法名称 | 描述 |
getParent() | 返回该类加载器的超类加载器 |
loadClass(String name) | 加载名称为 name 的类,返回结果为 java.lang.Class 类的实例 |
findClass(String name) | 加载名称为 name 的类,返回结果为 java.lang.Class 类的实例 |
findLoadedClass(String name) | 查找名称为 name 的已经被加载过的类,返回结果为 java.lang.Class 类的实例 |
defineClass(String name, byte[] b, int off, int len) | 把字节数组 b 中的内容转换为一个 Java 类,返回结果为 java.lang.Class 类的实例 |
resolveClass(Class<?> c) | 连接指定的一个 Java 类 |
■ 树形图
sun.misc.Launcher 它是一个 java 虚拟机的入口应用
■ 获取 ClassLoader 的途径
● 方式1:获取当前类的 ClassLoader
clazz.getClassLoader()
● 方式2:获取当前线程下上下文的 ClassLoader
Thread.currentThread().getContextClassLoader()
● 方式3:获取系统的 ClassLoader
ClassLoader.getSystemClassLoader
● 方式4:获取调用者的 ClassLoader
DriverManager.getCallerClassLoader()
2.5、双亲委派机制
①、概念
Java 虚拟机对 class 文件采用的是按需加载的方式,也就是说当需要使用该类时才会将它的 class 文件加载到内存生成 class 对象。而且加载某个类的 class 文件时,Java 虚拟机采用的是双亲委派机制,即把请求交由父类处理,它是一个任务委派模式
比如:在自己的项目下,创建一个包,包名叫 java.lang,然后在包里面创建一个类 String,在此 String 中加入一个静态代码块,并打印一些文字;然后创建一个测试类,在测试类中,new 一个 String,然后运行测试类,如果没有双亲委派机制,那么自定义的那个 String 的静态代码块会被打印出来,而由于有双亲委派机制,自定义的 String 的静态代码块中不会打印出信息,这就是双亲委派机制,可以防止用户创建和 Java 核心类库相同的类而导致核心类库中的类不能加载的问题。同样的,即使类名和核心类库不一样,但是包名和核心类库的包名一致也会报错
②、工作原理
● 如果一个类加载器收到了类加载请求,它并不会自己先去加载,而是把这个请求委托给父类的加载器去执行
● 如果父类加载器还存在其他父类加载器,则进一步向上委托,依次递归,请求最终将到达顶层的启动类加载器
● 如果父类加载器可以完成类加载任务,就返回成功,倘若父类加载器无法完成此加载任务,子加载器才会尝试自己去加载,这就是双亲委派模式
③、举例1
自定义包 java.lang,在包里面创建一个 String 类
public class String {
static {
System.out.println("自定义 String");
}
public static void main(String[] args) {
System.out.println("hello String...");
}
}
运行时报错:
这是由于 String 类由启动类加载器加载了,而启动类加载器加载的那个 String 中没有 main 方法,导致报错
④、举例2
当调用 JDBC 时,由于 JDBC 的接口在核心类库,此时,这些接口由引导类加载,但是 JDBC 具体实现是由系统类加载器加载的
⑤、优势
■ 避免类的重复加载
■ 保护程序安全,防止核心 API 被随意篡改
● 自定义类:java.lang.String
● 自定义类:java.lang.PengtxylStart
⑥、沙箱安全机制
自定义 java.lang.String 类,但是在加载自定义 String 类的时候会率先使用引导类加载器加载,而引导类加载器在加载过程中会先加载 jdk 自带的文件(rt.jar包中java\lang\String.class),报错信息说没有 main 方法就是因为加载的是 rt.jar 包中的 String 类。这样可以保证对 java 核心源代码保护,这就是沙箱机制
2. 6、其他
■ 在 JVM 中表示两个 class 对象是否为同一个类存在两个必要条件:
● 类的完整类名必须一致,包括包名
● 加载这个类的 ClassLoader(指 ClassLoader 实例对象) 必须相同
■ 换句话说,在 JVM 中,即使这两个类对象(class对象)来源同一个 Class 文件,被同一个虚拟机所加载,但只要加载它们的 ClassLoader 实例对象不同,那么这两个类对象也是不相等的
■ JVM 必须知道一个类型是由启动类加载器加载的还是由用户类加载器加载的。如果一个类型是由用户类加载器加载的,那么 JVM 会将这个类加载器的一个引用作为类型信息的一部分保存在方法区中。当解析一个类型到另一个类型的引用的时候,JVM 需要保证这两个类型的类加载器是相同的
■ Java 程序对类的使用方式分为:主动使用和被动使用
● 主动使用,又分为几种情况:
○ 创建类的实例
○ 访问某个类或接口的静态变量,或者对该静态变量赋值
○ 调用类的静态变量
○ 反射(比如:Class.forName(“com.atguigu.Test”))
○ 初始化一个类的子类
○ Java 虚拟机启动时被标明为启动类的类
○ JDK1.7 开始提供的动态语言支持:
java.lang.invoke.MethodHandle 实例的解析结果、REF_getStatic、REF_putStatic、REF_invokeStatic句柄对应的类没有初始化,则初始化
● 除了以上7种情况,其他使用 Java类的方式都被看作是对类的被动使用,都不会导致类的初始化
3、运行时数据区概述及线程
3.1、概述
■ 内存是非常重要的系统资源,是硬盘和 CPU 的中间仓库及桥梁,承载着操作系统和应用程序的实时运行。JVM 内存布局规定了 Java 在运行过程中内存申请、分配、管理的策略,保证了 JVM 的高效稳定运行。不同的 JVM 对于内存的划分方式和管理机制存在着部分差异。结合 JVM 虚拟机规则,来探讨一下经典的 JVM 内存布局
■ Java 虚拟机定义了若干种程序运行期间会使用到的运行时数据区,其中有一些会随着虚拟机启动而创建,随着虚拟机退出而销毁。另外一些则是与线程一一对应的,这些与线程对应的数据区域会随着线程开始和结束而创建和销毁
■ 上图中,灰色区域的为单独线程私有的,红色的为多个线程共享的。即:
● 每个线程:独立包括程序计数器、栈、本地栈
● 线程间共享:堆、堆外内存(永久代或元空间、代码缓存)
■ 每个 JVM 只有一个 Runtime 实例。即为运行时环境,相当于内存结构的中间的那个框框:运行时环境
3.2、线程
■ 线程是一个程序里的运行单元。JVM 允许一个应用有多个线程并行的执行。
■ 在 HotSpot JVM 里,每个线程都与操作系统的本地线程直接映射。
● 当一个 Java 线程准备好执行以后,此时一个操作系统的本地线程也同时创建。Java线程执行中止后,本地线程也会回收
■ 操作系统负责所有线程的安排调度到任何一个可用的 CPU 上。一旦本地线程初始化成功,它就会调用 Java 线程中的 run() 方法
■ 如果使用 jconsole 或者是任何一个调试工具,都能看到在后台有许多线程在运行。这些后台线程不包括调用 public static void main(String[]) 的main线程以及所有在这个 main 线程自己创建的线程
■ 这些主要的后台系统线程在 HotSpot JVM 里主要是以下几个:
● 虚拟机线程:这种线程的操作是需要 JVM 达到安全点才会出现。这些操作必须在不同的线程中发送的原因是他们都需要 JVM 达到安全点,这样堆才不会变化。这种线程的执行类型包括 “stop-the-world” 的垃圾收集,线程栈收集,线程挂起以及偏向锁撤销
● 周期任务线程:这种线程是时间周期事件的体现(比如中断),他们一般用于周期性操作的调度执行
● GC 线程:这种线程对在 JVM 里不同种类的垃圾收集行为提供了支持
● 编译线程:这种线程在运行时会将字节码编译成到本地代码
● 信号调度线程:这种线程接收信号并发送给 JVM,在它内部通过调用适当的方法进行处理
4、程序计数器(PC寄存器)
4.1、PC Register介绍
①、官网
https://docs.oracle.com/javase/specs/jvms/se8/html
②、介绍
JVM 中的程序计数器(Program Counter Register) 中,Register 的命名源于 CPU 的寄存器,寄存器存储指令相关的现场信息。CPU 只有把数据装载到寄存器才能够运行。
这里,并非是广义上所指的物理寄存器,或许将其翻译为 PC 计数器(或指令计数器)会更加贴切(也称为程序钩子),并且也不容易引起一些不必要的误会。JVM中的 PC 寄存器是对物理 PC 寄存器的一种抽象模拟
③、作用
PC 寄存器用来存储指向下一条指令的地址,也即将要执行的指令代码。有执行引擎读取下一条指令
④、概念
■ 它是一块很小的内存空间,几乎可以忽略不记。也是运行速度最快的存储区域
■ 在 JVM 规范中,每个线程都有它自己的程序计数器,是线程私有的,生命周期与线程的生命周期保持一致
■ 任何时间一个线程都只有一个方法在执行,也就是所谓的当前方法。程序计数器会存储当前线程正在执行的 Java方法的 JVM 指令地址;或者,如果是在执行 native 方法,则是未指定值(undefined),涉及到一个本地方法栈
■ 它是程序控制流的指示器,分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成
■ 字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令
■ 它是唯一一个在 JAVA 虚拟机规范中没有规定任务 OutOfMemoryError 情况的区域
4.2、举例说明
4.3、两个常见问题
问题一:
■ 使用 PC 寄存器存储字节码指令地址有什么用呢?
■ 为什么使用 PC 寄存器记录当前线程的执行地址呢?
因为 CPU 需要不停的切换各个线程,这时候切换回来以后,就得知道接着从哪开始继续执行;
JVM 的字节码解释器就需要通过改变 PC 寄存器的值来明确下一条应该执行什么样的字节码指令
问题二:
■ PC寄存器为什么会被设定为线程私有?
我们都知道所谓的多线程在一个特定的时间段内只会执行其中某一个线程的方法,CPU 会不停地做任务切换,这样必然导致经常中断或恢复,如何保证分毫无差呢?为了能够准确地记录各个线程正在执行的当前字节码指令地址,最好的办法自然是为每一个线程都分配一个 PC 寄存器,这样一来各个线程之间便可以进行独立计算,从而不会出现相互干扰的情况
由于 CPU 时间片轮限制,众多线程在并发执行过程中,任何一个准确的时刻,一个处理器或者多核处理器中的一个内核,只会执行某个线程中的一条命令
这样必然导致经常中断或恢复,如何保证分毫无差呢?每个线程在创建后,都会产生自己的程序计数器和栈帧,程序计数器在各个线程之间互不影响
4.4、CPU时间片
■ CPU 时间片即 CPU 分配给各个程序的时间,每个线程被分配一个时间段,称作它的时间片
■ 在宏观上:我们可以同时打开多个应用程序,每个应用程序并行不悖,同时运行
■ 但在微观上:由于只有一个 CPU,一次只能处理程序要求的一部分,如何处理公平,一种方法就是引入时间片,每个程序轮流执行
5、虚拟机栈
5.1、虚拟机栈概述
①、虚拟机栈出现的背景
■ 由于跨平台性的设计,Java 的指令都是根据栈来设计的。不同平台 CPU 架构不同,所以不能设计为基于存储器的
■ 优点是跨平台,指令集小,编译器容易实现,缺点是性能下降,实现同样的功能需要更多的指令
②、内存中的栈与堆
栈是运行时的单位,而堆是存储的单位。即:栈解决程序的运行问题,即程序如何执行,或者说如何处理数据。堆解决的是数据存储问题,即数据怎么放、放在哪儿
③、Java 虚拟机栈是什么
Java 虚拟机栈(Java Virtual Machine Stack),早期也叫 Java 栈。每个线程在创建时都会创建一个虚拟机栈,其内部保存一个个的栈帧(Stack Frame),对应着一次次的 Java 方法调用;它是线程私有的
④、生命周期
生命周期和线程一致
⑤、作用
主管 Java 程序的运行,它保存方法的局部变量(8种基本数据类型、对象的引用地址)、部分结果,并参与方法的调用和返回
⑥、虚拟机栈基本内容
▲ 栈的优点
■ 栈是一种快速有效的分配存储方式,访问速度仅次于程序计数器
■ JVM 直接对 Java 栈的操作只有两个:
● 每个方法执行,伴随着进栈(入栈、压栈)
● 执行结束后的出栈工作
■ 对于栈来说不存在垃圾回收问题
● GC
▲ 栈中可能出现的异常
■ Java 虚拟机规范允许 Java 栈的大小是动态的或者是固定不变的
● 如果采用固定大小的 Java 虚拟机栈,那每一个线程的 Java 虚拟机栈容量可以在线程创建的时候独立选定。如果线程请求分配的栈容量超过 Java 虚拟机栈允许的最大容量,Java 虚拟机将会抛出一个 StackOverflowError 异常
● 如果 Java 虚拟机栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的虚拟机栈,那 Java 虚拟机将会抛出一个 OutOfMemoryError 异常
▲ 设置栈内存大小
我们可以使用参数 -Xss 选项来设置线程的最大栈空间,栈的大小直接决定了函数调用的最大可达深度
5.2、栈的存储单位
①、栈中存储什么
■ 每个线程都有自己的栈,栈中的数据都是以栈帧(Stack Frame) 的格式存在
■ 在这个线程上正在运行的每个方法都各自对应一个栈帧(Stack Frame)
■ 栈帧是一个内存区块,是一个数据集,维系着方法执行过程中的各种数据信息
②、栈运行原理
■ JVM 直接对 Java 栈的操作只有两个,就是对栈帧的压栈和出栈,遵循 “先进后出” / “后进先出” 原则
■ 在一条活动线程中,一个时间点上,只会有一个活动的栈帧。即只有当前正在执行的方法的栈帧(栈顶栈帧)是有效的,这个栈帧称为当前栈帧(Current Frame),与当前栈帧相对应的方法就是当前方法(Current Method),定义这个方法的类就是当前类(Current Class)
■ 执行引擎运行的所有字节码指令只针对当前栈帧进行操作
■ 如果在该方法中调用了其他方法,对应的新的栈帧会被创建出来,放在栈的顶端,成为新的当前帧
■ 不同线程中所包含的栈帧是不允许存在相互引用的,即不可能在一个栈帧之中引用另外一个线程的栈帧
■ 如果当前方法调用了其他方法,方法返回之际,当前栈帧会传回此方法的执行结果给前一个栈帧,接着,虚拟机会丢弃当前栈帧,使得前一个栈帧重新成为当前栈帧
■ Java 方法有两种返回函数的方式,一种是正常的函数返回,使用 return 指令;另外一种是抛出异常。不管使用哪种方式,都会导致栈帧被弹出
③、栈帧的内部结构
■ 每个栈帧中存储着
● 局部变量表(Local Variables)
● 操作数栈(Operand Stack) (或表达式栈)
● 动态链接(Dynamic Linking) (或指向运行时常量池的方法引用)
● 方法返回地址(Return Address) (或方法正常退出或者异常退出的定义)
● 一些附加信息
5.3、局部变量表
■ 局部变量表也称为局部变量数组或本地变量表
■ 定义为一个数字数组,主要用于存储方法参数和定义在方法体内的局部变量,这些数据类型包括各类基本数据类型、对象引用(reference),以及 returnAddress 类型
■ 由于局部变量表是建立在线程的栈上,是线程的私有数据,因此不存在数据安全问题
■ 局部变量表所需的容量大小是在编译期确定下来的,并保存在方法的 Code 属性的 maximum local variables 数据项中。在方法运行期间是不会改变局部变量表的大小的
■ 方法嵌套调用的次数由栈的大小决定,栈越大,方法嵌套调用次数越多。对一个函数而言,它的参数和局部变量越多,使得局部变量表膨胀,它的栈帧就越大,以满足方法调用所需传递的信息增大的需求。进而函数调用就会占用更多的栈空间,导致其嵌套调用次数就会越少
■ 局部变量表中的变量只在当前方法调用中有效。在方法执行时,虚拟机通过使用局部变量表完成参数值到参数变量列表的传递过程。当方法调用结束后,随着方法栈帧的销毁,局部变量表也会随之销毁
■ 查看局部变量表方法:
● 可以使用 javap -v Clazz.class 查看
上图中,变量表下面的 Start 表示此变量的定义位置,Length表示此变量的有效代码行的长度,即9行代码有效
● 也可以使用 idea 中的 jclasslib 查看
点击 IDEA 中的 View 下的 jclasslib 查看
■ 关于上图中 Slot 的理解
● 参数值的存放总是在局部变量数组的 index0 开始,到数组 长度 -1 的索引结束
● 局部变量表,最基本的存储单元是 Slot(变量槽)
● 局部变量表中存放编译期可知的各种基本数据类型(8中),引用类型(reference),returnAddress 类型的变量
● 在局部变量表里,32位以内的类型只占用一个 Slot(包括 returnAddress 类型),64位的类型(long 和 double) 占用两个 slot
○ byte、shot、char、float 在存储前被转换为 int,boolean 也被转换为 int,0 表示 false,非 0 表示 true。这些占据一个 slot
○ long 和 double 则占据两个 slot
● JVM 会为局部变量表中的每一个 Slot 都分配一个访问索引,通过这个索引即可成功访问到局部变量表中指定的局部变量值
● 当一个实例方法被调用的时候,它的方法参数和方法体内部定义的局部变量将会按照顺序被复制到局部变量表中的每一个 slot 上
● 如果需要访问局部变量表中一个 64bit 的局部变量值时,只需要使用前一个索引即可。(比如:访问 long 或 double 类型变量)
● 如果当前帧是由构造方法或者实例方法创建的,那么该对象引用 this 将会存放在 index 为 0 的 slot 处,其余的参数按照参数表顺序继续排列
■ slot的重复利用
栈帧中的局部变量表中的槽位是可以重用的,如果一个局部变量过了其作用域,那么在其作用域之后申明的新的局部变量就很有可能会复用过期局部变量的槽位,从而达到节省资源的目的。如下图,变量 c 使用的就是变量 b的槽位
■ 举例:静态变量与局部变量的对比
/*
变量的分类:按照数据类型分:1、基本数据类型 2、引用数据类型
按照在类中声明的位置分:1、成员变量:在使用前,都经历过默认初始化赋值
类变量:linking的prepare阶段:给类变量默认赋值 ---> initial阶段:给类变量显示赋值,即静态代码块赋值
实例变量:随着对象的创建,会在堆空间中分配实例变量空间,并进行默认赋值
2、局部变量:在使用前,必须要进行显示赋值的!否则,编译不通过
*/
● 参数表分配完毕以后,再根据方法体内定义的变量的顺序和作用域分配
● 我们知道类变量表有两次初始化的机会,第一次是在 “准备阶段”,执行系统初始化,对类变量设置零值,另一次则是在 “初始化” 阶段,赋予程序员在代码中定义的初始值
● 和类变量初始化不同的是,局部变量表不存在系统初始化的过程,这意味着一旦定义了局部变量则必须人为的初始化,否则无法使用
public void test() {
int i;
System.out.println(i);
}
这样的代码是错误的,没有赋值不能够使用
■ 补充说明
● 在栈帧中,与性能调优关系最为密切的部分就是前面提到过的局部变量表。在方法执行时,虚拟机使用局部变量表完成方法的传递
● 局部变量表中的变量也是重要的垃圾回收根节点,只要被局部变量表中直接或间接引用的对象都不会被回收
5.4、操作数栈
■ 栈:可以使用数组或链表来实现;JVM 虚拟机里面的操作数栈是使用数组来实现的
■ 每一个独立的栈帧中除了包含局部变量表以外,还包含一个后进先出(Last-In-First-Out)的操作数栈,也可以称之为表达式栈(Expression Stack)
■ 操作数栈,在方法执行过程中,根据字节码指令,往栈中写入数据或提取数据,即入栈(push)/出栈(pop)
● 某些字节码指令将值压入操作数栈,其余的字节码指令将操作数取出栈。使用它们后再把结果压入栈
● 比如:执行复制、交换、求和等操作
■ 操作数栈,主要用于保存计算过程的中间结果,同时作为计算过程中变量临时的存储空间
■ 操作数栈就是 JVM 执行引擎的一个工作区,当一个方法刚开始执行的时候,一个新的栈帧也会随之被创建出来,这个方法的操作数栈是空的
■ 每一个操作数栈都会拥有一个明确的栈深度用于存储数值,其所需的最大深度在编译期就定义好了,保存在方法的 Code 属性中,为 max_stack 的值
■ 栈中的任何一个元素都是可以任意的 Java 数据类型
● 32 bit 的类型占用一个栈单位深度
● 64 bit 的类型占用两个栈单位深度
■ 操作数栈并非采用访问索引的方式来进行数据访问的,而是只能通过标准的入栈(push) 和出栈(pop)操作来完成一次数据访问
■ 如果被调用的方法带有返回值的话,其返回值将会被压入当前栈帧的操作数栈中,并更新 PC 寄存器中下一条需要执行的字节码指令
■ 操作数栈中元素的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译器期间进行验证,同时在类加载过程中的类检验阶段的数据流分析阶段要再次验证
■ 另外,我们说 Java 虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的就是操作数栈
5.5、操作数栈代码追踪
■ 代码:
public class OperandStackTest {
public void testAddOperation() {
//byte、short、char、boolean: 都以 int 型来保存
byte i = 15;
int j = 8;
int k = i + j;
}
}
■ 使用 javap 命令反编译 class 文件:javap -v 类名.class
下图中 stack =2 表示操作数栈的长度为2;locals = 4 表示局部变量表长度为4,里面还包含一个 this
■ 分析
第一步:
bipush → byte 型数据先入操作数栈(bi 表示将一个 byte 类型转换为一个 int 类型)。此时 PC 寄存器在 0 的位置
istore_1→ 操作数栈里面的数据存储到局部变量表 slot 为1 的位置,为什么不为0 ? 因为 0 的位置存放了 this这个变量。此时 PC 寄存器在 2 的位置
。。。。经过 N 步后
iload_1:表示从局部变量表中加载数据到操作数栈
5.6、栈顶缓存技术
■ 前面提过,基于栈式架构的虚拟机所使用的零地址指令更加紧凑,但完成一项操作的时候必然需要使用更多的入栈和出栈指令,这同时也就意味着将需要更多的指令分派(instruction dispatch)次数和内存读/写次数
■ 由于操作数是存储在内存中的,因此频繁地执行内存读/写操作必然会影响执行速度。为了解决这个问题,HotSpot JVM 的设计者们提出了栈顶缓存(Tos,Top-of-Stack Cashing)技术,将栈顶元素全部缓存在物理 CPU 的寄存器中,以此降低对内存的读/写次数,提升执行引擎的执行效率
5.7、动态链接
■ 动态链接又叫指向运行时常量池的方法引用
■ 每一个栈帧内部都包含一个指向运行时常量池中该栈帧所属方法的引用。包含这个引用的目的就是为了支持当前方法的代码能够实现动态链接(Dynamic Linking)。比如:invokedynamic 指令
■ 在 Java 源文件被编译到字节码文件中时,所有的变量和方法引用都作为符号引用(Symbolic Reference)保存在class文件的常量池里。比如:描述一个方法调用了另外的其他方法时,就是通过常量池中指向方法的符号引用来表示的,那么动态链接的作用就是为了将这些符号引用转换为调用方法的直接引用
5.8、方法的调用:解析和分派
■ 在 JVM 中,将符号引用转换为调用方法的直接引用与方法的绑定机制相关
● 静态链接:当一个字节码文件被装载进 JVM 内部时,如果被调用的目标方法在编译期可知,且运行期保持不变时。这种情况下将调用方法的符号引用转换为直接引用的过程称之为静态链接
● 动态链接:如果被调用的方法在编译期无法被确定下来,也就是说,只能够在程序运行期将调用方法的符号引用转换为直接引用,由于这种引用转换过程具备动态性,因此也就被称之为动态链接
■ 对应的方法的绑定机制为:早期绑定(Early Binding) 和晚期绑定(Late Binding)。绑定是一个字段、方法或者类在符号引用被替换为直接引用的过程,这仅仅发生一次
● 早期绑定:早期绑定就是指被调用的目标方法如果在编译期可知,且运行期保持不变时,即可将这个方法与所属的类型进行绑定,这样一来,由于明确了被调用的目标方法究竟是哪一个,因此也就可以使用静态链接的方式将符号引用转换为直接引用
● 晚期绑定:如果被调用的方法在编译期无法被确定下来,只能够在程序运行期根据实际的类型绑定相关的方法,这种绑定方式也就被称之为晚期绑定
■ 随着高级语言的横空出世,类似于 Java 一样的基于面向对象的编程语言如今越来越多,尽管这类编程语言在语法风格上存在一定的差别,但是它们彼此之间始终保持着一个共性,那就是都支持封装、继承和多态等面向对象特性,既然这一类的编程语言具备多态特性,那么自然也就具备早期绑定和晚期绑定两种绑定方式
■ Java 中任何一个普通的方法其实都具备虚函数的特征,它们相当于 C++语言中的虚函数(C++中则需要使用关键字 virtual 来显示定义)。如果在 Java 程序中不希望某个方法拥有虚函数的特征时,则可以使用关键字 final 来标记这个方法
■ 非虚方法
● 如果方法在编译期就确定了具体的调用版本,这个版本在运行时是不可变的。这样的方法称为非虚方法
● 静态方法、私有方法、final方法、实例构造器、父类方法都是非虚方法
● 其他方法称为虚方法
■ 虚拟机中提供了以下几条方法调用指令:
● 普通调用指令:
○ invokestatic:调用静态方法,解析阶段确定唯一方法版本
○ invokespecial:调用 方法、私有及父类方法,解析阶段确定唯一方法版本
○ invokevirtual:调用所有虚方法
○ invokeinterface:调用接口方法
● 动态调用指令:
○ invokedynamic:动态解析出需要调用的方法,然后执行
● 前四条指令固化在虚拟机内部,方法的调用执行不可人为干预,而 invokedynamic 指令则指出由用户确定方法版本。其中 invokestatic 指令和 invokespecial 指令调用的方法称为非虚方法,其余的(final 修饰的除外) 称为虚方法
举例:
java 代码:
package com.pengtxyl.chapter05;
/**
* @author 86130
* @date 2021/6/12 17:21
* @desc 描述: 解析调用中非虚方法、虚方法的测试
*/
class Father {
public Father() {
System.out.println("father的构造器");
}
public static void showStatic(String str) {
System.out.println("father " + str);
}
public final void showFinal() {
System.out.println("father show final");
}
public void showCommon() {
System.out.println("father 普通方法");
}
}
public class Son extends Father{
public Son() {
super();
}
public Son(int age) {
this();
}
//不是重写的父类的静态方法,因为静态方法不能被重写
public static void showStatic(String str) {
System.out.println("son " + str);
}
private void showPrivate(String str) {
System.out.println("son private " + str);
}
public void show() {
showStatic("atguigu.com");
super.showStatic("good!");
showPrivate("hello!");
super.showCommon();
showFinal();
showCommon();
info();
MethodInterface in = null;
in.methodA();
}
public void info() {
}
public void display(Father f) {
f.showCommon();
}
public static void main(String[] args) {
Son son = new Son();
son.show();
}
}
interface MethodInterface {
void methodA();
}
javap -v Son.class 后,Son 类中的 show() 方法:
public void show();
descriptor: ()V
flags: ACC_PUBLIC
Code:
stack=2, locals=2, args_size=1
0: ldc #11 // String atguigu.com
2: invokestatic #12 // Method showStatic:(Ljava/lang/String;)V
5: ldc #13 // String good!
7: invokestatic #14 // Method com/pengtxyl/chapter05/Father.showStatic:(Ljava/lang/String;)V
10: aload_0
11: ldc #15 // String hello!
13: invokespecial #16 // Method showPrivate:(Ljava/lang/String;)V
16: aload_0
17: invokespecial #17 // Method com/pengtxyl/chapter05/Father.showCommon:()V
20: aload_0
21: invokevirtual #18 // Method showFinal:()V 不是虚方法,因为有final。如果在调用前面加上 super. 那么更加明确不是虚方法了. 指令是 invokespecial
24: aload_0
25: invokevirtual #19 // Method showCommon:()V 因为没有加 super. ,jvm不能确定是子类方法还是父类方法,所以是虚方法。只有显示指定调用父类方法才不是虚方法
28: aload_0
29: invokevirtual #20 // Method info:()V
32: aconst_null
33: astore_1
34: aload_1
35: invokeinterface #21, 1 // InterfaceMethod com/pengtxyl/chapter05/MethodInterface.methodA:()V
40: return
■ 关于 invokedynamic 指令
● JVM 字节码指令集一直比较稳定,一直到 Java7 中才增加了一个 invokedynamic 指令,这是 Java 为了实现 [动态类型语言] 支持而做的一种改进
● 但是在 Java7 中并没有提供直接生成 invokedynamic 指令的方法,需要借助 ASM 这种底层字节码工具来产生 invokedynamic 指令。直到 Java8 的 Lambda 表达式的出现,invokedynamic 指令的生成,在 Java 中才有了直接的生成方式
● Java7 中增强的动态语言类型支持的本质是对 Java 虚拟机规范的修改,而不是对 Java 语言规则的修改,这一块相对来讲比较复杂,增加了虚拟机中的方法调用,最直接的受益者就是运行在 Java 平台的动态语言的编译器
● 动态类型语言和静态类型语言
○ 动态类型语言和静态类型语言两者的区别就在于对类型的检查是在编译器还是在运行期,满足前者就是静态类型语言(如:Java),反之是动态类型语言(如:JS、Python)
○ 说的再直白一点就是,静态类型语言是判断变量自身的类型信息;动态类型语言是判断变量值的类型信息,变量没有类型信息,变量值才有类型信息,这是动态语言的一个重要特征
■ Java语言中方法重写的本质
● 找到操作数栈顶的第一个元素所指向的对象的实际类型,记作:C
● 如果在类型C中找到与常量中的描述符合简单名称都相符的方法,则进行访问权限校验,如果通过则返回这个方法的直接引用,查找过程结束;如果不通过,则返回 java.lang.IllegalAccessError 异常
● 否则,按照继承关系从下往上依次对 C 的各个父类进行第 2 步的搜索和验证过程
● 如果始终没有找到合适的方法,则抛出 java.lang.AbstractMethodError 异常
■ IllegalAccessError 介绍:
● 程序试图访问或修改一个属性或调用一个方法,这个属性或方法,你没有访问权限。一般的,这个会引起编译器异常。这个错误如果发生在运行时,就说明一个类发送了不兼容的改变
■ 虚方法表
● 在面向对象的编程中,会很频繁的使用到动态分派,如果在每次动态分派的过程中都要重新在类的方法元数据中搜索合适的目标的话就可能影响到执行效率。因此,为了提高性能,JVM 采用在类的方法区建立一个虚方法表(virtual method table)(非虚方法不会出现在表中)来实现。使用索引表来代替查找
● 每个类中都有一个虚方法表,表中存放着各个方法的实际入口
● 那么虚方法表什么时候被创建?
虚方法表会在类加载的链接阶段被创建并开始初始化,类的变量初始值准备完成之后,JVM 会把该类的方法表也初始化完毕
● 举例:
5.9、方法返回地址
■ 方法返回地址是一个内存结构,存放调用该方法的 PC 寄存器的值。即假如在 A 方法的第N行调用了B方法,当B方法结束执行后,会返回一个地址值给执行引擎,这个地址值就是A方法的第N+1行的地址值,所以方法返回地址就是A方法的N+1行代码地址
■ 一个方法的结束,有两种方式
● 正常执行完成
● 出现未处理的异常,非正常退出
■ 无论通过哪种方式退出,在方法退出后都返回到该方法被调用的位置。方法正常退出时,调用者的 PC 计数器的值作为返回地址,即调用该方法的指令的下一条指令的地址。而通过异常退出的,返回地址是要通过异常表来确定,栈帧中一般不会保存这部分信息
■ 当一个方法开始执行后,只有两种方式可以退出这个方法:
● 执行引擎遇到任意一个方法返回的字节码指令(return),会有返回值传递给上层的方法调用者,简称正常完成出口
○ 一个方法在正常调用完成之后究竟需要使用哪一个返回指令还需要根据方法返回值的实际数据类型而定
○ 在字节码指令中,返回指令包含 ireturn(当返回值是 boolean、byte、char、short和int类型时使用)、lreturn、freturn、dreturn以及areturn,另外还有一个 return 指令供声明为 void 的方法、实例初始化方法、类和接口的初始化方法使用
● 在方法执行的过程中遇到了异常(Exception),并且这个异常没有在方法内进行处理,也就是只要在本方法的异常表中没有搜索到匹配的异常处理器,就会导致方法退出。简称异常完成出口
○ 方法执行过程中抛出异常时的异常处理,存储在一个异常处理表,方便在发送异常的时候找到处理异常的代码
■ 本质上,方法的退出就是当前栈帧出栈的过程。此时,需要恢复上层方法的局部变量表、操作数栈、将返回值压入调用者栈帧的操作数栈、设置 PC 寄存器值等,让调用者方法继续执行下去
■ 正常完成出口和异常完成出口的区别在于:通过异常完成出口退出的不会给它的上层调用者产生任何的返回值
5.10、一些附加信息
■ 栈帧中还运行携带与 Java 虚拟机实现相关的一些附加信息。例如,对程序调试提供支持的信息
5.11、栈的相关面试题
■ 方法中定义的局部变量是否是线程安全的?
具体案例具体分析:
● 如果只在方法内使用,则是线程安全的
● 如果作为方法入参,则线程不安全。
> 因为方法的入参是由外部传入进来的,不光是属于当前线程,可能会被多个线程调用,所以会导致线程不安全
● 如果作为方法返回值,则线程不安全
> 同样的,方法返回值返回出去后,也可能会被多个线程抢占,导致线程不安全
● 如果方法返回值是变量的方法,则线程安全。这种情况代码如下:
> 这种情况,对于 s1 来说,是线程安全的,因为返回出去的是 s1.toString(),对于s1,它在本方法已经结束了它的声明周期,所以不会导致线程安全。但是 s1.toString() 内部其实就是 new 了一个 String 对象,所以这个 new 的String对象才会有线程安全问题
public static String method() {
StringBuilder s1 = new StringBuilder();
s1.append("a");
s1.append("b");
return s1.toString();
}
6、本地方法接口
6.1、本地方法
■ 什么是本地方法
简单地讲,一个 Native Method 就是一个 Java 调用非 Java 代码的接口。一个 Native Method 是这样一个 Java 方法:该方法的实现由非 Java 语言实现,比如 C。这个特征并非 Java 所特有,很多其他的编程语言都有这一机制,比如在 C++ 中,你可以用 extern “C” 告知 C++ 编译器去调用一个 C 的函数
“A native method is a Java method whose implemetation is provided by non-java code”
在定义一个 native method 时,并不提供实现体(有些像定义一个 Java interface),因为其实现体是由非 Java 语言在外面实现的
本地接口的作用是融合不同的编程语言为 Java 所用,它的初衷是融合 C/C++ 程序
■ 举例:注意,类名前面是用 class 关键字,而方法没有方法体
public class IHaveNatives {
public native void methodNative1(int x);
public native static long methodNative2();
private native synchronized float methodNative3(Object o);
native void methodNative4(int[] ary) throws Exception;
}
标识符 native 可以与所有其他的 java 标识符连用,但是 abstract 除外
6.2、为什么要使用 Native Method
■ Java 使用起来非常方便,然而有些层次的任务用 Java 实现起来不容易,或者我们对程序的效率很在意时,问题就来了
● 与 Java 环境外交互
有时 Java 应用需要与 Java 外面的环境交互,这是本地方法存在的主要原因。你可以想想 Java 需要与一些底层系统,如操作系统或某些硬件交换信息时的情况。本地方法正是这样一种交流机制:它为我们提供了一个非常简洁的接口,而且我们无需去了解 Java 应用之外的繁琐的细节
● 与操作系统交互
JVM 支持着 Java 语言本身和运行时库,它是 Java 程序赖以生存的平台,它由一个解释器(解释字节码)和一些连接到本地代码的库组成。然而不管怎样,它毕竟不是一个完整的系统,它经常依赖于一些底层系统的支持。这些底层系统常常是强大的操作系统。通过使用本地方法,我们得以用 Java 实现了 jre 的与底层系统的交互,甚至 JVM 的一些不法就是用 C 写的。还有,如果我们要使用一些 Java 语言本身没有提供封装的操作系统的特性时,我们也需要使用本地方法
● Sun’s Java
Sun 的解释器是用 C 实现的,这使得它能像一些普通的 C 一样与外部交互。jre 大部分是用 Java 实现的,它也通过一些本地方法与外界交互。例如:类 java.lang.Thread 的 setPriority0()。这个本地方法是用 C 实现的,并被植入 JVM 内部,在 windows 95 的平台上,这个本地方法最终将调用 Win32 setPriority() API。这是一个本地方法的具体实现由 JVM 直接提供,更多的情况是本地方法由外部的动态链接库(external dynamic link library)提供,然后被 JVM 调用
7、本地方法栈
■ Java 虚拟机栈用于管理 Java 方法的调用,而本地方法栈用于管理本地方法的调用
■ 本地方法栈,也是线程私有的
■ 允许被实现成固定或者是可动态扩展的内存大小(在内存溢出方面是相同的)
● 如果线程请求分配的栈容量超过本地方法栈允许的最大容量,Java 虚拟机将会抛出一个 StackOverflowError 异常
● 如果本地方法栈可以动态扩展,并且在尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的本地方法栈,那么 Java 虚拟机将会抛出一个 OutOfMemoryError 异常
■ 本地方法是使用 C 语言实现的
■ 它的具体做法是 Native Method Stack 中登记 native 方法,在 Execution Engine 执行时加载本地方法库
■ 当某个线程调用一个本地方法时,它就进入了一个全新的并且不再受虚拟机限制的世界。它和虚拟机拥有同样的权限
● 本地方法可以通过本地方法接口来访问虚拟机内部的运行时数据区
● 它甚至可以直接使用本地处理器中的寄存器
● 直接从本地内存的堆中分配任意数量的内存
■ 并不是所有的 JVM 都支持本地方法。因为 Java 虚拟机规范并没有明确要求本地方法栈的使用语言、具体实现方式、数据结构等。如果 JVM 产品不打算支持 native 方法,也可以无需实现本地方法栈
■ 在 HotSpot JVM 中,直接将本地方法栈和虚拟机栈合二为一
8、堆
8.1、堆的核心概念
①、堆的核心概述
■ 一个 JVM 实例只存在一个堆内存,堆也是 Java 内存管理的核心区域
■ Java 堆区在 JVM 启动的时候即被创建,其空间大小也就确定了。是 JVM 管理的最大一块内存空间
● 堆内存的大小是可以调节的
举例:下面两个程序
程序1:
package com.pengtxyl.chapter08;
public class HeapDemo {
public static void main(String[] args) {
System.out.println("start...");
try {
Thread.sleep(1000000);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println("end...");
}
}
程序2:
package com.pengtxyl.chapter08;
public class HeapDemo1 {
public static void main(String[] args) {
System.out.println("start...");
try {
Thread.sleep(1000000);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println("end...");
}
}
配置两个程序的 JVM 的堆大小,分别为 -Xms10m,-Xmx10m 以及 -Xms20m、-Xmx20m
启动程序,在 JDK 安装目录的 bin 目录下(D:\software\java\jdk8\install\bin),打开 jvisualvm.exe,查看相关配置,图中红框中四部分的总和等于前一步设置的参数,即 10m 和 20m
注意:打开 jvisualvm.exe 的时候,没有看到 Visual GC 这个视图栏,因为要安装插件才会有,这里已经下载好了 Visual GC 的插件,保存在 D:\software\java\jvisualvm_plugs 目录下,名字是 com-sun-tools-visualvm-modules-visualgc.nbm。在 jvisualvm 中 “工具” 选项栏安装即可
■ 《Java虚拟机规范》规定,堆可以处于物理上不连续的内存空间中,但是逻辑上它应该被视为连续的
■ 所有的线程共享 Java 堆,在这里还可以划分线程私有的缓冲区(Thread Local Allocation Buffer, TLAB)
■ 《Java虚拟机规范》中对 Java 堆的描述是:所有的对象实例以及数组都应当在运行时分配在堆上。(The heap is the run-time data area from which memory for all class instances and arrays is allocated)
● 我要说的是:"几乎"所有的对象实例都在这里分配内存。--------从实际使用角度看的
■ 数组和对象可能永远不会存储在栈上,因为栈帧中保存引用,这个引用指向对象或者数组在堆中的位置
■ 在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集的时候才会被移除
■ 堆,是 GC(Garbage Collection,垃圾收集器)执行垃圾回收的重点区域
②、内存细节
■ 现代垃圾收集器大部分都基于分代收集理论设计,对空间细分为:
(注意:我们现在说的堆,都没有包含永久区或元空间)
约定:新生区 ↔ 新生代 ↔ 年轻代
养老区 ↔ 老年区 ↔ 老年代
永久区 ↔ 永久代
■ 堆空间内部结构
JDK7:
JDK8:
8.2、设置堆内存大小与OOM
堆内存的相关配置参数参考文档:https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html
①、堆空间大小的设置
■ Java 堆区用于存储 Java 对象实例,那么堆的大小在 JVM 启动时就已经设定好了,大家可以通过选项 “-Xmx” 和 “-Xms” 来进行设置
● “-Xms” 用于表示堆区的起始内存,等价于 -XX:InitialHeapSize
● “-Xmx” 则用于表示堆区的最大内存,等价于 -XX:MaxHeapSize
■ 一旦堆区中的内存大小超过 “-Xmx” 所指定的最大内存时,将会抛出 OutOfMemoryError 异常
■ 通常会将 -Xms 和 -Xmx 两个参数配置相同的值,其目的是为了能够在 Java 垃圾回收机制清理完堆区后不需要重新分割计算堆区的大小,从而提高性能
■ 默认情况下,初始内存大小 = 物理电脑内存大小 / 64;最大内存大小 = 物理电脑内存大小 / 4
package com.pengtxyl.chapter08;
/**
* 1. 设置堆空间大小的参数
* -Xms 用来设置堆空间(年轻代+老年代)的初始内存大小
* -X:是jvm的运行时参数
* ms:是memory start
* -Xmx 用来设置堆空间(年轻代+老年代)的最大内存大小
* 2. 默认堆空间的大小
* 初始内存大小 = 物理电脑内存大小 / 64
* 最大内存大小 = 物理电脑内存大小 / 4
* 3. 手动设置: -Xms600m -Xmx600m
* 开发中建议将初始堆内存和最大堆内存设置成相同的值,避免GC频繁去扩容或缩容带来的额外压力
* 4. 查看设置的参数
* 方式一: jps 查看进程id / jstat -gc 进程id 查看内存占用情况
* 方式二: -XX:+PrintGCDetails
*/
public class HeapSpaceInitial {
public static void main(String[] args) {
//返回Java虚拟机中的堆内存总量
long initialMemory = Runtime.getRuntime().totalMemory() / 1024 / 1024;
//返回Java虚拟机试图使用的最大堆内存量
long maxMemory = Runtime.getRuntime().maxMemory() / 1024/ 1024;
System.out.println("-Xms: " + initialMemory + "M");
System.out.println("-Xmx: " + maxMemory + "M");
// System.out.println("系统内存大小为: " + initialMemory * 64.0 / 1024 + "G");
// System.out.println("系统内存大小为: " + maxMemory * 4.0 / 1024 + "G");
try {
Thread.sleep(1000000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
运行上面代码,将 jvm 参数设置好,查看打印的大小,可以看到打印的大小只有 575M
查看 jvm 堆内存参数:
方式一:
①、使用 jps 查看当前运行程序的进程 id
②、使用 jstat -gc 进程id 查看
其中 S0C 表示幸存者0区总大小,S1C表示幸存者1区总大小,S0U表示幸存者0区已经用了的大小,S1U表示幸存者1区已经用了的大小,EC表示伊甸园区总大小,EU表示伊甸园区已经用了的大小,OC表示老年代总大小,OU表示老年代已经用了的总大小。由于在统计总大小的时候,幸存者0区和幸存者1区只会统计一个区域的大小,所以 总内存大小 = S0C + EC + OC = 25600K + 153600K + 409600K = 575M
方式二:
①、先设置好参数
②、将代码中休眠时间部分代码注释掉,然后运行,查看打印结果,可以看到,这种方式和上面方式查看的内存结果一致
②、OOM举例
package com.pengtxyl.chapter08;
import java.util.ArrayList;
import java.util.Random;
public class OOMTest {
public static void main(String[] args) {
ArrayList<Picture> list = new ArrayList<Picture>();
while(true) {
try {
Thread.sleep(20);
} catch (InterruptedException e) {
e.printStackTrace();
}
list.add(new Picture(new Random().nextInt(1024 * 1024)));
}
}
}
class Picture {
private byte[] pixels;
public Picture(int length) {
this.pixels = new byte[length];
}
}
8.3、年轻代与老年代
■ 存储在 JVM 中的 Java 对象可以被划分为两类
● 一类是生命周期较短的瞬时对象,这类对象的创建和消亡都非常迅速
● 另外一类对象的生命周期却非常长,在某些极端的情况下还能够与 JVM 的生命周期保持一致
■ Java 堆区进一步细分的话,可以划分为年轻代(YoungGen)和老年代(OldGen)
■ 其中年轻代又可以划分为 Eden 空间、Survivor0 空间和 Survivor1 空间(有时也叫 from 区、to 区)
■ 下面这参数开发中一般不会调
■ 配置新生代与老年代在堆结构的占比
● 默认 -XX:NewRatio=2,表示新生代占1,老年代占2,新生代占整个堆的 1/3
● 可以修改 -XX:NewRatio=4,表示新生代占1,老年代占4,新生代占整个堆的 1/5
■ 在 HotSpot 中,Eden 空间和另外两个 Survivor 空间缺省所占的比例是 8:1:1,但是实际上查看它们的比例时,占用的比例并不是8:1:1,如果要想实际占用比例是8:1:1,我们需要指定 -XX:SurvivorRatio=8
■ 当然开发人员可以通过选项 -XX:SurvivorRatio 调整这个空间比例。比如:-XX:SurvivorRatio=8。注意,
■ 几乎所有的 Java 对象都是在 Eden 区被 new 出来的
■ 绝大部分的 Java 对象的销毁都在新生代进行了
● IBM 公司的专门研究表明,新生代中 80% 的对象都是 “朝生夕死” 的
■ 可以使用选项 -Xmn 设置新生代最大内存大小
● 这个参数一般使用默认值就可以了,如果设置了这个参数,那么 -XX:NewRatio 这个参数就不会起作用了
8.4、图解对象分配过程
①、对象分配的一般过程
■ 为新对象分配内存是一件非常严谨和复杂的任务,JVM 的设计者们不仅需要考虑内存如何分配、在哪里分配等问题,并且由于内存分配算法与内存回收算法密切相关,所以还需要考虑 GC 执行完内存回收后是否会在内存空间中产生内存碎片
■ 分配过程:
1、new 的对象先放伊甸园区。此区有大小限制
2、当伊甸园的空间填满时,程序又需要创建对象,JVM 的垃圾回收器将对伊甸园区进行垃圾回收(Minor GC),将伊甸园区中的不再被其他对象所引用的对象进行销毁。再加载新的对象放到伊甸园区
3、然后将伊甸园中的剩余对象移动到幸存者0区
4、如果再次触发垃圾回收,此时上次幸存下来的放到幸存者0区的,如果没有回收,就会放到幸存者1区
5、如果再次经历垃圾回收,此时会重新放到幸存者0区,接着再去幸存者1区
6、啥时候能去养老区呢?可以设置参数。默认是15次
可以设置参数:-XX:MaxTenuringThreshold= 进行设置
7、在养老区,相对悠闲。当养老区内存不足时,再次触发 GC:Major GC,进行养老区的内存清理
8、若养老区执行了 Major GC 之后发现依然无法进行对象的保存,就会产生 OOM 异常
java.lang.OutOfMemoryError: Java heap space
总结:
● 针对幸存者 s0,s1 区的总结:复制之后有交换,谁空谁是 to 区
● 关于垃圾回收:频繁在新生区收集,很少在养老区收集,几乎不在永久区/元空间收集
②、对象分配的特殊过程
③、常用调优工具概述与 Jprofiler 的演示
■ 常用调优工具
● JDK 命令行
● Eclipse:Memory Analyzer Tool
● Jconsole
● VisualVM
● Jprofiler
● Java Flight Recorder
● GCViewer
● GC Easy
8.5、Minor GC、Major GC、Full GC
■ JVM 在进行 GC 时,并非每次都对上面三个内存(新生代、老年代;方法区/元空间)区域一起回收的,大部分时候回收的都是指新生代。针对 HotSpot VM 的实现,它里面的 GC 按照回收区域又分为两大种类型:一种是部分收集(Partial GC),一种是整堆收集(Full GC)
● 部分收集:不是完整收集整个 Java 堆的垃圾收集。其中又分为:
○ 新生代收集(Minor GC / Young GC):只是新生代的垃圾收集
○ 老年代收集(Major GC / Old GC):只是老年代的垃圾收集
▲ 目前,只有 CMS GC 会有单独收集老年代的行为
▲ 注意,很多时候 Major GC 会和 Full GC 混淆使用,需要具体分辨是老年代回收还是整堆回收
○ 混合收集(Mixed GC):收集整个新生代以及部分老年代的垃圾收集
▲ 目前,只有 G1 GC 会有这种行为
● 整堆收集(Full GC):收集整个 Java 堆和方法区的垃圾收集
■ 年轻代 GC(Minor GC) 触发机制:
● 当年轻代空间不足时,就会触发 Minor GC,这里的年轻代满指的是 Eden 区满,Survivor 满不会引发 GC。(每次 Minor GC 会清理年轻代的内存)
● 因为 Java 对象大多是具备朝生夕死的特性,所以 Minor GC 非常频繁,一般回收速度也比较快。这一定义即清晰又易于理解
● Minor GC 会引发 STW,暂停其他用户的线程,等垃圾回收结束,用户线程才恢复运行
■ 老年代 GC(Major GC / Full GC) 触发机制:
● 指发生在老年代的 GC,对象从老年代消失时,我们说 “Major GC” 或 “Full GC” 发生了
● 出现了 Major GC,经常会伴随至少一次的 Minor GC(但非绝对的,在 Parallel Scavenge 收集器的收集策略里就有直接进行 Major GC 的策略选择过程)
○ 也就是在老年代空间不足时,会先尝试触发 Minor GC。如果之后空间还不足,则触发 Major GC
● Major GC 的速度一般会比 Minor GC 慢 10 倍以上,STW 的时间更长
● 如果 Major GC 后,内存还不足,就报 OOM 了
■ Full GC触发机制:(后面细讲)
● 触发 Full GC 执行的情况有如下五种:
1、调用 System.gc() 时,系统建议执行 Full GC,但是不必然执行
2、老年代空间不足
3、方法区空间不足
4、通过 Minor GC 后进入老年代的平均大小大于老年代的可用内存
5、由 Eden 区、survivor space0(From Space) 区向 survivor space1(To Space) 区复制时,对象大小大于 To Space 可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象大小
说明:full gc 是开发或者调优中尽量要避免的,这样暂时时间会短一些
8.6、堆空间分代思想
问题:为什么需要把 Java 堆分代?不分代就不能正常工作了吗?
■ 经研究,不同对象的生命周期不同。70%~99%的对象是临时对象
● 新生代:有 Eden、两块大小相同的 Survivor(又称为 from/to,s0/s1)构成,to总为空
● 老年代:存放新生代中经历多次 GC 仍然存活的对象
■ 其实不分代完全可以,分代的唯一理由就是优化 GC 性能。如果没有分代,那所有的对象都在一块,就如同把一个学校的人都关在一个教室。GC 的时候要找到哪些对象没用,这样就会对堆的所有区域进行扫描。而很多对象都是朝生夕死的,如果分代的话,把新创建的对象放到某一地方,当 GC 的时候先把这块存储 “朝生夕死” 对象的区域进行回收,这样就会腾出很大的空间出来
8.7、内存分配策略
内存分配策略又称对象提升(Promotion)规则
■ 如果对象在 Eden 出生并经过第一次 MinorGC 后仍然存活,并且能被 Survivor 容纳的话,将被移动到 Survivor 空间中,并将对象年龄设为1。对象在 Survivor 区中每熬过一次 MinorGC,年龄就增加 1 岁,当它的年龄增加到一定程度(默认为 15 岁,其实每个 JVM 、每个 GC 都有所不同)时,就会被晋升到老年代中
■ 对象晋升老年代的年龄阈值,可以通过选项 -XX:MaxTenuringThreshold 来设置
■ 针对不同年龄段的对象分配原则如下所示:
● 优先分配到 Eden
● 大对象直接分配到老年代
○ 尽量避免程序中出现过多的大对象
● 长期存活的对象分配到老年代
● 动态对象年龄判断
○ 如果 Survivor 区中相同年龄的所有对象大小的总和大于 Survivor 空间的一半,年龄大于或等于该年龄的对象可以直接进入老年代,无须等到 MaxTenuringThreshold 中要求的年龄
● 空间分配担保
○ -XX:HandlePromotionFailure
8.8、为对象分配内存:TLAB
为什么有 TLAB(Thread Local Allocation Buffer)?
■ 堆区是线程共享区域,任何线程都可以访问到堆区中的共享数据
■ 由于对象实例的创建在 JVM 中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的
■ 为避免多个线程操作同一地址,需要使用加锁等机制,进而影响分配速度
什么是 TLAB?
■ 从内存模型而不是垃圾收集的角度,对 Eden 区域继续进行划分,JVM 为每个线程分配了一个私有缓存区域,它包含在 Eden 空间内
■ 多线程同时分配内存时,使用 TLAB 可以避免一系列的非线程安全问题,同时还能够提升内存分配的吞吐量,因此我们可以将这种内存分配方式称之为快速分配策略
■ 据我所知所有 OpenJDK 衍生出来的 JVM 都提供了 TLAB 的设计
TLAB 的再说明:
■ 尽管不是所有的对象实例都能够在 TLAB 中成功分配内存,但 JVM 确实是将 TLAB 作为内存分配的首选
■ 在程序中,开发人员可以通过选项 “-XX:UseTLAB” 设置是否开启 TLAB 空间,默认情况下,这个参数是开启状态的
■ 默认情况下,TLAB 空间的内存非常小,仅占有整个 Eden 空间的 1%,当然我们可以通过选项 “-XX:TLABWasteTargetPercent” 设置 TLAB 空间所占有 Eden 空间的百分比大小
■ 一旦对象在 TLAB 空间分配内存失败时,JVM 就会尝试通过使用加锁机制确保数据操作的原子性,从而直接在 Eden 空间中分配内存
8.9、小结堆空间的参数设置
■ 官网说明:https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html
● -XX:+PrintFlagsInitial:查看所有的参数的默认初始值
● -XX:+PrintFlagsFinal:查看所有的参数的最终值(可能会存在修改,不再是初始值)
具体查看某个参数的指令:
① jps 查看当前运行中的进程
② jinfo -flag 参数(比如:SurvivorRatio) 进程id(上一步查询到的id)
● -Xms:初始堆空间内存(默认是物理内存的 1/64)
● -Xmx:最大堆空间内存(默认是物理内存的 1/4)
● -Xmn:设置新生代的大小(初始值及最大值)
● -XX:NewRatio:配置新生代与老年代在堆结构的占比
● -XX:SurvivorRatio:设置新生代中 Eden 和 S0/S1 空间的比例
● -XX:MaxTenuringThreshold:设置新生代垃圾的最大年龄
● -XX:+PrintGCDetails:输出详细的 GC 处理日志
打印 gc 简要信息:① -XX:+PrintGC ② -verbose:gc
● -XX:HandlePromotionFailure:是否设置空间分配担保
-XX:HandlePromotionFailure 参数说明:
在发生 Minor GC 之前,虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间
▲ 如果大于,则此次 Minor GC 是安全的
▲ 如果小于,则虚拟机会查看 -XX:HandlePromotionFailure 设置值是否允许担保失败
● 如果 HandlePromotionFailure=true,那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小
○ 如果大于,则尝试进行一次 Minor GC,但这次 Minor GC 依然是有风险的
○ 如果小于,则改为进行一次 Full GC
● 如果 HandlePromotionFailure=false,则改为进行一次 Full GC
在 JDK6 Update24(JDK7) 之后,HandlePromotionFailure 参数不会再影响到虚拟机的空间分配担保策略,观察 OpenJDK 中的源码变化,虽然源码中还定义了 HandlePromotionFailure 参数,但是在代码中已经不会再使用它。JDK6 Update24 之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行 Minor GC,否则将进行 Full GC.
8.10、堆是分配对象的唯一选择吗
■ 在《深入理解 Java 虚拟机》中关于 Java 堆内存有这样一段描述:
随着 JIT 编译器的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么“绝对”了
■ 在 Java 虚拟机中,对象是在 Java 堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是如果经过逃逸分析(Escape Analysis)后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配内存,也无须进行垃圾回收了。这也是最常见的堆外存储技术
■ 此外,前面提到的基于 OpenJDK 深度定制的 TaoBaoVM,其中创新的 GCIH(GC invisible heap)技术实现 off-heap,将生命周期较长的 Java 对象从 heap 中移至 heap 外,并且 GC 不能管理 GCIH 内部的 Java 对象,以此达到降低 GC 的回收频率和提升 GC 的回收效率的目的
■ 如何将堆上的对象分配到栈,需要使用逃逸分析手段
■ 这是一种可以有效减少 Java 程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法
■ 通过逃逸分析,Java HotSpot 编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上
■ 逃逸分析的基本行为就是分析对象动态作用域
● 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸
● 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方中
■ 举例:
public static StringBuffer createStringBuffer(String s1, String s2) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
return sb;
}
// 上述代码如果想要 StringBuffer sb 不逃出方法,可以这样写:
public static String createStringBuffer(String s1, String s2) {
StringBuffer sb = new StringBuffer();
sb.append(s1);
sb.append(s2);
return sb.toString();
}
■ 参数设置:
● 在 JDK 6U23 版本之后,HotSpot 中默认就已经开启了逃逸分析
● 如果使用的是较早的版本,开发人员则可以通过:
○ 选项 -XX:+DoEscapeAnalysis 显示开启逃逸分析
○ 通过选项 -XX:+PrintEscapeAnalysis 查看逃逸分析的筛选结果
■ 结论:
开发中能使用局部变量的,就不要使用在方法外定义
8.11、代码优化
使用逃逸分析,编译器可以对代码做如下优化:
一、栈上分配。将堆分配转换为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配
二、同步省略。如果一个对象被发现只能从一个线程被访问到,那么对于这个对象的操作可以不考虑同步
三、分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在 CPU 寄存器中
①、栈上分配
■ JIT 编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化成栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了
■ 常见的栈上分配的场景
● 在逃逸分析中,已经说明了。给成员变量赋值、方法返回值、实例引用传递,这三个发生了逃逸,不能栈上分配,其余可以栈上分配
②、同步省略(消除)
■ 线程同步的代价是相当高的,同步的结果是降低并发性和性能
■ 在动态编译同步块的时候,JIT 编译器可以借助逃逸分析来判断同步块所使用的的锁对象是否只能够被一个线程访问而没有被发布到其他线程。如果存在这种行为,那么 JIT 编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除
■ 如下代码:
public void f() {
Object hollis = new Object();
synchronized(hollis) {
System.out.println(hollis);
}
}
//代码中对 hollis 这个对象进行加锁,但是 hollis 对象的生命周期只在 f() 方法中,并不会被其他线程所访问到,所以在 JIT 编译阶段就被优化掉。优化成:
public void f() {
Object hollis = new Object();
System.out.println(hollis);
}
③、标量替换
■ 标量(Scalar) 是指一个无法再分解成更小的数据的数据。Java 中的原始数据类型就是标量
■ 相对的,那些还可以分解的数据叫做聚合量(Aggregate),Java中的对象就是聚合量,因为他可以分解成其他聚合量和标量
■ 在 JIT 阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过 JIT 优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来替换。这个过程就是标量替换
■ 如下代码:
public static void main(String[] args) {
alloc();
}
private static void alloc() {
Point point = new Point(1, 2);
System.out.println("point.x = " + point.x + ", point.y = " + point.y);
}
Class Point{
private int x;
private int y;
}
//以上代码,经过标量替换后,就会变成:
private static void alloc() {
int x = 1;
int y = 2;
System.out.println("point.x = " + point.x + ", point.y = " + point.y);
}
可以看到,Point 这个聚合量经过逃逸分析后,发现他并没有逃逸,就被替换成两个聚合量了。那么标量替换有什么好处呢?就是可以大大减少堆内存的占用。因为一旦不需要创建对象了,那么就不再需要分配堆内存了
标量替换为栈上分配提供了很好的基础
■ 标量替换参数设置:
参数 -XX:+EliminateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上
■ 如下代码:
package com.pengtxyl.chapter08;
/**
* @author 86130
* @date 2021/6/21 21:38
* @desc 描述: 标量替换测试
*/
public class ScalarReplace {
public static class User {
public int id;
public String name;
}
public static void alloc() {
User u = new User(); //未发生逃逸
u.id = 5;
u.name = "www.atguigu.com";
}
public static void main(String[] args) {
long start = System.currentTimeMillis();
for (int i = 0; i < 100000000; i++) {
alloc();
}
long end = System.currentTimeMillis();
System.out.println("花费的时间为: " + (end - start) + " ms");
}
}
上述代码在主函数中进行了 1 亿次 alloc()。调用进行对象创建,由于 User 对象实例需要占用约 16 字节的空间,因此累计分配空间达到将近 1.5 GB。如果堆空间小于这个值,就必然会发生 GC。使用如下参数运行上述代码
-server -Xmx100m -Xms100m -XX:+DoEscapeAnalysis -XX:+PrintGC -XX:+EliminateAllocations
这里使用的参数如下:
参数 -server: Java 虚拟机启动 Server 模式,因为在 Server 模式下,才可以启用逃逸分析。在我们使用的 HotSpot 虚拟机就是 Server 模式,所以不配置这个参数也是可以的
参数 -XX:+DoEscapeAnalysis: 启用逃逸分析
参数 -Xmx100m: 指定了堆空间最大为 100m
参数 -XX:+PrintGC: 将打印 GC 日志
参数 -XX:+EliminateAllocations: 开启了标量替换(默认打开),允许将对象打散分配在栈上,比如对象拥有 id 和 name 两个字段,那么这两个字段将会被视为两个独立的局部变量进行分配
8.12、代码优化及堆的小结
■ 关于逃逸分析的论文在 1999 年就已经发表了,但直到 JDK1.6 才有实现,而且这项技术到如今也并不是十分成熟
■ 其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的,这其实也是一个相对耗时的过程
■ 一个极端的例子,就是经过逃逸分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了
■ 虽然这项技术不是十分成熟,但是它也是即时编译器优化技术中一个十分重要的手段
■ 注意到有一些观点,认为通过逃逸分析,JVM 会在栈上分配那些不会逃逸的对象,这个理论上是可行的,但是取决于 JVM 设计者的选择。据我所知,Oracle Hotspot JVM 中并未这么做,这一点在逃逸分析相关的文档里已经说明,所以可以明确所有的对象实例都是创建在堆上
■ 目前很多书籍还是基于 JDK7 以前的版本,JDK已经发生了很大变化,intern 字符串的缓存和静态变量曾经都被分配在永久代上,而永久代已经被元数据取代。但是,intern 字符串缓存和静态变量并不是被转移到元数据区,而是直接在堆上分配,所以这一点同样符合前面一点的结论:对象实例都是分配在堆上
本章小结:
■ 年轻代是对象的诞生、成长、消亡的区域,一个对象在这里产生、应用,最后被垃圾回收器收集、结束生命
■ 老年代放置长生命周期的对象,通常都是从 Survivor 区域筛选拷贝过来的 Java 对象。当然,也有特殊情况,我们知道普通的对象会被分配在 TLAB 上;如果对象较大,JVM 会试图直接分配在 Eden 其他位置上;如果对象太大,完全无法在新生代找到足够长的连续空闲空间,JVM 就会直接分配到老年代
■ 当 GC 只发生在年轻代中,回收年轻代对象的行为被称为 MinorGC。当 GC 发生在老年代时则被称为 MajorGC 或者 FullGC。一般的,MinorGC 的发生频率要比 MajorGC 高很多,即老年代中垃圾回收发生的频率将大大低于年轻代
9、方法区
9.1、栈、堆、方法区的交互关系
■ 运行时数据区结构图:
■ 栈、堆、方法区的交互关系
9.2、方法区的理解
①、官方文档
https://docs.oracle.com/javase/specs/jvms/se8/html/jvms-2.html#jvms-2.5.4
②、方法区在哪里?
《Java虚拟机规范》中明确说明:“尽管所有的方法区在逻辑上是属于堆的一部分,但一些简单的实现可能不会选择去进行垃圾收集或者进行压缩”。但对于 HotSpot 而言,方法区还有一个别名叫做 Non-Heap(非堆),目的就是要和堆分开,所以,方法区看作是一块独立于 Java 堆的内存空间
③、方法区的基本理解
■ 方法区(Method Area) 与 Java 堆一样,是各个线程共享的内存区域
■ 方法区在 JVM 启动的时候被创建,并且它的实际的物理内存空间中和 Java 堆区一样都是可以不连续的
■ 方法区的大小,跟堆空间一样,可以选择固定大小或者可扩展
■ 方法区的大小决定了系统可以保存多少个类,如果系统定义了太多的类,导致方法区溢出,虚拟机同样会抛出内存溢出错误:java.lang.OutOfMemoryError: PermGen space 或者 java.lang.OutOfMemoryError: Metaspace
■ 关闭 JVM 就会释放这个区域的内存
④、HotSpot 中方法区的演进
■ 在 jdk7 及之前,习惯上把方法区称为永久代。jdk8 开始,使用元空间取代了永久代
■ 本质上,方法区和永久代并不等价。仅是对 HotSpot 而言的。《Java虚拟机规范》对如何实现方法区,不做统一要求。例如:BEA JRockit / IBM J9 中不存在永久代的概念
● 现在来看,当年使用永久代,不是好的主意。导致 Java 程序更容易 OOM(超过 -XX:MaxPermSize 上限)
■ 而到了 JDK8,终于完全废弃了永久代的概念,改用与 JRockit、J9 一样在本地内存中实现的元空间(Metaspace) 来代替
■ 元空间的本质和永久代类似,都是对 JVM 规范中方法区的实现。不过元空间与永久代最大的区别在于:元空间不在虚拟机设置的内存中,而是使用本地内存
■ 永久代、元空间二者并不只是名字变了,内部结构也调整了
■ 根据《Java 虚拟机规范》的规定,如果方法区无法满足新的内存分配需求时,将抛出 OOM 异常
9.3、设置方法区大小与OOM
■ 方法区的大小不必是固定的,jvm 可以根据应用的需要动态调整
■ JDK7 及以前:
● 通过 -XX:PermSize 来设置永久代初始分配空间。默认值是 20.75M
● -XX:MaxPermSize 来设定永久代最大可分配空间。32位机器默认是 64M,64位机器模式是 82M
● 当 JVM 加载的类信息容量超过了这个值,会报异常 OutOfMemoryError: PermGenspace
■ JDK8及以后:
● 元数据区大小可以使用参数 -XX:MetaspaceSize 和 -XX:MaxMetaspaceSize 指定,替代上述原有的两个参数
● 默认值依赖于平台。windows下,-XX:MetaspaceSize是21M,-XX:MaxMetaspaceSize 的值是 -1,即没有限制
● 与永久代不同,如果不指定大小,默认情况下,虚拟机会耗尽所有的可用系统内存。如果元数据区发生溢出,虚拟机一样会抛出异常 OutOfMemoryError: Metaspace
● -XX:MetaspaceSize:设置初始的元空间大小。对于一个 64位的服务器端 JVM 来说,其默认的 -XX:MetaspaceSize 值为 21MB。这就是初始的高水位线,一旦触及这个水位线,Full GC 将会被触发并卸载没用的类(即这些类对应的类加载器不再存活),然后这个高水位线将会重置。新的高水位线的值取决于 GC 后释放了多少元空间。如果释放的空间不足,那么在不超过 MaxMetaspaceSize 时,适当提高该值。如果释放空间过多,则适当降低该值
● 如果初始化的高水位线设置过低,上述高水位线调整情况会发生很多次。通过垃圾回收器的日志可以观察到 Full GC 多次调用。为了避免频繁地 GC,建议将 -XX:MetaspaceSize 设置为一个相对较高的值
■ 如何解决 OOM?
● 要解决 OOM 异常或 heap space 的异常,一般的手段是首先通过内存映像分析工具(如 Eclipse Memory Analyzer) 对 dump 出来的堆转存快照进行分析,重点是确认内存中的对象是否是必要的,也就是要分析清除到底是出现了内存泄漏(Memory Leak) 还是内存溢出(Memory Overflow)
● 如果是内存泄漏,可进一步通过工具查看泄漏对象到 GC Roots 的引用链。于是就能找到泄漏对象是通过怎样的路径与 GC Roots 相关联并导致垃圾收集器无法自动回收它们的。掌握了泄漏对象的类型信息,以及 GC Roots 引用链的信息,就可以比较准确地定位出泄漏代码的位置
● 如果不存在内存泄漏,换句话说就是内存中的对象确实都还必须存活着,那就应当检查虚拟机的堆参数(-Xmx 与 -Xms),与机器物理内存对比看是否还可以调大,从代码上检查是否存在某些对象生命周期过长、持有状态时间过长的情况,尝试减少程序运行期的内存消耗
9.4、方法区的内部结构
■ 方法区(Method Area)存储什么
《深入理解 Java 虚拟机》书中对方法区存储内容描述如下:
它用于存储已被虚拟机加载的类型信息、常量、静态变量、即时编译器编译后的代码缓存等;
可以使用 javap -v -p Clazz.class 查看里面的具体信息,-p 会打印出具体详细的信息;
■ 类型信息:
对每个加载的类型(类 class、接口 interface、枚举 enum、注解 annotation),JVM 必须在方法区中存储以下类型信息:
● 这个类型的完整有效名称(全名 = 包名.类名)
● 这个类型直接父类的完整有效名(对于 interface 或是 java.lang.Object,都没有父类)
● 这个类型的修饰符(public,abstract,final 的某个子集)
● 这个类型直接接口的一个有序列表
■ 域(Field)信息
● JVM 必须在方法区中保存类型的所有域的相关信息以及域的声明顺序
● 域的相关信息包括:域名称、域类型、域修饰符(public,private,protected,static,final,volatile,transient 的某个子集)
■ 方法(Method)信息
JVM 必须保存所有方法的以下信息,同域信息一样包括声明顺序:
● 方法名称
● 方法返回类型(或 void)
● 方法参数的数量和类型(按顺序)
● 方法的修饰符(public、private、protected、static、final、synchronized、native、abstract 的一个子集)
● 方法的字节码(bytecodes)、操作数栈、局部变量表以及大小(abstract 和 native 方法除外)
● 异常表(abstract 和 native 方法除外)
○ 每个异常处理的开始位置、结束位置、代码处理在程序计数器中的偏移地址、被捕获的异常类的常量池索引
■ non-final的类变量(使用static修饰的变量)
● 静态变量和类关联在一起,随着类的加载而加载,它们成为类数据在逻辑上的一部分
● 类变量被类的所有实例共享,即使没有类实例时也可以访问它
public class MethodAreaTest {
public static void main(String[] args) {
Order order = null;
order.hello(); //不会报错,打印 hello!
System.out.println(order.count); //不会报错,打印1
}
}
class Order {
public static int count = 1;
public static final int number = 2;
public static void hello() {
System.out.println("hello!");
}
}
补充说明:全局常量
被声明为final 的类变量的处理方式不同,每个全局常量在编译的时候就会被分配了
■运行时常量池 vs 常量池
▲ 概述
● 方法区,内部包含了运行时常量池
● 字节码文件,内部包含了常量池
● 要弄清楚方法区,需要理解清楚 ClassFile,因为加载类的信息都在方法区
● 要弄清楚方法区的运行时常量池,需要理解清楚 ClassFile 中的常量池
● 官网:https://docs.oracle.com/javase/specs/jvms/se8/html/jvms-4.html
▲ 常量池
● 一个有效的字节码文件中除了包含类的版本信息、字段、方法以及接口等描述信息外,还包含一项信息,那就是常量池表(Constant Pool Table),它包含各种字面量和对类型、域和方法的符号引用
● 为什么需要常量池?
○ 一个 java 源文件中的类、接口,编译后产生一个字节码文件。而 java 中的字节码需要数据支持,通常这种数据会很大以至于不能直接存到字节码里,换另一种方式,可以存到常量池,这个字节码包含了指向常量池的引用。在动态链接的时候会用到运行时常量池,之前有介绍
○ 比如:如下的代码:
public class SimpleClass {
public void sayHello() {
System.out.println("hello");
}
}
虽然这个代码文件只有 194 字节,但是里面却使用了 String、System、PrintStream 及 Object 等结构。这里代码量其实已经很小了。如果代码多,引用到的结构会更多!这里就需要常量池了
● 常量池中有什么?
○ 几种在常量池内存储的数据类型包括:
△ 数量值
△ 字符串值
△ 类引用
△ 字段引用
△ 方法引用
○ 例如下面这段代码
public class MethodAreaTest2 {
public static void main(String[] args) {
Object obj = new Object();
}
}
Object obj = new Object(); 将会被编译成如下字节码:
● 小结:
常量池,可以看做是一张表,虚拟机指令根据这张常量表找到要执行的类名、方法名、参数类型、字面量等类型
▲ 运行时常量池
● 运行时常量池(Runtime Constant Pool)是方法区的一部分
● 常量池表(Constant Pool Table)是 Class 文件的一部分,用于存放编译期生成的各种字面量与符号引用,这部分内容将在类加载后存放到方法区的运行时常量池中
● 运行时常量池,在加载类和接口到虚拟机后,就会创建对应的运行时常量池
● JVM 为每个已加载的类型(类或接口)都维护一个常量池。池中的数据项像数组项一样,是通过索引访问的
● 运行时常量池中包含多种不同的常量,包括编译期就已经明确的数值字面量,也包括到运行期解析后才能够获得的方法或者字段引用。此时不再是常量池中的符号地址了,这里换为真实地址
○ 运行时常量池,相对于 Class 文件常量池的另一重要特征是:具备动态性
● 运行时常量池类似于传统编程语言中的符号表(symbol table),但是它所包含的数据却比符号表要更加丰富一些
● 当创建类或接口的运行时常量池时,如果构造运行时常量池所需的内存空间超过了方法区所能提供的最大值,则 JVM 会抛 OutOfMemoryError 异常
9.5、方法区使用举例
■ 代码如下:
■ 使用 javap -v -p MethodAreaDemo.class 命令反编译后,得到如下字节码:
■ 字节码指令执行步骤:
● sipush 500:将 500 这个数值压入操作数栈,此时程序计数器的当前线程执行位置为0(字节码指令序号)
● istore_1:弹出操作数栈栈顶 500,并将其保存到本地变量表序号为 1 的位置,此时程序计数器当前线程执行位置为 3
● bipush 100:将 100 这个数值压入操作数栈,此时程序计数器的当前线程执行位置为4
● istore_2:弹出操作数栈栈顶 100,并将其保存到本地变量表序号为 2 的位置,此时程序计数器当前线程执行位置为 6
● iload_1:读取本地变量 1,并将其压入操作数栈的栈顶,此时程序计数器的当前线程执行位置为7
● iload_2:读取本地变量 2,并将其压入操作数栈的栈顶,上一步压入操作数栈的数据会退一个位置(因为栈是后入先出的结构),此时程序计数器的当前线程执行位置为8
● idiv:将栈顶两个 int 类型数据相除,相除的结果入栈,此时程序计数器的当前线程执行位置为9
● istore_3:弹出操作数栈栈顶 100、500,由于之前这两个数已经入了本地变量表,这一次弹出不需要再入本地变量表了,同时弹出操作数栈栈顶 5,并将其保存到本地变量表序号为 3 的位置,此时程序计数器当前线程执行位置为 10
● bipush 50:将 50 压入操作数栈,此时程序计数器的当前线程执行位置为11
● istore 4:将栈顶 int 类型值保存到局部变量表 4 的位置,并弹出栈顶,此时程序计数器的当前线程执行位置为13
● getstatic #2:获取类或接口字段的值并将其推入操作数栈,#2 对应常量池中的 Fieldref #15.#16,此时程序计数器的当前线程执行位置为15
● iload_3:将本地变量3对应位置的值取出压入操作数栈,此时程序计数器的当前线程执行位置为18
● iload_4:将本地变量4对应位置的值取出压入操作数栈,此时程序计数器的当前线程执行位置为19
● iadd:将栈顶两个 int 类型数相加,结果入栈,此时程序计数器的当前线程执行位置为21
● invokevirtual #3:调用静态方法,jvm 会根据这个方法的描述,创建新栈帧,方法的参数从操作数栈中弹出来,压入虚拟机栈,然后虚拟机会开始执行虚拟机栈最上面的栈帧,执行完毕后,再继续执行 main 方法对应的栈帧,此时程序计数器的当前线程执行位置为22
● return:void 函数返回,main 方法执行结束,操作数栈里面的数据全部弹出,此时程序计数器的当前线程执行位置为25
9.6、方法区的演进细节
■ 首先明确:只有 HotSpot 才有永久代。BEA JRockit、IBM J9 等来说,是不存在永久代的概念的。原则上如何实现方法区属于虚拟机实现细节,不受《Java 虚拟机规范》管束,并不要求统一。
■ HotSpot 中方法区的变化:
JDK版本 | 描述 |
JDK1.6 及之前 | 有永久代(permanent generation),静态变量存放在永久代上 |
JDK1.7 | 有永久代,但已经逐步"去永久代",字符串常量池、静态变量移除,保存在堆中 |
JDK1.8及之后 | 无永久代,类型信息、字段、方法、常量保存在本地内存的元空间,但字符串常量池、静态变量仍在堆 |
■ JDK6:
■ JDK7:
■ JDK8:
■ 永久代为什么要被元空间替换?
● 随着 Java8 的到来,HotSpot VM 中再也见不到永久代了。但是这并不意味着类的元数据信息也消失了。这些数据被移到了一个与堆不相连的本地内存区域,这个区域叫做元空间(Metaspace)。
● 由于类的元数据分配在本地内存中,元空间的最大可分配空间就是系统可用内存空间
● 这项改动是很有必要的,原因有:
1、为永久代设置空间大小是很难确定的。在某些场景下,如果动态加载类过多,容易产生 Perm 区的 OOM。比如某个实际 Web 工程中,因为功能点比较多,在运行过程中,要不断动态加载很多类,经常出现致命错误。“Exception int thread ‘dubbo client x.x.connector’ java.lang.OutOfMemoryError: PermGenspace”。而元空间和永久代直接最大的区别在于:元空间并不在虚拟机中,而是使用本地内存。因此,默认情况下,元空间的大小仅受本地内存限制
2、对永久代进行调优是很困难的。
■ StringTable(字符串常量池)为什么要调整
JDK7 中将 StringTable 放到了堆空间中。因为永久代的回收效率很低,在 Full GC 的时候才会触发。而 Full GC 是老年代的空间不足、永久代不足时才会触发。这就导致 StringTable 回收效率不高。而我们开发中有大量的字符串被创建,回收效率低,导致永久代内存不足。放到堆里,能及时回收内存
■ 如何证明静态变量存在哪?
● 如下两段代码:
代码1:
package com.pengtxyl.chapter09;
/**
* @author 86130
* @date 2021/6/23 23:10
* @desc 描述: 证明静态变量存放位置
*
* 注意:静态引用对应的对象实体始终都存在堆空间, 这里是证明静态引用存放位置
* 配置 jdk7 的虚拟机参数:-Xms200m -Xmx200m -XX:PermSize=300m -XX:MaxPermSize=300m -XX:+PrintGCDetails
* 配置 jdk8 的虚拟机参数:-Xms200m -Xmx200m -XX:MetaspaceSize=300m -XX:MaxMetaspaceSize=300m -XX:+PrintGCDetails
*/
public class StaticFieldTest {
private static byte[] arr = new byte[1024 * 1024 * 100]; //100MB
public static void main(String[] args) {
System.out.println(StaticFieldTest.arr);
}
}
将 java 虚拟机改成 jdk6,配置好 JDK6 的虚拟机参数后启动服务,打印的参数如下:
可以看到上面代码中的静态变量保存着老年代中
同样地,将 java 虚拟机改成 jdk8,并配置好 JDK8 的虚拟机参数后启动服务,打印的参数如下:
同样,代码中的静态变量也保存在老年代中,那么是不是静态变量在 JDK6 和 JDK8 中没有改变呢,其实不是,这里要注意,静态引用对应的对象实体始终都存在堆空间,老年代是堆空间,这里是证明静态引用存放位置
代码2:验证 staticObj,instanceObj,localObj 存放在哪里?这里要借助 JHSDB 工具验证,JHSDB 工具也是JDK 自带的工具,但是要用 JDK9 或以上才有这个工具
public class StaticObjTest {
static class Test {
static ObjectHolder staticObj = new ObjectHolder();
ObjectHolder instanceObj = new ObjectHolder();
void foo() {
ObjectHolder localObj = new ObjectHolder();
System.out.println("done");
}
}
private static class ObjectHolder {
}
public static void main(String[] args) {
Test test = new StaticObjTest.Test();
test.foo();
}
}
staticObj 随着 Test 的类型信息存放在方法区,instanceObj 随着 Test 的对象实例存放在 Java 堆,localObj 则是存放在 foo() 方法栈帧的局部变量表中。
测试发现:三个对象的数据在内存中的地址都落在 Eden 区范围内,所以结论:只要是对象实例必然会在 Java 堆中分配
接着,找到了一个引用该 staticObj 对象的地址,是在一个 java.lang.Class 的实例里,并且给出了这个实例的地址,通过 Inspector 查看该对象实例,可以清楚看到这确实是一个 java.lang.Class 类型的对象实例,里面有一个名为 staticObj 的实例字段
从《Java 虚拟机规范》所定义的概念模型来看,所有 Class 相关的信息都应该存放在方法区之中,但方法区该如何实现,《Java 虚拟机规范》并未作出规定,这就成了一件允许不同虚拟机自己灵活把握的事情。JDK7 及其以后版本的 HotSpot 虚拟机选择把静态变量与类型在 Java 语言一端的映射 Class 对象存放在一起,存储于 Java 堆之中,从我们的实验也明确验证了这一点
9.7、方法区的垃圾回收
■ 有些人认为方法区(如 HotSpot 虚拟机中的元空间或者永久代)是没有垃圾收集行为的,其实不然。《Java 虚拟机规范》对方法区的约束是非常宽松的,提到过可以不要求虚拟机在方法区中实现垃圾收集。事实上也确实有未实现或未能完整实现方法区类型卸载的收集器存在(如 JDK11 时期的 ZGC 收集器就不支持类卸载)。
■ 一般来说这个区域的回收效果比较难令人满意,尤其是类型的卸载,相机相当苛刻。但是这部分区域的回收有时又确实是必要的。以前 Sun 公司的 Bug 列表中,层出现过的若干个严重的 Bug 就是由于低版本的 HotSpot 虚拟机对此区域未完全回收而导致内存泄漏
■ 方法区的垃圾收集主要回收两部分内容:常量池中废弃的常量和不再使用的类型
■ 先来说说方法区内常量池之中主要存放的两大类常量:字面量和符号引用。字面量比较接近 Java 语言层次的常量概念,如文本字符串、被声明为 final 的常量值等。而符号引用则属于编译原理方面的概念,包括下面三类常量:
● 类和接口的全限定名
● 字段的名称和描述符
● 方法的名称和描述符
■ HotSpot 虚拟机对常量池的回收策略是很明确的,只要常量池中的常量没有被任何地方引用,就可以被回收
■ 回收废弃常量与回收 Java 堆中的对象非常类似
■ 判定一个常量是否 “废弃” 还是相对简单,而要判定一个类似是否属于 “不再被使用的类” 的条件就比较苛刻了。需要同时满足下面三个条件:
● 该类所有的实例都已经被回收,也就是 Java 堆中不存在该类及其任何派生子类的实例
● 加载该类的类加载器已经被回收,这个条件除非是经过精心设计的可替换类加载器的场景,如 OSGi、JSP 的重加载,否则通常是很难达成的
● 该类对应的 java.lang.Class 对象没有在任何地方被引用,无法在任何地方通过反射访问该类的方法
■ Java 虚拟机被允许对满足上述三个条件的无用类进行回收,这里说的仅仅是 “被允许”,而并不是和对象一样,没有引用了就必然回收。关于是否要对类型进行回收,HotSpot 虚拟机提供了 -Xnoclassgc 参数进行控制,还可以使用 -verbose:class 以及 -XX:+TraceClass -Loading、-XX:+TraceClassUnLoading 查看类加载和卸载信息
■ 在大量使用反射、动态代理、CGLib 等字节码框架,动态生成 JSP 以及 OSGi 这类频繁自定义类加载器的场景中,通常都需要 Java 虚拟机具备类型卸载的能力,以保证不会对方法区造成过大的内存压力
9.8、总结
10、对象的实例化内存布局与访问定位
10.1、对象的实例化
1、 创建对象的方式:
■ new
● 最常见的方式
● 变形1:Xxx的静态方法
● 变形2:XxxBuilder/XxxFactory 的静态方法
■ Class 的 newInstance():反射的方式,只能调用空参的构造器,权限没有要求
■ Constructor 的 newInstance(Xxx):反射的方式,可以调用空参、带参的构造器,权限没有要求
■ 使用 clone():不调用任何构造器,当前类需要实现 Cloneable 接口,实现 clone()
■ 使用反序列化:从文件中、从网络中获取一个对象的二进制流
■ 第三方库 Objenesis
2、创建对象的步骤:
①、判断对象对应的类是否加载、链接、初始化
虚拟机遇到一条 new 指令,首先去检查这个指令的参数能否在 Metaspace 的常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已经被加载、解析和初始化。(即判断类元信息是否存在)。如果没有,那么在双亲委派模式下,使用当前类加载器以 ClassLoader + 包名 + 类名为 key 进行查找对应的 class 文件。如果没有找到文件,则抛出 ClassNotFoundException 异常,如果找到,则进行类加载,并生成对应的 Class 类对象
②、为对象分配内存
首先计算对象占用空间大小,接着在堆中划分一块内存给新对象。如果实例成员变量是引用变量,仅分配引用变量空间即可,即4个字节大小。在内存分配过程中,会存在下面的情况:
● 如果内存规整,使用指针碰撞
如果内存是规整的,那么虚拟机将采用的是指针碰撞法(Bump The Pointer)来为对象分配内存。意思是所有用过的内存在一边,空闲的内存在另外一边,中间放着一个指针作为分界点指示器,分配内存就仅仅是把指针向空闲那边挪动一段与对象大小相等的距离罢了。如果垃圾收集器选择的是 Serial、ParNew 这种基于压缩算法的,虚拟机采用这种分配方式。一般使用带有 compact(整理)过程的收集器时,使用指针碰撞
● 如果内存不规整,虚拟机需要维护一个列表,使用空闲列表分配
如果内存不是规整的,已使用的内存和未使用的内存相互交错,那么虚拟机将采用的是空闲列表法来为对象分配内存。意思是虚拟机维护了一个列表,记录上哪些内存块是可用的,再分配的时候从列表中找到一块足够大的空间划分给对象实例,并更新列表上的内容。这种分配方式称为 “空闲列表(Free List)”
说明:选择哪种分配方式由 Java 堆是否规整决定,而 Java 堆是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定
③、处理并发安全问题
在分配内存空间时,另外一个问题是及时保证 new 对象时候地线程安全性:创建对象是非常频繁的操作,虚拟机需要解决并发问题。虚拟机采用了两种方式解决并发问题
● CAS( Compare And Swap) 失败重试、区域加锁:保证指针更新操作的原子性
● TLAB 把内存分配的动作按照线程划分在不同的空间之中进行,即每个线程在 Java 堆中预先分配一小块内存,称为本地线程分配缓冲区(TLAB,Thread Local Allocation Buffer),虚拟机是否使用 TLAB,可以通过 -XX:+/-UseTLAB 参数来设定
④、初始化分配到的空间
内存分配结束,虚拟机将分配到的内存空间都初始化为零值(不包括对象头)。这一步保证了对象的实例字段在 Java 代码中可以不用赋初始值就可以直接使用,程序能访问到这些字段的数据类型所对应的零值
⑤、设置对象的对象头
将对象的所属类(即类的元数据信息)、对象的 HashCode和对象的 GC 信息、锁信息等数据存储在对象的对象头中。这个过程的具体设置方式取决于 JVM 实现
⑥、执行 init(构造器) 方法进行初始化
在 Java 程序的视角看来,初始化才正式开始。初始化成员变量,执行实例化代码块,调用类的构造方法,并把堆内对象的首地址赋值给引用变量。因此一般来说(由字节码中是否跟随有 invokespecial 指令所决定),new 指令之后会接着就是执行方法,把对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算完全创建出来
10.2、对象的内存布局
对象在堆中的内存结构包括下面三部分:
■ 对象头
对象头包含两部分,运行时元数据(Mark Word) 和 类型指针。其中运行时元数据又包含对象的哈希值、GC 分代年龄、锁状态标志、线程持有的锁、偏向线程 ID、偏向时间戳。类型指针是指向元数据 InstanceKlass,确定该对象所属的类型
说明:如果是数组,还需记录数组的长度
■ 实例数据(Instance Data)
实例数据是对象真正存储的有效信息,包括程序代码中定义的各种类型的字段(包括从父类继承下来的和本身拥有的字段)。
规则:
● 相同宽度的字段总是被分配在一起
● 父类中定义的变量会出现在子类之前
● 如果 CompactFields 参数为 true(默认为true),子类的窄变量可能插入到父类变量的空隙
■ 对齐填充(Padding)
不是必须的,也没有特别含义,仅仅起到占位符的作用
10.3、对象的访问定位
■ JVM 是如何通过栈帧中的对象引用访问到其内部的对象实例的呢?
■ 创建对象的目的就是为了使用它
■ JVM 是如何通过栈帧中的对象引用访问到其内部的对象实例的呢?
定位,通过栈上 reference 访问
■ 对象访问方式主要有两种
● 句柄访问
好处:reference 中存储稳定句柄地址,对象被移动(垃圾收集时移动对象很普遍)时只会改变句柄中实例数据指针即可,reference 本身不需要被修改
缺点:需要多分配一块地址来存储句柄
● 直接指针(HotSpot 采用)
11、直接内存
11.1、概述
■ 不是虚拟机运行时数据区的一部分,也不是《Java虚拟机规范》中定义的内存区域
■ 直接内存是在 Java 堆外的、直接向系统申请的内存区间
■ 来源于 NIO,通过存在堆中的 DirectByteBuffer 操作 Native 内存
■ 通常,访问直接内存的速度会优于 Java 堆。即读写性能高
● 因此处于性能考虑,读写频繁的场合可能会考虑使用直接内存
● Java 的 NIO 库允许 Java 程序使用直接内存,用于数据缓冲区
● 读写文件,需要与磁盘交互,需要由用户态切换到内核态。在内核态时,需要内存如下图所示。使用 IO,见下图。这里需要两份内存存储重复数据,效率低
● 使用 NIO 时,如下图,操作系统划出的直接缓存区可以被 java 代码直接访问,只有一份。NIO 适合对大文件的读写操作
■ 直接内存也可能导致 OutOfMemoryError 异常
■ 由于直接内存在 Java 堆外,因此它的大小不会直接受限于 -Xmx 指定的最大堆大小,但是系统内存是有限的,Java 堆和直接内存的总和依然受限于操作系统能给出的最大内存
■ 缺点
● 分配回收成本较高
● 不受 JVM 内存回收管理
■ 直接内存大小可以通过 MaxDirectMemorySize 设置
■ 如果不指定,默认与堆的最大值 -Xmx 参数值一致
■ 简单理解:进程中占用的内存 = 堆内存 + 直接内存
12、执行引擎
12.1、执行引擎概述
■ 执行引擎是 Java 虚拟机核心的组成部分之一
■ “虚拟机” 是一个相对于 “物理机” 的概念,这两种机器都有代码执行能力,其区别是物理机的执行引擎是直接建立在处理器、缓存、指令集和操作系统层面上的,而虚拟机的执行引擎则是由软件自行实现的,因此可以不受物理条件制约地定制指令集与执行引擎的结构体系,能够执行那些不被硬件直接支持的指令集格式
■ JVM 的主要任务是负责装载字节码到其内部,但字节码并不能够直接运行在操作系统上,因为字节码指令并非等价于本地机器指令,它内部包含的仅仅只是一些能够被 JVM 所识别的字节码指令、符号表,以及其他辅助信息
■ 那么,如果想要让一个 Java 程序运行起来,执行引擎(Execution Engine)的任务就是将字节码指令解释/编译为对于平台上的本地机器指令才可以。简单来说,JVM 中的执行引擎充当了将高级语言翻译为机器语言的翻译者
■ 执行引擎的工作过程:
● 执行引擎在执行的过程中究竟需要执行什么样的字节码指令完全依赖于 PC 寄存器
● 每当执行完一项指令操作后,PC 寄存器就会更新下一条需要被执行的指令地址
● 当然方法在执行的过程中,执行引擎有可能会通过存储在局部变量表中的对象引用准确定位到存储在 Java 堆区中的对象实例信息,以及通过对象头中的元数据指针定位到目标对象的类型信息
■ 从外观上来看,所有的 Java 虚拟机的执行引擎输入、输出都是一致的:输入的是字节码二进制流,处理过程是字节码解析执行的等效过程,输出的是指向结果
12.2、Java代码编译和执行过程
■ 大部分的程序代码转换成物理机的目标代码或虚拟机能执行的指令集之前,都需要经过上图中的各个步骤
● 橙色部分由 javac 编译完成
■ Java 代码编译是由 Java 源码编译器来完成,流程图如下所示:
■ Java 字节码的执行是由 JVM 执行引擎来完成,流程图如下所示:
■ 问题:什么是解释器(Interpreter),什么是 JIT 编译器?
● 解释器:当 Java 虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行,将每条字节码文件中的内容 “翻译” 为对应平台的本地机器指令执行
● JIT( Just In Time Compiler )编译器:就是虚拟机将源代码直接编译成和本地机器平台相关的机器语言
■ 问题:为什么说 Java 是半编译半解释型语言?
JDK1.0 时代,将 Java 语言定位为 “解释执行” 还是比较准确地。再后来,Java 也发展出可以直接生成本地代码的编译器
现在 JVM 在执行 Java 代码的时候,通常都会将解释执行与编译执行二者结合起来进行
12.3、机器码、指令、汇编语言
①、机器码
■ 各种用二进制编码方式表示的指令,叫做机器码指令。开始,人们就用它编写程序,这就是机器语言
■ 机器语言虽然能够被计算机理解和接受,但和人们的语言差别太大,不易被人们理解和记忆,并且用它编程容易出差错
■ 用它编写的程序一经输入计算机,CPU 直接读取运行,因此和其他语言编写的程序相比,执行速度最快
■ 机器指令与 CPU 紧密相关,所以不同种类的 CPU 所对应的机器指令也就不同
②、指令
■ 由于机器码是有 0 和 1 组成的二进制序列,可读性实在太差,于是人们发明了指令
■ 指令就是把机器码中特定的 0 和 1 序列,简化成对应的指令(一般为英文简写,如 mov,inc等),可读性稍好
■ 由于不同的硬件平台,执行同一个操作,对应的机器码可能不同,所以不同的硬件平台的同一种指令(比如mov),对应的机器码也可能不同
③、指令集
■ 不同的硬件平台,各自支持的指令,是有差别的。因此每个平台所支持的指令,称之为对应平台的指令集
■ 如常见的:
● x86 指令集,对应的是 x86 架构的平台
● ARM 指令集,对应的是 ARM 架构的平台
④、汇编语言
■ 由于指令的可读性还是太差,于是人们又发明了汇编语言
■ 在汇编语言中,用助记符(Mnemonics)代替机器指令的操作码,用地址符号(Symbol)或标记(Label)代替指令或操作数的地址
■ 在不同的硬件平台,汇编语言对应着不同的机器语言指令集,通过汇编过程转换成机器指令
● 由于计算机只认识指令码,所以用汇编语言编写的程序还必须翻译成机器指令码,计算机才能识别和执行
⑤、高级语言
■ 为了使计算机用户编程序更容易些,后来就出现了各种高级计算机语言。高级语言比机器语言、汇编语言更接近人的语言
■ 当计算机执行高级语言编写的程序时,仍然需要把程序解释和编译成机器的指令码。完成这个过程的程序就叫做解释程序或编译程序
⑥、字节码
■ 字节码是一种中间状态(中间码)的二进制代码(文件),它比机器码更抽象,需要直译器转译后才能成为机器码
■ 字节码主要为了实现特定软件运行和软件环境、与硬件环境无关
■ 字节码的实现方式是通过编译器和虚拟机器。编译器将源码编译成字节码,特定平台上的虚拟机器将字节码转译为可以直接执行的指令
● 字节码的典型应用为 Java bytecode
12.4、解释器
■ JVM 设计者们的初衷仅仅只是单纯地为了满足 Java 程序实现跨平台特性,因此避免采用静态编译的方式直接生成本地机器指令,从而诞生了实现解释器在运行时采用逐行解释字节码执行的思想
■ 解释器真正意义上所承担的角色就是一个运行时 “翻译者”,将字节码文件中的内容 “翻译” 为对应平台的本地机器指令执行
■ 当一条字节码指令被解释执行完成后,接着再跟进 PC 寄存器中记录的下一条需要被执行的字节码指令执行解释操作
■ 解释器分类:
在 Java 的发展历史里,一共有两套解释执行器,即古老的字节码解释器、现代普遍使用的模板解释器
● 字节码解释器在执行时通过纯软件代码模拟字节码的执行,效率非常低下
● 而模板解释器将每一条字节码和一个模板函数相关联,模板函数中直接产生这条字节码执行时的机器码,从而很大程度上提高了解释器的性能
○ 在 HotSpot VM 中,解释器主要由 Interpreter 模板和 Code 模块构成
Interpreter模块:实现了解释器的核心功能
Code模块:用于管理 HotSpot VM 在运行时生成的本地机器指令
■ 现状:
● 由于解释器在设计和实现上非常简单,因此除了 Java 语言之外,还有许多高级语言同样也是基于解释器执行的,比如 Python、Perl、Ruby 等。但是在今天,基于解释器执行已经沦落为低效的代名词,并且时常被一些 C/C++ 程序员所调侃
● 为了解决这个问题,JVM 平台支持一种叫做即时编译的技术。即时编译的目的是避免函数被解释执行,而是将整个函数体编译成为机器码,每次函数执行时,只执行编译后的机器码即可,这种方式可以使执行效率大幅度提升
● 不过无论如何,基于解释器的执行模式仍然为中间语言的发展作出了不可磨灭的贡献
12.5、JIT编译器
①、Java代码的执行分类
■ 第一种是将源代码编译成字节码文件,然后在运行时通过解释器将字节码文件转为机器码执行
■ 第二种是编译执行(直接编译成机器码)。现代虚拟机为了提高执行效率,会使用即使编译技术(JIT)将方法编译成机器码后再执行
■ HotSpot VM 是目前市面上高性能虚拟机的代表作之一。它采用解释器与即时编译器并存的架构。在 Java 虚拟机运行时,解释器和即时编译器能够相互协作,各自取长补短,尽力去选择最合适的方式来权衡编译本地代码的时间和直接解释执行代码的时间
■ 在今天,Java 程序的运行性能早已脱胎换骨,已经达到了可以和 C/C++ 程序一较高下的地步
②、问题
有些开发人员会感觉到诧异,既然 HotSpot VM 中已经内置了 JIT 编译器了,那么为什么还需要再使用解释器来 “拖累” 程序的执行性能呢?比如 JRockit VM 内部就不包含解释器,字节码全部都依靠即时编译器编译后执行
答:
首先明确:当程序启动后,解释器可以马上发挥作用,省去编译的时间,立即执行。编译器要想发挥作用,把代码编译成本地代码,需要一定的执行时间。但编译为本地代码后,执行效率高。
所以:尽管 JRockit VM 中程序的执行性能会非常高效,但程序在启动时必然需要花费更长的时间来进行编译。对于服务端应用来说,启动时间并非是关注重点,但对于那些看中启动时间的应用场景而言,或许就需要采用解释器与即时编译器并存的架构来换取一个平衡点。在此模式下,当 Java 虚拟机启动时,解释器可以首先发挥作用,而不必等待即时编译器全部编译完成后再执行,这样可以省去许多不必要的编译时间。随着时间的推移,编译器发挥作用,把越来越多的代码编译成本地代码,获得更高的执行效率。
同时,解释器执行在编译器进行激进优化不成立的时候,作为编译器的 “逃生门”
③、HotSpot JVM的执行方式
■ 当虚拟机启动的时候,解释器可以首先发挥作用,而不必等待即时编译器全部编译完成再执行,这样可以省去许多不必要的编译时间。并且随着程序运行时间的推移,即时编译器逐渐发挥作用,根据热点探测功能,将有价值的字节码编译为本地机器指令,以换取更高的程序执行效率
④、案例
注意解释执行与编译执行在线上环境微妙的辩证关系。机器在热机状态可以承受的负载要大于冷机状态。如果以热机状态时的流量进行切流,可能使处于冷机状态的服务器因无法承载流量而假死。
在生产环境发布过程中,以分批的方式进行发布,根据机器数量划分成多个批次,每个批次的机器数至多占到整个集群的 1/8。曾经有这样的案例:某程序员在发布平台进行分批发布,在输入发布总批数时,误填写成为两批发布。如果是热机状态,在正常情况下一半的机器可以勉强承载流量,但由于刚启动的 JVM 均是解释执行,还没有进行热点代码统计和 JIT 动态编译,导致机器启动之后,当前 1/2 发布成功的服务器马上全部宕机,从故障说明了 JIT 的存在
⑤、概念解释
■ Java 语言的 “编译期” 其实是一段 “不确定” 的操作过程,因为它可能是指一个前端编译器(其实叫 “编译器的前端” 更准确一些)把 .java 文件变成 .class 文件的过程
■ 也可能是指虚拟机的后端运行期编译器(JIT 编译器,Just In Time Compiler)把字节码转变成机器码的过程
■ 还可能是指使用静态提前编译器(AOT 编译器,Ahead Of Time Compiler)直接把 .java 文件编译成本地机器代码的过程
前端编译器:Sun 的 Javac、Eclipse JDT 中的增量式编译器(ECJ)
JIT 编译器:HotSpot VM 的 C1、C2 编译器
AOT 编译器:GUN Compiler for the Java(GCJ)、Excelsior JET
⑥、热点代码及探测方式
■ 当然是否需要启动 JIT 编译器将字节码直接编译为对应平台的本地机器指令,则需要根据代码被调用执行的频率而定。关于那些需要被编译为本地代码的字节码,也被称之为 “热点代码”,JIT 编译器在运行时会针对那些频繁被调用的 “热点代码” 作出深度优化,将其直接编译为对应平台的本地机器指令,以此提升 Java 程序的执行性能
■ 一个被多次调用的方法,或者是一个方法体内部循环次数较多的循环体都可以被称之为 “热点代码”,因此都可以通过 JIT 编译器编译为本地机器指令。由于这种编译方式发生在方法的执行过程中,因此也被称之为栈上替换,或简称为 OSR(On Stack Replacement) 编译
■ 一个方法究竟要被调用多少次,或者一个循环体究竟需要执行多少次循环才可以达到这个标准?必然需要一个明确的阈值,JIT 编译器才会将这些 “热点代码” 编译为本地机器指令执行。这里主要依靠热点探测功能
■ 目前 HotSpot VM 所采用的热点探测方式是基于计数器的热点探测
■ 采用基于计数器的热点探测,HotSpot VM 将会为每一个方法都建立 2 个不同类型的计数器,分别为方法调用计数器(Invocation Counter)和回边计数器(Back Edge Counter)
● 方法调用计数器用于统计方法的调用次数
● 回边计数器则用于统计循环体执行的循环次数
⑦、方法调用计数器
■ 这个计数器就用于统计方法被调用的次数,它的默认阈值在 Client 模式下是 1500 次,在 Server 模式下是 10000 次。超过这个阈值,就会触发 JIT 编译
■ 这个阈值可以通过虚拟机参数 -XX:CompileThreshold 来人为设定
■ 当一个方法被调用时,会先检查该方法是否存在被 JIT 编译过的版本,如果存在,则优先使用编译后的本地代码来执行。如果不存在已被编译过的版本,则将此方法的调用计数器值加 1,然后判断方法调用计数器与回边计数器值之和是否超过方法调用计数器的阈值。如果已超过阈值,那么将会向即时编译器提交一个该方法的代码编译请求
■ 热度衰减
● 如果不做任何设置,方法调用计数器统计的并不是方法被调用的绝对次数,而是一个相对的执行频率,即一段时间之内方法被调用的次数。当超过一定的时间限度,如果方法的调用次数仍然不足以让它提交给即时编译器编译,那么这个方法的调用计数器就会被减少一半,这个过程称为方法调用计数器热度的衰减(Counter Decay),而这段时间就称为此方法统计的半衰周期(Counter Half Life Time)
● 进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的,可以使用虚拟机参数 -XX:-UseCounterDecay 来关闭热度衰减,让方法计数器统计方法调用的绝对次数,这样,只要系统运行时间足够长,绝大部分方法都会被编译成本地代码
● 另外,可以使用 -XX:CounterHalfLifeTime 参数设置半衰周期的时间,单位是秒
⑧、回边计数器
它的作用是统计一个方法中循环体代码执行的次数,在字节码中遇到控制流向后跳转的指令称为 “回边”(Back Edge)。显然,建立回边计数器统计的目的就是为了触发 OSR 编译
⑨、HotSpot VM可以设置程序执行方式
■ 缺省情况下 HotSpot VM 是采用解释器与即时编译器并存的架构,当然开发人员可以根据具体的应用场景,通过命令显式地为 Java 虚拟机指定在运行时到底完全采用解释器执行还是完全采用即时编译器执行。如下所示:
● -Xint:完全采用解释器模式执行程序
● -Xcomp:完全采用即时编译器模式执行程序。如果即时编译器出现问题,解释器会介入执行
● -Xmixed:采用解释器+即时编译器的混合模式共同执行程序
设置方式可以在 java 命令后面设置
■ 在 HotSpot VM 中内嵌有两个 JIT 编译器,分别为 Client Compiler 和 Server Compiler,但大多数情况下我们简称为 C1 编译器和 C2 编译器。开发人员可以通过如下命令显式指定 Java 虚拟机在运行时到底使用哪一种即时编译器,如下所示:
● -client:指定 Java 虚拟机运行在 Client 模式下,并使用 C1 编译器
C1 编译器会对字节码进行简单和可靠的优化,耗时短。以达到更快的编译速度
● -server:指定 Java 虚拟机运行在 Server 模式下,并使用 C2 编译器,64位机器模式默认运行在 server 模式下
C2 进行耗时较长的优化,以及激进优化。但优化的代码执行效率更高
■ C1 和 C2 编译器不同的优化策略:
● 在不同的编译器上有不同的优化策略,C1编译器上主要有方法内联,去虚拟化、冗余消除
○ 方法内联:将引用的函数代码编译到引用点处,这样可以减少栈帧的生成,减少参数传递以及跳转过程
○ 去虚拟化:对唯一的实现类进行内联
○ 冗余消除:在运行期间把一些不会执行的代码折叠掉
● C2 的优化主要是在全局层面,逃逸分析是优化的基础。基于逃逸分析在 C2 上有如下几种优化:
○ 标量替换:用标量值代替聚合对象的属性值
○ 栈上分配:对于未逃逸的对象分配对象在栈而不是堆
○ 同步消除:清除同步操作,通常指 synchronized
■ 分层编译(Tiered Compilation)策略
分层编译(Tiered Compilation)策略:程序解释执行(不开通性能监控)可以触发 C1 编译,将字节码编译成机器码,可以进行简单优化,也可以加上性能监控,C2 编译会根据性能监控信息进行激进优化
不过在 JDK7 版本之后,一旦开发人员在程序中显式指定名 “-server” 时,默认将会开启分层编译策略,由 C1 编译器和 C2 编译器相互协作共同来执行编译任务
■ 总结:
一般来讲,JIT 编译出来的机器码性能比解释器高
C2编译器启动时长比 C1 编译器慢,系统稳定执行以后,C2 编译器执行速度远远快于 C1 编译器
12.6、Graal编译器与AOT编译器(了解)
■ Graal 编译器:
● 自 JDK10 起,HotSpot 又加入一个全新的即时编译器:Graal 编译器
● 编译效果短短几年时间就追平了 C2 编译器。未来可期
● 目前,带有 “实验状态” 标签,需要使用开关参数 -XX:+UnlockExperimentalVMOptions -XX:+UseJVMCICompiler 去激活,才可以使用
■ AOT 编译器:
● JDK9 引入了 AOT 编译器(静态提前编译器,Ahead Of Time Compiler)
● Java9 引入了实验性 AOT 编译工具 jaotc。它借助了 Graal 编译器,将所输入的 Java 类文件转换为机器码,并存放至生成的动态共享库之中
● 所谓 AOT 编译,是与即时编译相对立的一个概念。我们知道,即时编译指的是在程序的运行过程中,将字节码转换为可在硬件上直接运行的机器码,并部署至托管环境中的过程。而 AOT 编译指的则是,在程序运行之前,便将字节码转换为机器码的过程
● 最大好处:Java 虚拟机加载已经预编译成二进制库,可以直接执行。不必等待即时编译器的预热,减少 Java 应用给人带来 “第一次运行慢” 的不良体验
● 缺点:
○ 破坏了 java “一次编译,到处运行”,必须为每个不同硬件、OS 编译对应的发行包
○ 降低了 Java 链接过程的动态性,加载的代码在编译期就必须全部已知
○ 还需要继续优化中,最初只支持 Linux x64 java base
13、StringTable
13.1、String的基本特性
■ String:字符串,使用一对 “” 引起来表示
String s1 = "atguigu"; //字面量的定义方式
String s2 = new String("hello");
■ String 声明为 final 的,不可被继承
■ String 实现了 Serializable 接口:表示字符串是支持序列化的。实现了 Comparable 接口:表示 String 可以比较大小
■ String 在 JDK8 及以前内部定义了 final char[] value 用于存储字符串数据。JDK9 时改为 byte[]
■ String 在 JDK9 中存储结构变更:http://openjdk.java.net/jeps/254
■ 结论:String 再也不用 char[] 来存储啦,改成了 byte[] 加上编码标记,节约了一些空间
public final class String implements java.io.Serializable,Comparable<String>,CharSequence {
@Stable
private final byte[] value;
}
● 那么 StringBuffer 和 StringBuilder 是否扔无动于衷呢?
String-related classes such as AbstractStringBuilder, StringBuilder, and StringBuffer will be updated to use the same representation, as will the HotSpot VM'S intrinsic(固有的、内置的) string operations.
■ String:代表不可变的字符序列。简称:不可变性
● 当对字符串重新赋值时,需要重写指定内存区域赋值,不能使用原有的 value 进行赋值
● 当对现有的字符串进行连接操作时,也需要重新指定内存区域赋值,不能使用原有的 value 进行赋值
public void test2() {
String s1 = "abc";
String s2 = "abc";
S2 += "def";
System.out.println(s2); //abcdef
System.out.println(s1); //abc
}
● 当调用 String 的 replace() 方法修改指定字符或字符串时,也需要重新指定内存区域赋值,不能使用原有的 value 进行赋值
public void testt3() {
String s1 = "abc";
String s2 = s1.replace('a', 'm');
System.out.println(s1); //abc
System.out.println(s2); //mbc
}
■ 通过字面量的方式(区别于 new)给一个字符串赋值,此时的字符串值声明在字符串常量池中
public class StringExer {
String str = new String("good");
char[] ch = {'t', 'e', 's', 't'};
public void change(String str, char ch[]) {
str = "test ok";
ch[0] = 'b';
}
public static void main(String[] args) {
StringExer ex = new StringExer();
ex.change(ex.str, ex.ch);
System.out.println(ex.str); //good
System.out.println(ex.ch); //best
}
}
/*
注意这里的原因:str 首先指向一个 new String("good"), 在调用 change 方法时,是将实参的引用传递给
了形参 str, 即形参 str 指向了 new String("good") 的地址,运行代码时形参 str 又指向了 "test ok" 的地址,而之前的实参 str 是从未改变的
ch 是将实参地址传递过来后,改变了地址对应的对象的值,所以会改变
*/
■ 字符串常量池中是不会存储相同内容的字符串的
● String 的 String Pool 是一个固定大小的 Hashtable,默认值大小长度是 1009。如果放进 String Pool 的 String 非常多,就会造成 Hash 冲突严重,从而导致链表会很长,而链表长了后直接会造成的影响就是当调用String.intern 时性能会大幅下降
● 使用 -XX:StringTableSize 可设置 StringTable 的长度
● 在 JDK6 中 StringTable 是固定的,就是 1009 的长度,所以如果常量池中的字符串过多就会导致效率下降很快。StringTableSize 设置没有要求,想改多少改多少
如何查看参数:
1、启动程序
2、输入 jps 查看当前程序的进程号
3、使用 jinfo -flag 参数名(不要-XX:) 进程号
4、即可查看
● 在 JDK7中,StringTable 的长度默认值是 60013,修改没有限制
● JDK8 开始,默认值也是 60013,设置 StringTable 的长度的话,1009 是可设置的最小值,设置小于 1009 就会报错
13.2、String的内存分配
■ 在 Java 语言中有8种基本数据类型和一种比较特殊类型的 String。这些类型为了使它们在运行过程中速度更快、更节省内存,都提供了一种常量池的概念
■ 常量池就类似一个 Java 系统级别提供的缓存。8种基本数据类型的常量池都是系统协调的,String 类型的常量池比较特殊。它的主要使用方法有两种
● 直接使用双引号声明出来的 String 对象会直接存储在常量池中。比如:String info = “atguigu.com”
● 如果不是用双引号声明的 String 对象,可以使用 String 提供的 intern() 方法。这个后面重点谈
■ Java 6及以前,字符串常量池存放在永久代
■ Java 7中Oracle的工程师对字符串池的逻辑做了很大的改变,即将 字符串常量池的位置调整到Java堆内
● 所有的字符串都保存在堆(Heap)中,和其他普通对象一样,这样 可以让你在进行调优应用时仅需要调整堆大小就可以了
● 字符串常量池概念原本使用得比较多,但是这个改动使得我们有足够 的理由让我们重新考虑在Java 7中使用String. intern ()
■ Java8元空间,字符串常量在堆
■ StringTable 为什么要调整?
● permSize 默认比较小
● 永久代垃圾回收频率低
官网:https://www.oracle.com/technetwork/java/javase/jdk7-relnotes-418459.html#jdk7changes
13.3、String的基本操作
■ Java 语言规范里要求完全相同的字符串字面量,应该包含同样的 Unicode 字符序列(包含同一份码点序列的常量),并且必须是指向同一个 String 类实例
13.4、字符串拼接操作
■ 常量与常量的拼接结果在常量池,原理是编译期优化
@Test
public void test1() {
String s1 = "a" + "b" + "c";
String s2 = "abc";
/*
* 最终 .java编译成.class,再执行.class
* String s1 = "abc"
* String s2 = "abc
*/
System.out.println(s1 == s2); //true
System.out.println(s1.equals(s2)); //true
}
■ 常量池中不会存在相同内容的常量
■ 只要其中有一个是变量,结果就在堆中。变量拼接的原理是 StringBuilder。但是注意,如果变量前面有 final 修饰,情况又会不一样,不会使用 StringBuilder 拼接,仍然使用编译器优化,在后面有代码演示。所以,针对 final 修饰类、方法、基本数据类型、引用数据类型等结构时,能加 final 时尽量都加上
■ 如果拼接的结果调用 intern() 方法,则主动将常量池中还没有的字符串对象放入池中,并返回此对象地址
@Test
public void test2() {
String s1 = "javaEE";
String s2 = "hadoop";
String s3 = "javaEEhadoop";
String s4 = "javaEE" + "hadoop";
//如果拼接符号的前后出现了变量,则相当于在堆空间中 new String(),具体的内容为拼接的结果
String s5 = s1 + "hadoop";
String s6 = "javaEE" + s2;
/*
如下 s1 + s2 的执行细节:
1、首先 StringBuilder s = new StringBuilder(); 补充:在jdk5.0之后使用的是StringBuilder,而在 jdk5.0之前使用的是 StringBuffer
2、将s1追加到s中:s.append("javaEE")
3、将s2追加到s中:s.append("hadoop")
4、然后调用s的toString方法返回给s7:s.toString() --> 约等于 new String("javaEEhadoop");
*/
String s7 = s1 + s2;
System.out.println(s3 == s4); //true
System.out.println(s3 == s5); //false
System.out.println(s3 == s6); //false
System.out.println(s3 == s7); //false
System.out.println(s5 == s6); //false
System.out.println(s5 == s7); //false
System.out.println(s6 == s7); //false
//intern():判断字符串常量池中是否存在 javaEEhadoop值,如果存在,则返回常量池中 javaEEhadoop的地址;如果字符串常量池中不存在 javaEEhadoop,则在常量池中加载一份 javaEEhadoop,并返回此对象的地址
String s8 = s6.intern();
System.out.println(s3 == s8); //true
}
@Test
public void test4() {
final String s1 = "a";
final String s2 = "b";
String s3 = "ab";
String s4 = s1 + s2;
System.out.println(s3 == s4); //true
}
■ 拼接操作与 append 操作的效率对比,先看下面代码:
体会执行效率:通过 StringBuilder 的 append() 的方法添加字符串的效率要远远高于使用 String 的字符串拼接方式,具体详情如下:
1、使用StringBuilder 的 append() 的方式:自始至终只创建了一个 StringBuilder 的对象;
使用 String 的字符串拼接方式:拼接几次就会创建几个 StringBuilder 和 String 对象
2、使用 String 的字符串拼接方式:内存中由于创建了较多的 StringBuilder 和 String 的对象,内存占用更大;如果进行 GC,需要花费额外的时间
但是,即使使用 StringBuilder 的 append() 方式,也有改进的空间,因为 StringBuilder 在创建的时候,可以指定容量,如果不指定容量,那么每次 append 的时候都会去确认容量是否足够,不够的话就会扩容,扩容会使效率降低,而在实际开发中,如果基本确定要添加的字符串长度不高于某个限定值 highLevel,建议使用构造器
StirngBuilder sb = new StringBuilder(int highLevel);它的底层去新建了一个 char 数组,长度为 highLevel,如:new char[highLevel]。这样就不会扩容从而提高效率
@Test
public void test5() {
Instant start = Instant.now();
method1(100000);
Instant mid = Instant.now();
System.out.println("花费的时间为: " + Duration.between(start, mid).toMillis() + " ms"); //6262ms
method2(100000);
Instant end = Instant.now();
System.out.println("花费的时间为: " + Duration.between(mid, end).toMillis() + " ms"); // 7ms
}
public void method1(int highLevel) {
String src = "";
for(int i = 0 ; i < highLevel ; i++) {
src = src + "a"; //每次循环都会创建一个 StringBuilder以及一个String
}
}
public void method2(int highLevel) {
//只需要创建一个 StringBuilder
StringBuilder src = new StringBuilder();
for (int i = 0; i < highLevel; i++) {
src.append("a");
}
}
13.5、intern()的使用
■ 如果不是用双引号声明的 String 对象,可以使用 String 提供的 intern 方法:intern 方法会从字符串常量池中查询当前字符串是否存在,若不存在就会将当前字符串放入常量池中,然后将常量池中的这个地址返回给 myInfo 这个变量,如果存在,那么直接把常量池中的地址返回给 myInfo 变量
● 比如 String myInfo = new String(“I love atguigu”).intern();
■ 也就是说,如果在任意字符串上调用 String.intern 方法,那么其返回结果所指向的那个类实例,必须和直接以常量形式出现的字符串实例完全相同。因此,以下表达式的值必定是 true
("a" + "b" + "c").intern() = "abc";
■ 通俗点讲,Interned String 就是确保字符串在内存里只有一份拷贝,这样可以节约内存空间,加快字符串操作任务的执行速度。注意,这个值会被存放在字符串内部池(String Intern Pool)
■ 如何保证变量 s 指向的是字符串常量池中的数据呢?有两种方式
方式1:String s = “lipengtxyl”; //字面量定义的方式
方式2:String s = new String(“lipengtxyl”).intern(); 或者
String s = new StringBuilder(“lipengtxyl”).toString().intern();
■ 面试题:
● 面试题1:new String(“ab”) 会创建几个对象?看字节码,就知道是两个
一个对象是:new 关键字在堆空间创建的
另一个对象是:字符串常量池中的对象 “ab”。字节码指令:ldc
public static void main(String[] args) {
String str = new String("ab");
}
● 面试题2:new String(“a”) + new String(“b”) 会创建几个对象?通过查看字节码
对象1:new StringBuilder(),由 “+” 连接符的原因创建
对象2:new String(“a”)
对象3:常量池中的 “a”
对象4:new String(“b”)
对象5:常量池中的 “b”
深入剖析:在返回的时候,调用了 StringBuilder 的 toString() 方法,而 toString() 方法又会创建一个对象
对象6:new String(“ab”),强调一下,toString() 的调用,在字符串常量池中没有生成 “ab”
● 面试题3:
public static void main(String[] args) {
String s = new String("1");
s.intern(); //调用此方法之前,字符串常量池中已经存在了"1"
String s2 = "1";
System.out.println(s == s2); //jdk6: false jdk7/jdk8: false
String s3 = new String("1") + new String("1"); //s3变量记录的地址为:new String("11")
//执行完上一行代码以后,字符串常量池中,是否存在"11"呢?答案:不存在!!
s3.intern(); //在字符串常量池中生成"11"。如何理解:jdk6:创建了一个新的对象"11",也就有新的地址
//jdk7/jdk8:此时常量池中并没有创建"11",而是创建一个指向 new String("11")的地址
String s4 = "11"; //s4变量记录的地址:使用的是上一行代码执行时,在常量池中生成的"11"的地址;在 jdk7/jdk8 中,首先在堆空间的字符串常量池中找是否有"11"这个字符串,结果发现有一个指向new String("11")的地址,那么就认为找到了"11",此时的s4地址和s3地址是一样的
System.out.println(s3 == s4); //jdk6: flase jdk7/jdk8: true
}
■ 总结 String 的 intern() 的使用:
● jdk1.6 中,将这个字符串对象尝试放入字符串常量池
○ 如果字符串常量池中有,则并不会放入。返回已有的字符串常量池中的对象的地址
○ 如果没有,会把此对象复制一份,放入字符串常量池,并返回字符串常量池中的对象地址
● jdk1.7 起,将这个字符串对象尝试放入字符串常量池
○ 如果字符串常量池中有,则并不会放入。返回已有的字符串常量池中的对象的地址
○ 如果没有,则会把对象的引用地址复制一份,放入字符串常量池,并返回字符串常量池中的引用地址
■ 练习:
练习1:
● 第 1 行:其实就是创建了一个 new String(“ab”) 对象,但是并没有在字符串常量池中创建 “ab” 对象
● 第 2 行:jdk6 中,在字符串常量池中创建一个字符串 “ab”;jdk8 中,字符串常量池中没有创建字符串"ab",而是创建一个引用,指向 new String(“ab”) ,将此引用返回
public static void main(String[] args) {
String s = new String("a") + new String("b");//第 1 行
String s2 = s.intern();//第 2 行//
System.out.println(s2 == "ab");//第 3 行//jdk6:true jdk8:true
System.out.println(s == "ab");// 第 4 行//jdk6:false jdk8:true
}
练习2:在上面代码前面加一行 String x = “ab”
● 第 1 行:在字符串常量池中创建了一个 “ab” 对象
● 第 2 行:创建一个 new String(“ab”) 对象
● 第 3 行:尝试将 “ab” 对象存放到字符串常量池中时,常量池中已经有对象,所以 s2 指向常量池中地址
public static void main(String[] args) {
String x = "ab";//第 1 行
String s = new String("a") + new String("b");//第 2 行
String s2 = s.intern();//第 3 行
System.out.println(s2 == x);//jdk6:true jdk8:true
System.out.println(s == x);//jdk6:false jdk8:false
}
■ inter() 的空间效率测试:
使用 intern() 测试执行效率:空间使用上,代码如下:
package com.pengtxyl.chapter13;
public class StringIntern2 {
static final int MAX_COUNT = 1000 * 10000;
static final String[] arr = new String[MAX_COUNT];
public static void main(String[] args) {
Integer[] data = new Integer[]{1,2,3,4,5,6,7,8,9,10};
long start = System.currentTimeMillis();
for (int i = 0; i < MAX_COUNT; i++) {
// arr[i] = new String(String.valueOf(data[i % data.length])); // 方式1
arr[i] = new String(String.valueOf(data[i % data.length])).intern(); // 方式2
}
long end = System.currentTimeMillis();
System.out.println("花费的时间为: " + (end - start));
try {
Thread.sleep(1000000);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.gc();
}
}
上述代码中,使用方式2要优于方式1,对于程序中大量存在的字符串,尤其其中存在很多重复字符串时,使用 intern() 可以节省内存空间
原因:方式1中,会在堆中创建指定的 MAX_COUNT 个 String,同时在字符串常量池中也会创建一些对象,数组会指向堆中创建的 String 对象。而方式2,虽然也会在堆中创建 MAX_COUNT 个 String,但是最后数组指向的是字符串常量池中的 String,所以,堆中创建的对象由于没被使用而会被垃圾回收器回收大量对象
13.6、StringTable的垃圾回收
■ 垃圾回收:-XX:+PrintStringTableStatistics
参数:-Xms15m -Xmx15m -XX:+PrintStringTableStatistics -XX:+PrintGCDetails
package com.pengtxyl.chapter13;
/*
* String 的垃圾回收
* -Xms15m -Xmx15m -XX:+PrintStringTableStatistics -XX:+PrintGCDetails
* */
public class StringGCTest {
public static void main(String[] args) {
for (int i = 0; i < 100000; i++) {
String.valueOf(i).intern();
}
}
}
13.7、G1中的String去重操作
■ 背景:对许多 Java 应用(有大的也有小的)做的测试得出以下结果:
● 堆存活数据集合里面 String 对象占了 25%
● 堆存活数据集合里面重复的 String 对象有 13.5%
● String 对象的平均长度是 45
■ 许多大规模的 Java 应用的瓶颈在于内存,测试表明,在这些类型的应用里面,Java 堆中存活的数据集合差不多 25% 是 String 对象。更进一步,这里面差不多一半 String 对象是重复的,重复的意思是说:string1.equals(string2) = true。堆上存在重复的 String 对象必然是一种内存的浪费。这个项目在 G1 垃圾收集器中实现自动持续对重复的 String 对象进行去重,这样就能避免浪费内存
■ 实现去重:
● 当垃圾收集器工作的时候,会访问堆上存活的对象。对每一个访问的对象都会检查是否是候选的去重的 String 对象
● 如果是,把这个对象的一个引用插入到队列中等待后续的处理。一个去重的线程在后台运行,处理这个队列。处理队列的一个元素意味着从队列删除这个元素,然后尝试去重它引用的 String 对象
● 使用一个 hashtable 来记录所有的被 String 对象使用的不重复的 char 数组。当去重的时候,会查这个 hashtable,来看堆上是否已经存在一个一模一样的 char 数组
● 如果存在,String 对象会被调整引用那个数组,释放对原来的数组的引用,最终会被垃圾收集器回收掉
● 如果查找失败,char 数组会被插入到 hashtable,这样以后的时候就可以共享这个数组了
■ 命令行选项:
● UseStringDeduplication(bool):开启 String 去重,默认是不开启的,需要手动开启
● PrintStringDeduplicationStatistics(bool):打印详细的去重统计信息
● StringDeduplicationAgeThreshold(uintx):达到这个年龄的 String 对象被认为是去重的候选对象
14、垃圾回收概述
14.1、什么是垃圾
■ 垃圾收集,不是 Java 语言的伴生产物。早在 1960年,第一门开始使用内存动态分配和垃圾收集技术的 Lisp 语言诞生
■ 关于垃圾收集有三个经典问题
● 哪些内存需要回收
● 什么时候回收
● 如何回收
■ 垃圾收集机制是 Java 的招牌能力,极大地提高了开发效率。如今,垃圾收集几乎成为现代语言的标配,即使经过如此长时间的发展,Java 的垃圾收集机制仍然在不断的演进中,不同大小的设备、不同特征的应用场景,对垃圾收集提出了新的挑战,这当然也是面试的热点
■ 大厂面试题
● 蚂蚁金服
你知道哪几种垃圾回收器,各自的优缺点,重点讲一下 cms 和 g1
一面:JVM GC 算法有哪些,目前的 JDK 版本采用什么回收算法
一面:G1 回收器讲下回收过程
GC 是什么?为什么要有 GC?
一面:GC 的两种判定方法?CMS 收集器与 G1 收集器的特点
● 百度
说一下 GC 算法,分代回收说下
垃圾收集策略和算法
● 天猫
一面:jvm GC 原理,JVM 怎么回收内存
一面:CMS 特点,垃圾回收算法有哪些?各自的优缺点,他们共同的缺点是什么?
● 滴滴
一面:java 的垃圾收集器都有哪些,说下 g1 的应用场景,平时你是如何搭配使用垃圾回收器的
● 京东
你知道哪几种垃圾收集器,各自的优缺点,重点讲下 cms 和 g1,包括原理,流程,优缺点。垃圾回收算法的实现原理
● 阿里
讲一讲垃圾回收算法
什么情况下厨房垃圾回收
如何选择合适的垃圾收集算法
JVM 有哪三种垃圾回收器
● 字节跳动
场景的垃圾回收器算法有哪些,各有什么优劣
system.gc() 和 runtime.gc() 会做什么事情
一面:Java GC 机制?GC Roots 有哪些?
二面:Java 对象的回收方式,回收算法
CMS 和 G1 了解么,CMS 解决什么问题,说一下回收的过程
CMS 回收停顿了几次,为什么要停顿两次
■ 什么是垃圾(Garbage)呢?
● 垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾
● 外文:An object is considered garbage when it can no longer be reached from any pointer in the running program.
■ 如果不及时对内存中的垃圾进行清理,那么,那些垃圾对象所占的内存空间会一直保留到应用程序结束,被保留的空间无法被其他对象使用。甚至可能导致内存溢出
14.2、为什么需要GC
想要学习 GC,首先需要理解为什么需要 GC
■ 对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会被消耗完,因为不断地分配内存空间而不进行回收,就好像不停地生产生活垃圾而从来不打扫一样
■ 除了释放没用的对象,垃圾回收也可以清除内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一段,以便 JVM 将整理出的内存分配给新的对象
■ 随着应用程序所应付的业务越来越庞大、复杂,用户越来越多,没用 GC 就不能保证应用程序的正常进行。而经常造成 STW 的 GC 又跟不上实际的需求,所以才会不断地尝试对 GC 进行优化
14.3、早期垃圾回收
■ 在早期的 C/C++ 时代,垃圾回收基本上是手工进行的。开发人员可以使用 new 关键字进行内存申请,并使用 delete 关键字进行内存释放。比如以下代码
MibBridge *pBridge = new cmBaseGroupBridge();
//如果注册失败,使用 delete 释放该对象所占内存区域
if(pBridge->Register(kDestroy) != NO_ERROR)
delete pBrideg;
■ 这种方式可以灵活控制内存释放的时间,但是会给开发人员带来频繁申请和释放内存的管理负担。倘若有一处内存区间由于程序员编码的问题忘记被回收,那么就会产生内存泄漏,垃圾对象永远无法被清除,随着系统运行时间的不断增长,垃圾对象所耗内存可能持续上升,知道出现内存溢出并造成应用程序崩溃
■ 在有了垃圾回收机制后,上述代码块极有可能变成这样
MibBridge *pBridge = new cmBaseGroupBridge();
pBridge->Register(kDestroy);
■ 现在,除了 Java 以外,C#、Python、Ruby 等语言都使用了自动垃圾回收的思想,也是未来发展趋势。可以说,这种自动化的内存分配和垃圾回收的方式已经成为现代开发语言必备的标准
14.4、Java垃圾回收机制
■ 自动内存管理,无需开发人员手动参与内存的分配与回收,这样降低内存泄漏和内存溢出的风险
● 没有垃圾回收器,java 也会和 c++ 一样,各种悬垂指针,野指针,泄漏问题让你头疼不已
■ 自动内存管理机制,将程序员从繁重的内存管理中释放出来,可以更专心地专注于业务开发
■ oracle 官网关于垃圾回收的接收
https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/toc.html
■ 担忧:
● 对于 Java 开发人员而言,自动内存管理就像是一个黑匣子,如果过度依赖于 “自动”,那么这将会使异常灾难,最严重的就会弱化 Java 开发人员在程序出现内存溢出时定位问题和解决问题的能力
● 此时,了解 JVM 的自动内存分配和内存回收原理就显得非常重要,只有在真正了解 JVM 是如何管理内存后,我们才能够在遇见 OutOfMemoryError 时,快速地根据错误异常日志定位问题和解决问题
● 当需要排查各种内存溢出、内存泄漏问题时,当垃圾收集成为系统达到更高并发量的瓶颈时,我们就必须对这些 “自动化” 的技术实施必要的监控和调节
■ 应该关心哪些区域的回收?
■ 垃圾回收器可以对年轻代回收,也可以对老年代回收,甚至是全栈和方法区的回收
● 其中,Java 堆是垃圾收集器的工作重点
■ 从次数上讲
● 频繁收集 Young 区
● 较少收集 Old 区
● 基本不动 Perm 区
15、垃圾回收相关算法
15.1、标记阶段:引用计数算法
■ 在堆里存放着几乎所有的Java对象实例,在GC执行垃圾回收之前,首先需要区分出内存中哪些是存活对象,哪些是已经死亡的对象。只有被标记为己 经死亡的对象,GC才会在执行垃圾回收时,释放掉其所占用的内存空间,因 此这个过程我们可以称为垃圾标记阶段。
■ 那么在JVM中究竟是如何标记一个死亡对象呢?简单来说,当一个对象已经不再被任何的存活对象继续引用时,就可以宣判为已经死亡
■ 判断对象存活一般有两种方式:引用计数算法和可达性分析算法。
■ 引用计数算法(Reference Counting)比较简单,对每个对象保存一个整型的引用 计数器属性。用于记录对象被引的情况。
■ 对于一个对象A,只要有任何一个对象引用了A,则 A 的引用计数器就加1;当引用失效 时,引用计数器就减1。只要对象A的引用计数器的值为0,即表示对象A不可能再被使 用,可进行回收。
■ 优点:实现简单,垃圾对象便于辨识;判定效率高,回收没有延迟性。
■ 缺点:
● 它需要单独的字段存储计数器,这样的做法增加了存储空间的开销
● 每次赋值都需要更新计数器,伴随着加法和减法操作,这增加了时间开销
● 引用计数器有一个严重的问题,即无法处理循环引用的情况。这是一条致命缺陷, 导致在Java的垃圾回收器中没有使用这类算法
■ 循环引用
如下代码:验证java使用的不是引用计数算法,在最后回收垃圾的代码注释掉时和不注释掉时,不注释的时候年轻代中内存明显小,说明使用了垃圾回收,而当前代码是循环引用,说明不是使用的引用计数算法
package com.pengtxyl.chapter15;
/**
* 使用 -XX:+PringGCDetails 打印 GC 细节
* 证明:java使用的不是引用计数算法
*/
public class RefCountGC {
//这个成员属性唯一的作用就是占用一点内存
private byte[] bigSize = new byte[5 * 1024 * 1024]; //5MB
Object reference = null;
public static void main(String[] args) {
RefCountGC obj1 = new RefCountGC();
RefCountGC obj2 = new RefCountGC();
obj1.reference = obj2;
obj2.reference = obj1;
obj1 = null;
obj2 = null;
//显式地执行垃圾回收行为
//这里发生 GC, obj1 和 obj2 能否被回收?
System.gc();
}
}
■ 如下图,如果不小心直接把 Obj1-reference 和 Obj2-reference 置 null。则在 Java 堆当中的两块内存依然保持着互相引用,无法回收
■ 小结:
● 引用计数算法,是很多语言的资源回收选择,例如因人工智能而更加火热的 Python,它更是同时支持引用计数和垃圾收集机制
● 具体哪种最优是要看场景的,业界有大规模实践中仅保留引用计数机制,以提高吞吐量的尝试
● Java 并没有选择引用计数,是因为其存在一个基本的难题,也就是很难处理循环引用关系
● Python 如何解决循环引用?
○ 手动解除:很好理解,就是在合适的时机,解除引用关系
○ 使用弱引用 weakref,weakref 是 Python 提供的标准库,旨在解决循环引用
15.2、标记阶段:可达性分析算法
■ 可达性分析算法又称为 根搜索算法或追踪性垃圾收集
■ 相对于引用计数算法而言,可达性分析算法不仅同样具备实现简单和执行高 效等特点,更重要的是该算法可以有效地解决在引用计数算法中循环引用的问题,防止内存泄漏的发生
■ 相较于引用计数算法,这里的可达性分析就是Java、C#选择的。这种类型 的垃圾收集通常也叫作追踪性垃圾收集(Tracing Garbage Collection)
■ 所谓“GC Roots”根集合就是一组必须活跃的引用
■ 基本思路:
● 可达例分析算法是以根对象集合(GC Roots)为起始点,按照从上至下 的方式搜索被根对象集合所连接的目标对象是否可达
● 使用可达性分析算法后,内存中的存活对象都会被根对象集合直接或间 接连接着,搜索所走过的路径称为引用链(Reference Chain)
● 如果目标对象没有任何引用链相连,则是不可达的,就意味着该对象己 经死亡,可以标记为垃圾对象
● 在可达性分析算法中,只有能够被根对象集合直接或者间接连接的对象 才是存活对象
■ 如下图,这个算法目前较为常用
■ 在Java语言中,GC Roots包括以下几类元素:
● 虚拟机栈中引用的对象
○ 比如:各个线程被调用的方法中使用到的参数、局部变量等
● 本地方法栈内JNI(通常说的本地方法)引用的对象
● 方法区中类静态属性引用的对象
○ 比如:Java类的引用类型静态变量
● 方法区中常量引用的对象
○ 比如:字符串常量池(String Table)里的引用
● 所有被同步锁synchronized持有的对象
● Java虚拟机内部的引用
○ 基本数据类型对应的Class对象,一些常驻的异常对象(如:NullPointerException、OutOfMemoryError),系统类加载器
● 反映java虚拟机内部情况的JMXBean、JVMT工中注册的回调、本地代码缓存等
■ GC Roots
● 除了这些固定的GC Roots集合以外,根据用户所选用的垃圾收集器以及当 前回收的内存区域不同,还可以有其他对象“临时性”地加入,共同构成完 整GC Roots集合。比如:分代收集和局部回收(Partial GC)
○ 如果只针对Java堆中的某一块区域进行垃圾回收(比如:典型的只针 对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤 立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这时 候就需要一并将关联的区域对象也加入GC Roots集合中去考虑,才能 保证可达性分析的准确性
● 小技巧:由于Root采用栈方式存放变量和指针,所以如果一个指针,它保存了堆内存 里面的对象,但是自己又不存放在堆内存里面,那它就是一个Root。
■ 注意:
● 如果要使用可达性分析算法来判断内存是否可回收,那么分析工作必须在 一个能保障一致性的快照中进行。这点不满足的话分析结果的准确性就无 法保证
● 这点也是导致GC进行时必须 ''Stop The World" 的一个重要原因
○ 即使是号称(几乎)不会发生停顿的CMS收集器中,枚举根节点时 也是必须要停顿的
15.3、对象的finalization机制
■ Java语言提供了对象终止(finalization)机制来允许开发人员提供对 象被销毁之前用自定义处理逻辑
■ 当垃圾回收器发现没有引用指向一个对象,即:垃圾回收此对象之前,总会 先调用这个对象的finalize方法
■ finalize方法允许在子类中被重写,用于在对象被回收时进行资源释放。 通常在这个方法中进行一些资源释放和清理的工作,比如关闭文件、套接字 和数据库连接等
■ 永远不要主动调用某个对象的finalize。方法,应该交给垃圾回收机制调用。理由包 括下面三点
● 在finalize是可能会导致对象复活
● finalize ()方法的执行时间是没有保障的,它完全由GC线程决定,极端情况下, 若不发生GC,则finalize方法将没有执行机会
● 一个糟糕的finalize会严重影响GC的性能
■ 从功能上来说,finalize方法与C++中的析构函数比较相似,但是Java采用的是基 于垃圾回收器的自动内存管理机制,所以finalize方法在本质上不同于C++中的析 构函数
■ 由于finalize ()方法的存在,虚拟机中的对象一般处于三种可能的状态
■ 如果从所有的根节点都无法访问到某个对象,说明对象己经不再使用了。一般来说, 此对象需要被回收。但事实上,也并非是“非死不可”的,这时候它们暂时处于“缓刑“阶段。一个无法触及的对象有可能在某一个条件下“复活”自己,如果这样,那 么对它的回收就是不合理的,为此,定义虚拟机中的对象可能的三种状态。如下:
● 可触及的:从根节点开始,可以到达这个对象
● 可复活的:对象的所有引用都被释放,但是对象有可能在finalize中复活
● 不可触及的:对象的finalize被调用,并且没有复活,那么就会进入不可触 及状态。不可触及的对象不可能被复活,因为finalize()只会被调用一次
■ 以上3种状态中,是由于finalize方法的存在进行的区分。只有在对象不可触 及时才可以被回收
■ 判定一个对象objA是否可回收,至少要经历两次标记过程:
1、如果对象 objA到GC Roots没有引用链,则进行第一次标记
2、进行筛选,判断此对象是否有必要执行finalize方法
① 如果对象objA没有重写finalize()方法,或者finalize()方法已经被虚拟机调用过, 则虚拟机视为“没有必要执行” ,objA被判定为不可触及的
② 如果对象objA重写了finalize ()方法,且还未执行过,那么objA会被插入到F-Queue 队列中,由一个虚拟机自动创建的、低优先级的Finalizer线程触发其finalize方 法执行
③finalize ()方法是对象逃脱死亡的最后机会,稍后GC会对F-Queue队列中的对象进行 第二次标记。如果。bjA在finalize方法中与引用链上的任何一个对象建立了联系, 那么在第二次标记时,objA会被移出“即将回收”集合。之后,对象会再次出现没有引 用存在的情况。在这个情况下,finalize方法不会被再次调用,对象会直接变成不可触 及的状态,也就是说,一个对象的finalize方法只会被调用一次
package com.pengtxyl.chapter15;
/**
* 测试 Object 类中 finalize() 方法, 即对象的 finalization 机制
*/
public class CanReliveObj {
public static CanReliveObj obj; //类变量, 属于 GC Root
//此方法只能被调用一次
@Override
protected void finalize() throws Throwable {
super.finalize();
System.out.println("调用当前类重写的 finalize() 方法");
obj = this;
}
public static void main(String[] args) {
try {
obj = new CanReliveObj();
//对象第一次成功拯救自己
obj = null;
System.gc(); //调用垃圾回收器
System.out.println("第1次 gc");
//因为 Finalizer 线程优先级很低,暂停2秒,以等待它
Thread.sleep(2000);
if(obj == null) {
System.out.println("obj is dead");
} else {
System.out.println("obj is still alive");
}
System.out.println("第2次 gc");
//下面这段代码与上面的完全相同,但是这次自救却失败了
obj = null;
System.gc();
//因为 Finalizer 线程优先级很低,暂停2秒,以等待它
Thread.sleep(2000);
if(obj == null) {
System.out.println("obj is dead");
} else {
System.out.println("obj is still alive");
}
} catch (Exception e) {
e.printStackTrace();
}
}
}
/*
上面的例子,如果注释掉 finalize 方法,打印如下:
第1次 gc
obj is dead
第2次 gc
obj is dead
如果不注释 finalize 方法,则打印如下:
第1次 gc
调用当前类重写的 finalize() 方法
obj is still alive
第2次 gc
obj is dead
*/
15.4、MAT与JProfiler的GC Roots溯源
■ MAT是Memory Analyzer的简称,它是一款功能强大的Java堆内存分析器。 用于查找内存泄漏以及查看内存消耗情况
■ MAT是基于Eclipse开发的,是一款免费的性能分析工具
■ 大家可以在 http://www.eclipse.org/mat/下载并使用 MAT
■ 获取 dump 文件:
● 方式1:命令行使用 jmap
● 方式2:使用JVisualVM导出
○ 捕获的heap dump文件是一个临时文件,关闭JVisualVM后自动删除,若要保留, 需要将其另存为文件
○ 可通过以下方法捕获heap dump:
1、运行程序
2、打开 jvisualVM,选择当前运行的程序
3、点击监视,点击右边 “堆 Dump” 按钮,此时在左侧会看到一个 dump 快照
4、选择快照,点击另存为,保存 dump 文件
5、使用 Memory Analyzer 打开保存的快照文件
GC Roots 分析例子:
package com.pengtxyl.chapter15;
import java.util.ArrayList;
import java.util.Date;
import java.util.List;
import java.util.Scanner;
public class GCRootsTest {
public static void main(String[] args) {
List<Object> numList = new ArrayList<>();
Date birth = new Date();
for (int i = 0; i < 100; i++) {
numList.add(String.valueOf(i));
try {
Thread.sleep(10);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println("数据添加完毕,请操作:");
new Scanner(System.in).next();
numList = null;
birth = null;
System.out.println("numList、birth已置空,请操作:");
new Scanner(System.in).next();
System.out.println("结束");
}
}
使用 JProfiler 分析 OOM
-XX:+HeapDumpOnOutOfMemoryError 表示发生 OOM 的时候会产生一个 dump 文件,使用 JProfiler 可以分析原因
package com.pengtxyl.chapter15;
import java.util.ArrayList;
/*
* -Xms8m -Xmx8m -XX:+HeapDumpOnOutOfMemoryError
* */
public class HeapOOM {
byte[] buffer = new byte[1 * 1024 * 1024]; //1MB
public static void main(String[] args) {
ArrayList<HeapOOM> list = new ArrayList<>();
int count = 0;
try {
while(true) {
list.add(new HeapOOM());
count++;
}
} catch (Throwable e) {
System.out.println("count = " + count);
e.printStackTrace();
}
}
}
15.5、清除阶段:标记-清除算法
■ 当成功区分出内存中存活对象和死亡对象后,GC接下来的任务就是执行垃圾 回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对 象分配内存
■ 目前在JVM中比较常见的三种垃圾收集算法是标记一清除算法(Mark-Sweep )、复制算法(Copying )、标记-压缩算法(Mark-Compact )
■ 背景
● 标记-清除算法(Mark-Sweep )是一种非常基础和常见的垃圾收集算法, 该算法被J.McCarthy等人在1960年提出并并应用于Lisp语言
■ 执行过程
● 当堆中的有效内存空间(available memory)被耗尽的时候,就会停止整个 程序(也被称为stop the world),然后进行两项工作,第一项则是标记, 第二项则是清除
> 标记:Collector从引用根节点开始遍历,标记所有被引用的对象。一般是 在对象的Header中记录为可达对象
> 清除:Collector对堆内存从头到尾进行线性的遍历,如果发现某个对象在 其Header中没有标记为可达对象,则将其回收
■ 图示:
■ 缺点:
● 效率不算高
● 在进行GC的时候,需要停止整个应用程序,导致用户体验差
● 这种方式清理出来的空闲内存是不连续的,产生内存碎片。需要维护一个 空闲列表
■ 注意:何为清除?
● 这里所谓的清除并不是真的置空,而是把需要清除的对象地址保存在空闲 的地址列表里。下次有新对象需要加载时,判断垃圾的位置空间是否够, 如果够,就存放
15.6、清除阶段:复制算法
■ 背景:
为了解决标记-清除算法在垃圾收集效率方面的缺陷,M.L.Minsky于 1963年发表了著名的论文,“使用双存储区的Lisp语言垃圾收集器CA LISP Garbage Collector Algorithm Using Serial Secondary Storage ) ”。M.L.Minsky在该论文中描述的算法被人 们称为复制(Copying)算法,它也被M.L.Minsky本人成功地引入到了 Lisp语言的一个实现版本中
■ 核心思想:
将活着的内存空间分为两块,每次只使用其中一块,在垃圾回收时将正在 使用的内存中的存活对象复制到未被使用的内存块中,之后清除正在使用 的内存块中的所有对象,交换两个内存的角色,最后完成垃圾回收
■ 图示:
■ 优点:
● 没有标记和清除过程,实现简单,运行高效
● 复制过去以后保证空间的连续性,不会出现“碎片”问题
■ 缺点:
● 此算法的缺点也是很明显的,就是需要两倍的内存空间
● 对于G1这种分拆成为大量region的GC,复制而不是移动,意味着GC需要维 护region之间对象引用关系,不管是内存占用或者时间开销也不小
■ 特别的:
如果系统中的垃圾对象很少,复制算法不是很理想。因为复制算法需要复制的存活对象数量并不会太大, 或者说非常低才行,如果大部分对象都是存活的对象,则需要复制的对象很多,意义不大
■ 应用场景
在新生代,对常规应用的垃圾回收,一次通常可以回收 70%-99%的内存空间。回收性价比很高。所以现在的商业虚拟机都是用这种收集算法回收新生代
15.7、清除阶段:标记-压缩算法
■ 背景:
● 复制算法的高效性是建立在存活对象少、垃圾对象多的前提下的。这种情况在新生代经常 发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法, 由于存活对象较多,复制的成本也将很高。因此,基于老年代垃圾回收的特性,需要使用 其他的算法
● 标记一清除算法的确可以应用在老年代中,但是该算法不仅执行效率低下,而且在执行完 内存回收后还会产生内存碎片,所以JVM的设计者需要在此基础之上进行改进。标记-压缩(Mark - Compact)算法由此诞生
● 1970年前后,G. L. Steele、C. J. Chene和D.S. Wise等研究者发布标记-压缩算法。在许多现代的垃圾收集器中,人们都使用了标记-压缩算法或其改进版本
■ 执行过程:
● 第一阶段和标记•清除算法一样, 从根节点开始标记所有被引用 对象
● 第二阶段将所有的存活对象压 缩到内存的一端,按顺序排放
● 之后,清理边界外所有的空间
■ 标记-压缩算法的最终效果等同于标记-清除算法执行完成后,再进行一次 内存碎片整理,因此,也可以把它称为标记-清除-压缩(Mark-Sweep-compact) 算法
■ 二者的本质差异在于标记-清除算法是一种非移动式的回收算法,标记-压 缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策
■ 可以看到,标记的存活对象将会被整理,按照内存地址依次排列,而未被 标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时, JVM只需要持有一个内存的起始地址即可,这比维护一个空闲列表显然少 了许多开销
■ 指针碰撞(Bump the Pointer)
如果内存空间以规整和有序的方式分布,即已用和未用的内存都各自一边,彼 此之间维系着一个记录下一次分配起始点的标记指针,当为新对象分配内存时, 只需要通过修改指针的偏移量将新对象分配在第一个空闲内存位置上,这种分 配方式就叫做指针碰撞(Bump the Pointer)
■ 优点:
● 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配 内存时,JVM只需要持有一个内存的起始地址即可
● 消除了复制算法当中,内存减半的高额代价
■ 缺点:
● 从效率上来说,标记-整理算法要低于复制算法
● 移动对象的同时,如果对象被其他对象引用,则还需要调整引用的地址
● 移动过程中,需要全程暂停用户应用程序。即:STW
15.8、小结
■ 对比三种算法:
Mark-Sweep | Mark-Compact | Copying | |
速度 | 中等 | 最慢 | 最快 |
空间开销 | 少(但会堆积碎片) | 少(不堆积碎片) | 通常需要活对象的2被大小(不堆积碎片) |
移动对象 | 否 | 是 | 是 |
效率上来说,复制算法是当之无愧的老大,但是却浪费了太多内存;
而为了尽量兼顾上面提到的三个指标,标记-整理算法相对来说更平滑一些,但是 效率上不尽如人意,它比复制算法多了一个标记的阶段,比标记-清除多了一个整 理内存的阶段
难道就没有一种最优算法吗?
15.9、分代收集算法
■ 难道就没有一种最优算法吗?
回答:无,没有最好的算法,只有最合适的算法
■ 前面所有这些算法中,并没有一种算法可以完全替代其他算法,它们都具有自 己独特的优势和特点。分代收集算法应运而生
■ 分代收集算法,是基于这样一个事实:不同的对象的生命周期是不一样的。因 此,不同生命周期的对象可以采取不同的收集方式,以便提高回收效率。一般 是把Java堆分为新生代和老年代,这样就可以根据各个年代的特点使用不同的 回收算法,以提高垃圾回收的效率
■ 在Java程序运行的过程中,会产生大量的对象,其中有些对象是与业务信息相 关,比如Http请求中的Session对象、线程、Socket连接,这类对象跟业务 直接挂钩,因此生命周期比较长。但是还有一些对象,主要是程序运行过程中 生成的临时变量,这些对象生命周期会比较短,比如:String对象,由于其不 变类的特性,系统会产生大量的这些对象,有些对象甚至只用一次即可回收
■ 目前几乎所有的GC都是采用分代收集(Generational Collecting)算法执行垃圾回收的
■ 在HotSpot中,基于分代的概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特 点
● 年轻代(Young Gen)
○ 年轻代特点:区域相对老年代较小,对象生命周期短、存活率低,回收频繁
○ 这种情况复制算法的回收整理,速度是最快的。复制算法的效率只和当前存活对象大小有关,因此很适用于 年轻代的回收。而复制算法内存利用率不高的问题,通过hotspot中的两个survivor的设计得到缓解
● 老年代(Tenured Gen)
○ 老年代特点:区域较大,对象生命周期长、存活率高,回收不及年轻代频繁
○ 这种情况存在大量存活率高的对象,复制算法明显变得不合适。一般是由标记-清除或者是标记-清除与标记 -整理的混合实现
> Mark阶段的开销与存活对象的数量成正比
> Sweep阶段的开销与所管理区域的大小成正相关
> Compact阶段的开销与存活对象的数据成正比
■ 以 Hotspot 中的 cMs 回收器为例, cMs 是基于 Mark-sweep 实现的,对于对象的回收效率很高。而对于碎片问题, cMs 采用基于 Mark-compact 算法的 serial old 回收器作为补偿措施:当内存回收不佳(碎片导致的 concurrent Mode Failure 时),将采川 serial old 执行 Full Gc 以达到对老年代内存的整理
■ 分代的思想被现有的虚拟机广泛使用。几乎所有的垃圾回收器都区分新生代和老年代
15.10、增量收集算法、分区算法
■ 上述现有的算法,在垃圾回收过程中,应用软件将处于一种stop the World 的状态。在Stop the World 状态下,应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间过长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集(Incremental Collecting)算法的诞生
■ 基本思想:
如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集线程和应用程序线程交替执行。每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,直到垃圾收集完成
■ 总的来说,增量收集算法的基础仍是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作
■ 缺点:
使用这种方式,由于在垃圾回收过程中,间断性地还执行了应用程序代码,所以能减少系统的停顿时间。但是,因为线程切换和上下文转换的消耗,会使得垃圾回收的总体成本上升,造成系统吞吐量的下降
■ 分区算法:
● 一般来说,在相同条件下,堆空间越大,一次GC时所需要的时间就越长,有关GC产生的停顿也越长。为了更好地控制GC产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一次GC所产生的停顿
● 分代算法将按照对象的生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不同小区间
● 每一个小区间都独立使用,独立回收。这种算法的好处是可以控制一次回收多少个小区间
■ 写在最后:
注意,这些只是基本的算法思路,实际GC实现过程要复杂的多,目前还在发展中的前沿GC都是复合算法,并且并行和并发兼备
16、垃圾回收相关概念
16.1、System.gc()的理解
■ 在默认情况下,通过system.gc()或者Runtime.getRuntime().gc()的调用,会显式触发Full GC, 同时对老年代和新生代进行回收,尝试释放被丢弃对象占用的内存
■ 然而system.gc()调用附带一个免责声明,无法保证对垃圾收集器的调用
■ JVM实现者可以通过system.gc()调用来决定JVM的GC行为。而一般情况下,垃圾回收应该是自动进行的,无须手动触发,否则就太过于麻烦了。在一些特殊情况下,如我们正在编写一个性能基准,我们可以在运行之间调用System.gc()
package com.pengtxyl.chapter16;
public class SystemGCTest {
public static void main(String[] args) {
new SystemGCTest();
System.gc(); //提醒jvm的垃圾回收器执行gc, 但是不确定是否马上执行gc, System.gc() 的底层就是Runtime.getRuntime().gc()
System.runFinalization(); //强制调用失去引用的对象的 finalize() 方法
}
@Override
protected void finalize() throws Throwable {
super.finalize();
System.out.println("SystemGCTest 重写了 finalize()");
}
}
16.2、内存溢出与内存泄漏
内存溢出
■ 内存溢出相对于内存泄漏来说,尽管更容易被理解,但是同样的,内存溢出也是引发程序崩溃的罪魁祸首之一
■ 由于GC一直在发展,所以一般情况下,除非应用程序占用的内存增长速度非常快,造成垃圾回收已经跟不上内存消耗的速度,否则不太容易出现OOM 的情况
■ 大多数情况下,GC会进行各种年龄段的垃圾回收,实在不行了就放大招,来一次独占式的Full GC操作,这时候会回收大量的内存,供应用程序继续使用
■ javadoc中对OutOfMemoryError的解释是,没有空闲内存,并且垃圾收集器也无法提供更多内存
■ 首先说没有空闲内存的情况:说明Java虚拟机的堆内存不够。原因有二:
(1)、Java虚拟机的堆内存设置不够。比如:可能存在内存泄漏问题;也很有可能就是堆的大小不合理,比如我们要处理比较可观的数据量,但是没有显式指定JVM堆大小或者指定数值偏小。我们可以通过参数-Xms、-Xmx来调整
(2)、代码中创建了大量大对象,并且长时间不能被垃圾收集器收集(存在被引用)对于老版本的Oracle JDK,
因为永久代的大小是有限的,并且JVM对永久代垃圾回收(如,常量池回收、卸载不再需要的类型)非常不积极,所以当我们不断添加新类型的时候,永久代出现OutOfMemoryError也非常多见,尤其是在运行时存在大量动态类型生成的场合;类似intern字符串缓存占用太多空间,也会导致OOM问题。对应的异常信息,会标记出来和永久代相关:“java.lang.OutOfMemoryError:PermGen space"
■ 随着元数据区的引入,方法区内存已经不再那么窘迫,所以相应的OOM有所改观,出现OOM,异常信息则变成了: “java.lang.OutOfMemoryError: Metaspace”。直接内存不足,也会导致OOM
■ 这里面隐含着一层意思是,在抛出OutOfMemoryError之前,通常垃圾收集器会被触发,尽其所能去清理出空间
● 例如:在引用机制分析中,涉及到JVM会去尝试回收软引用指向的对象等
● 在java.nio.BIts.reserveMemory()方法中,我们能清楚的看到,System.gc()会被调用,以清理空间
■ 当然,也不是在任何情况下垃圾收集器都会被触发的。比如,我们去分配一个超大对象,类似一个超大数组超过堆的最大值,JVM可以判断出垃圾收集并不能解决这个问题,所以直接抛出OutOfMemoryError.
内存泄漏
■ 也称作“存储渗漏”。严格来说,只有对象不会再被程序用到了,但是GC又不能回收他们的情况,才叫内存泄漏
■ 但实际情况很多时候一些不太好的实践(或疏忽)会导致对象的生命周期变得很长甚至导致OOM,也可以叫做宽泛意义上的“内存泄漏”
■ 尽管内存泄漏并不会立刻引起程序崩溃,但是一旦发生内存泄漏,程序中的可用内存就会被逐步蚕食,直至耗尽所有内存,最终出现OutOfMemory异常,导致程序崩溃
■ 注意,这里的存储空间并不是指物理内存,而是指虚拟内存大小,这个虚拟内存大小取决于磁盘交换区设定的大小
■ 举例:
● 单例模式
单例的生命周期和应用程序是一样长的,所以单例程序中,如果持有对外部对象的引用的话,那么这个外部对象是不能被回收的,则会导致内存泄漏的产生
● 一些提供close的资源未关闭导致内存泄漏,数据库连接(dataSourse.getConnection()),网络连接(socket)和io连接必须手动close,否则是不能被回收的
16.3、Stop The World
■ Stop-the-World,简称STW,指的是GC事件发生过程中,会产生应用程序的停顿。停顿产生时整个应用程序线程都会被暂停,没有任何响应,有点像卡死的感觉,这个停顿称为STW
● 可达性分析算法中枚举根节点(GC Roots)会导致所有Java执行线程停顿
○ 分析工作必须在一个能确保一致性的快照中进行
○ 一致性指整个分析期间整个执行系统看起来像被冻结在某个时间点上
○ 如果出现分析过程中对象引用关系还在不断变化,则分析结果的准确性无法保证
■ 被STW中断的应用程序线程会在完成GC之后恢复,频繁中断会让用户感觉像是网速不快造成电影卡带一样,所以我们需要减少STW的发生
■ STW事件和采用哪款GC无关,所有的GC都有这个事件
■ 哪怕是G1也不能完全避免Stop-the-world 情况发生,只能说垃圾回收器越来越优秀,回收效率越来越高,尽可能地缩短了暂停时间
■ STW是JVM在后台自动发起和自动完成的。在用户不可见的情况下,把用户正常的工作线程全部停掉
■ 开发中不要用system.gc();会导致stop-the-world的发生
package com.pengtxyl.chapter16;
import java.util.ArrayList;
import java.util.List;
public class StopTheWorldDemo {
public static class WorkThread extends Thread {
List<byte[]> list = new ArrayList<>();
@Override
public void run() {
try {
while(true) {
for (int i = 0; i < 1000; i++) {
byte[] buffer = new byte[1024];
list.add(buffer);
}
if(list.size() > 10000 ) {
list.clear();
System.gc(); //会触发 full gc,进而会出现 STW 事件
}
}
} catch (Exception e) {
e.printStackTrace();
}
}
}
public static class PrintThread extends Thread {
public final long startTime = System.currentTimeMillis();
@Override
public void run() {
try {
while(true) {
//每秒打印时间信息
long t = System.currentTimeMillis() - startTime;
System.out.println(t / 1000 + "." + t % 1000);
Thread.sleep(1000);
}
} catch (Exception ex) {
ex.printStackTrace();
}
}
}
public static void main(String[] args) {
WorkThread w = new WorkThread();
PrintThread p = new PrintThread();
//w.start(); //如果注释,那么打印时间会1秒打印一次,如果不注释,由于有 STW 事件,导致 GC 回收阻碍了用户线程,那么打印时间就会比1秒多
p.start();
}
}
16.4、垃圾回收的并行与并发
并发(Concurrent)
■ 在操作系统中,是指一个时间段中有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理器上运行
■ 并发不是真正意义上的“同时进行”,只是CPU把一个时间段划分成几个时间片段(时间区间),然后在这几个时间区间之间来回切换,由于CPU处理的速度非常快,只要时间间隔处理得当,即可让用户感觉是多个应用程序同时在进行
并行(Parallel)
■ 当系统有一个以上CPU时,当一个CPU执行一个进程时,另一个CPU可以执行另一个进程,两个进程互不抢占CPU资源,可以同时进行,我们称之为并行(Parallel)
■ 其实决定并行的因素不是CPU的数量,而是CPU的核心数量,比如一个CPU多个核也可以并行
■ 适合科学计算,后台处理等弱交互场景
并发vs并行
■ 二者对比
并发,指的是多个事情,在同一时间段内同时发生了
并行,指的是多个事情,在同一时间点上同时发生了
并发的多个任务之间是互相抢占资源的
并行的多个任务之间是不互相抢占资源的
只有在多CPU或者一个CPU多核的情况中,才会发生并行。否则,看似同时发生的事情,其实都是并发执行的。
垃圾回收的并发与并行
■ 并发和并行,在谈论垃圾收集器的上下文语境中,它们可以解释如下
● 并行(Parallel):指多条垃圾收集线程并行工作,但此时用户线程仍处于等待状态。如ParNew、Parallel
Scavenge、Parallel Old
● 串行(Serial)
○ 相较于并行的概念,单线程执行
○ 如果内存不够,则程序暂停,启动JVM垃圾回收器进行垃圾回收。回收完,再启动程序的线程
● 并发(Concurrent):指用户线程与垃圾收集线程同时执行(但不一定是并行的,可能会交替执行),垃圾回收线程在执行时不会停顿用户程序的运行
○ 用户程序在继续运行,而垃圾收集程序线程运行于另一个 CPU 上;
○ 如:CMS、G1
16.5、安全点与安全区域
安全点(Safepoint)
■ 程序执行时并非在所有地方都能停顿下来开始GC,只有在特定的位置才能停顿下来开始GC,这些位置称为“安全点(Safepoint)”
■ Safe Point的选择很重要,如果太少可能导致GC等待的时间太长,如果太频繁可能导致运行时的性能问题。大部分指令的执行时间都非常短暂,通常会根据“是否具有让程序长时间执行的特征”为标准。比如:选择一些执行时间较长的指令作为Safe Point,如方法调用、循环跳转和异常跳转等
■ 如何在GC发生时,检查所有线程都跑到最近的安全点停顿下来呢?
● 抢先式中断:(目前没有虚拟机采用了)
首先中断所有线程。如果还有线程不在安全点,就恢复线程,让线程跑到安全点
● 主动式中断:
设置一个中断标志,各个线程运行到Safe Point的时候主动轮询这个标志,如果中断标志为真,则将自己进行中断挂起
安全区域(Safe Region)
■ Safepoint 机制保证了程序执行时,在不太长的时间内就会遇到可进入 GC 的 Safepoint 。但是,程序“不执行”的时候呢?例如线程处于Sleep状态或Blocked状态,这时候线程无法响应 JVM 的中断请求,“走”到安全点去中断挂起,JVM也不太可能等待线程被唤醒。对于这种情况,就需要安全区域(Safe Region)来解决。
■ 安全区域是指在一段代码片段中,对象的引用关系不会发生变化,在这个区域中的任何位置开始GC都是安全的。我们也可以把Safe Region 看做是被扩展了的 Safepoint
■ 实际执行:
1、当线程运行到Safe Region的代码时,首先标识已经进入了Safe Region, 如果这段时间内发生GC,JVM会忽略标识为Safe Region状态的线程;
2、当线程即将离开Safe Region时,会检查JVM是否已经完成GC,如果完成了,则继续运行,否则线程必须等待直到收到可以安全离开Safe Region的信号为止;
16.6、再谈引用:强引用
不回收
■ 我们希望能描述这样一类对象:当内存空间还足够时,则能保留在内存中;如果内存空间在进行垃圾收集后还是很紧张,则可以抛弃这些对象
■ 【既偏门又非常高频的面试题】强引用、软引用、弱引用、虚引用有什么区别?具体使用场景是什么?
■ 在JDK 1.2版之后,Java对引用的概念进行了扩充,将引用分为强引用(Strong Reference)、软引用(Soft Reference)、弱引用(Weak Reference)和虚引用(Phantom Reference)4种,这4种引用强度依次逐渐减弱
■ 除强引用外,其他3种引用均可以在java.lang.ref包中找到它们的身影。如下图,显示了这3种引用类型对应的类,开发人员可以在应用程序中直接使用它们
■ Reference子类中只有终结器引用是包内可见的,其他3种引用类型均为public,可以在应用程序中直接使用
● 强引用(StrongReference):最传统的“引用”的定义,是指在程序代码之中普遍存在的引用赋值,即类似 “Object obj=new Object()” 这种引用关系。无论任何情况下,只要强引用关系还存在,垃圾收集器就永远不会回收掉被引用的对象
● 软引用(SoftReference):在系统将要发生内存溢出之前,将会把这些对象列入回收范围之中进行第二次回收。如果这次回收后还没有足够的内存,才会抛出内存溢出异常
● 弱引用(WeakReference):被弱引用关联的对象只能生存到下一次垃圾收集之前。当垃圾收集器工作时,无论内存空间是否足够,都会回收掉被弱引用关联的对象
● 虚引用(PhantomReference):一个对象是否有虚引用的存在,完全不会对其生存时间构成影响,也无法通过虚引用来获得一个对象的实例。为一个对象设置虚引用关联的唯一目的就是能在这个对象被收集器回收时收到一个系统通知
■ 强引用(StrongReference)--------不回收
● 在Java程序中,最常见的引用类型是强引用(普通系统99%以上都是强引用),也就是我们最常见的普通对象引用,也是默认的引用类型
● 当在Java语言中使用new操作符创建一个新的对象,并将其赋值给一个变量的时候,这个变量就成为指向该对象的一个强引用
● 强引用的对象是可触及的,垃圾收集器就永远不会回收掉被引用的对象
● 对于一个普通的对象,如果没有其他的引用关系,只要超过了引用的作用域或者显式地将相应(强)引用赋值为null,就是可以当做垃圾被收集了,当然具体回收时机还是要看垃圾收集策略
● 相对的,软引用、弱引用和虚引用的对象是软可触及、弱可触及和虚可触及的,在一定条件下,都是可以被回收的。所以,强引用是造成Java内存泄漏的主要原因之一
● 强引用例子:
StringBuffer str = new StringBuffer(“Hello, 尚硅谷”);
局部变量 str 指向 StringBuffer 实例所在堆空间,通过 str 可以操作该实例,那么 str 就是 StringBuffer 实例的强引用
对应内存结构:
此时,如果再运行一个赋值语句:
StringBuffer str1 = str;
对应内存结构:
本例中的两个引用,都是强引用,强引用具备以下特点:
1、强引用可以直接访问目标对象
2、强引用所指向的对象在任何时候都不会被系统回收,虚拟机宁愿抛出OOM异常,也不会回收强引用所指向对象
3、强引用可能导致内存泄漏
package com.pengtxyl.chapter16;
public class StrongReferenceTest {
public static void main(String[] args) {
StringBuffer str = new StringBuffer("Hello, 尚硅谷");
StringBuffer str1 = str;
str = null;
System.gc();
try {
Thread.sleep(3000);
} catch (InterruptedException e) {
e.printStackTrace();
}
System.out.println(str1);
}
}
16.7、再谈引用:软引用
内存不足即回收
当内存足够时,不会回收软引用的可达对象
当内存不足时,会回收软引用的可达对象
■ 软引用是用来描述一些还有用,但非必需的对象。只被软引用关联着的对象,在系统将要发生内存溢出异常前,会把这些对象列进回收范围之中进行第二次回收,如果这次回收还没有足够的内存,才会抛出内存溢出异常
■ 软引用通常用来实现内存敏感的缓存。比如:高速缓存就有用到软引用。如果还有空闲内存,就可以暂时保留缓存,当内存不足时清理掉,这样就保证了使用缓存的同时,不会耗尽内存
■ 垃圾回收器在某个时刻决定回收软可达的对象的时候,会清理软引用,并可选地把引用存放到一个引用队列(Reference Queue)
■ 类似弱引用,只不过Java虚拟机会尽量让软引用的存活时间长一些,迫不得已才清理
■ 在 JDK1.2 版之后提供了 java.lang.ref.SoftReference 类来实现软引用
Object obj = new Object(); //声明强引用
SoftReference<Object> sf = new SoftReference<Object>(obj);
obj = null; //销毁强引用
package com.pengtxyl.chapter16;
import java.lang.ref.SoftReference;
public class SoftReferenceTest {
public static class User {
public User(int id, String name) {
this.id = id;
this.name = name;
}
public int id;
public String name;
@Override
public String toString() {
return "User{" +
"id=" + id +
", name='" + name + '\'' +
'}';
}
}
public static void main(String[] args) {
//创建对象,建立软引用
SoftReference<User> userSoftRef = new SoftReference<>(new User(1, "songhk"));
//上面的这一行代码,等价于下面的三行代码
// User u1 = new User(1, "songhk");
// SoftReference<User> userSoftRef = new SoftReference<>(u1);
// u1 = null;
//从软引用中重新获得强引用对象
System.out.println(userSoftRef.get());
System.gc();
System.out.println("After GC:");
//垃圾回收之后获得软引用中的对象
System.out.println(userSoftRef.get()); //由于堆空间内存足够,所以不会回收软引用的可达对象
try {
//让系统任务内存资源紧张
byte[] b = new byte[7 * 1024 * 1024]; //将堆空间设置为10M,年轻代和老年代由于占比,年代的会不足7M
} catch (Throwable e) {
e.printStackTrace();
} finally {
//再次从软引用中获取数据
System.out.println(userSoftRef.get()); //在报 OOM 或内存不够之前,垃圾回收器会回收软引用的可达对象
}
}
}
16.8、再谈引用:弱引用
发现即回收
■ 弱引用也是用来描述那些非必需对象,被弱引用关联的对象只能生存到下一次垃圾收集发生为止。在系统GC时,只要发现弱引用,不管系统堆空间使用是否充足,都会回收掉只被弱引用关联的对象
■ 但是,由于垃圾回收器的线程通常优先级很低,因此,并不一定能很快地发现持有弱引用的对象。在这种情况下,弱引用对象可以存在较长的时间
■ 弱引用和软引用一样,在构造弱引用时,也可以指定一个引用队列,当弱引用对象被回收时,就会加入指定的引用队列,通过这个队列可以跟踪对象的回收情况
■ 软引用、弱引用都非常适合来保存那些可有可无的缓存数据。如果这么做,当系统内存不足时,这些缓存数据会被回收,不会导致内存溢出。而当内存资源充足时,这些缓存数据又可以存在相当长的时间,从而起到加速系统的作用
■ 在 JDK1.2 版之后提供了 java.lang.ref.WeakReference 类来实现弱引用
Object obj = new Object(); //声明强引用
WeakReference<Object> wr = new WeakReference<Object>(obj);
obj = null; //销毁强引用
■ 弱引用对象与软引用对象的最大不同就在于,当GC在进行回收时,需要通过算法检查是否回收软引用对象,而对于弱引用对象,GC总是进行回收。弱引用对象更容易、更快被GC回收
■ 面试题:你在开发中使用过 WeakHashMap 吗?
package com.pengtxyl.chapter16;
import java.lang.ref.WeakReference;
public class WeakReferenceTest {
public static class User {
public User(int id, String name) {
this.id = id;
this.name = name;
}
public int id;
public String name;
@Override
public String toString() {
return "User{" +
"id=" + id +
", name='" + name + '\'' +
'}';
}
}
public static void main(String[] args) {
//构造了弱引用
WeakReference<User> userWeakRef = new WeakReference<>(new User(1, "songhk"));
//从弱引用中重新获取对象
System.out.println(userWeakRef.get());
System.gc();
//不管当前内存空间足够与否,都会回收它的内存
System.out.println("After GC:");
//重新尝试从弱引用中获取对象
System.out.println(userWeakRef.get());
}
}
16.9、再谈引用:虚引用
对象回收跟踪
■ 也称为“幽灵引用”或者“幻影引用”,是所有引用类型中最弱的一个
■ 一个对象是否有虚引用的存在,完全不会决定对象的生命周期。如果一个对象仅持有虚引用,那么它和没有引用几乎是一样的,随时都可能被垃圾回收器回收
■ 它不能单独使用,也无法通过虚引用来获取被引用的对象。当试图通过虚引用的get()方法取得对象时,总是null
■ 为一个对象设置虚引用关联的唯一目的在于跟踪垃圾回收过程。比如:能在这个对象被收集器回收时收到一个系统通知
■ 虚引用必须和引用队列一起使用。虚引用在创建时必须提供一个引用队列作为参数。当垃圾回收器准备回收一个对象时,如果发现它还有虚引用,就会在回收对象后,将这个虚引用加入引用队列,以通知应用程序对象的回收情况
■ 由于虚引用可以跟踪对象的回收时间,因此,也可以将一些资源释放操作放置在虚引用中执行和记录
■ 在JDK1.2版之后提供了PhantomReference类来实现虚引用
Object obj = new Object();
ReferenceQueue phantomQueue = new ReferenceQueue();
PhantomReference<Object> pf = new PhantomReference<Object>(obj, phantomQueue);
obj = null;
package com.pengtxyl.chapter16;
import java.lang.ref.PhantomReference;
import java.lang.ref.ReferenceQueue;
public class PhantomReferenceTest {
public static PhantomReferenceTest obj; //当前类对象的声明
static ReferenceQueue<PhantomReferenceTest> phantomQueue = null; //引用队列
public static class CheckRefQueue extends Thread {
@Override
public void run() {
while(true) {
if(phantomQueue != null) {
PhantomReference<PhantomReferenceTest> objt = null;
try {
objt = (PhantomReference<PhantomReferenceTest>) phantomQueue.remove();
} catch (InterruptedException e) {
e.printStackTrace();
}
if(objt != null) {
System.out.println("追踪垃圾回收过程:PhantomReferenceTest实例被GC了");
}
}
}
}
}
@Override
protected void finalize() throws Throwable { //只能被调用一次
super.finalize();
System.out.println("调用当前类的finalize()方法");
obj= this;
}
public static void main(String[] args) {
Thread t = new CheckRefQueue();
t.setDaemon(true); //设置为守护线程:当程序中没有非守护线程时,守护线程也就执行结束
t.start();
phantomQueue = new ReferenceQueue<PhantomReferenceTest>();
obj = new PhantomReferenceTest();
//构造了PhantomReferenceTest对象的虚引用,并指定了引用队列
PhantomReference<PhantomReferenceTest> phantomRef = new PhantomReference<>(obj, phantomQueue);
try {
//不可获取虚引用中的对象
System.out.println(phantomRef.get());
//将强引用去除
obj = null;
//第一次进行GC,由于对象可复活,GC无法回收该对象
System.gc();
Thread.sleep(1000);
if(obj == null) {
System.out.println("obj 是 null");
} else {
System.out.println("obj 可用");
}
System.out.println("第 2 次 GC");
obj = null;
System.gc(); //一旦将obj对象回收,就会将此虚引用存放到引用队列中
Thread.sleep(1000);
if(obj == null) {
System.out.println("obj 是 null");
} else {
System.out.println("obj 可用");
}
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
16.10、再谈引用:终结器引用
Final reference
■ 它用以实现对象的finalize()方法,也可以称为终结器引用
■ 无需手动编码,其内部配合引用队列使用
■ 在GC时,终结器引用入队。由Finalizer线程通过终结器引用找到被引用对象并调用它的finalize()方法,第二次GC时才能回收被引用对象
17、垃圾回收器
17.1、GC分类与性能指标
■ 垃圾收集器没有在规范中进行过多的规定,可以由不同的厂商、不同版本的JVM来实现
■ 由于JDK的版本处于高速迭代过程中,因此Java发展至今已经衍生了众多的GC版本
■ 从不同角度分析垃圾收集器,可以将GC分为不同的类型
■ 按线程数分,可以分为串行垃圾回收器和并行垃圾回收器
■ 串行回收指的是在同一时间段内只允许有一个CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束
● 在诸如单CPU处理器或者较小的应用内存等硬件平台不是特别优越的场合,串行回收器的性能表现可以超过并行回收器和并发回收器。所以,串行回收默认被应用在客户端的Client模式下的JVM中
● 在并发能力比较强的CPU上,并行回收器产生的停顿时间要短于串行回收器
■ 和串行回收相反,并行收集可以运用多个CPU同时执行垃圾回收,因此提升了应用的吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用了“Stop-the-world”机制
■ 按照工作模式分,可以分为并发式垃圾回收器和独占式垃圾回收器
● 并发式垃圾回收器与应用程序线程交替工作,以尽可能减少应用程序的停顿时间
● 独占式垃圾回收器(Stop the world)一旦运行,就停止应用程序中的所有用户线程,直到垃圾回收过程完全结束
■ 按碎片处理方式分,可分为压缩式垃圾回收器和非压缩式垃圾回收器
● 压缩式垃圾回收器会在回收完成后,对存活对象进行压缩整理,消除回收后的碎片
再分配对象空间使用:指针碰撞
● 非压缩式的垃圾回收器不进行这步操作
在分配对象空间使用:空闲列表
■ 按工作的内存区间分,又可分为年轻代垃圾回收器和老年代垃圾回收器
■ 评估 GC 的性能指标
● 吞吐量:运行用户代码的时间占总运行时间的比例
○ (总运行时间:程序的运行时间+内存回收的时间)
● 垃圾收集开销:吞吐量的补数,垃圾收集所用时间与总运行时间的比例
● 暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间
● 收集频率:相对于应用程序的执行,收集操作发生的频率
● 内存占用:Java 堆区所占的内存大小
● 快速:一个对象从诞生到被回收所经历的时间
■ 这三者共同构成一个“不可能三角”。三者总体的表现会随着技术进步而越来越好。一款优秀的收集器通常最多同时满足其中的两项
■ 这三项里,暂停时间的重要性日益凸显。因为随着硬件发展,内存占用多些越来越能容忍,硬件性能的提升也有助于降低收集器运行时对应用程序的影响,即提高了吞吐量。而内存的扩大,对延迟反而带来负面效果
■ 简单来说,主要抓住两点:
● 吞吐量
● 暂停时间
■ 吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值,即:
吞吐量 = 运行用户代码时间/(运行用户代码时间 + 垃圾收集时间)
比如:虚拟机总共运行了100分钟,其中垃圾收集花掉1分钟,那吞吐量就是99%
■ 这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用程序有更长的时间基准,快速响应是不必考虑的
■ 吞吐量优先,意味着在单位时间内,STW的时间最短:0.2 + 0.2 = 0.4
■ “暂停时间”是指一个时间段内应用程序线程暂停,让GC线程执行的状态
● 例如,GC期间100毫秒的暂停时间意味着在这100毫秒期间内没有应用程序线程是活动的
■ 暂停时间优先,意味着尽可能让单次STW的时间最短 : 0.1+0.1+0.1+0.1+ 0.1 = 0.5
■ 高吞吐量较好因为这会让应用程序的最终用户感觉只有应用程序线程在做“生产性”工作。直觉上,吞吐量越高程序运行越快
■ 低暂停时间(低延迟)较好因为从最终用户的角度来看不管是GC还是其他原因导致一个应用被挂起始终是不好的。这取决于应用程序的类型,有时候甚至短暂的200毫秒暂停都可能打断终端用户体验。因此,具有低的较大暂停时间是非常重要的,特别是对于一个交互式应用程序
■ 不幸的是”高吞吐量”和”低暂停时间”是一对相互竞争的目标(矛盾)
● 因为如果选择以吞吐量优先,那么必然需要降低内存回收的执行频率,但是这样会导致GC需要更长的暂停时间来执行内存回收
● 相反的,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又引起了年轻代内存的缩减和导致程序吞吐量的下降
■ 在设计(或使用)GC算法时,我们必须确定我们的目标:一个GC算法只可能针对两个目标之一(即只专注于较大吞吐量或最小暂停时间),或尝试找到一个二者的折中
■ 现在标准:在最大吞吐量优先的情况下,降低停顿时间
17.2、不同的垃圾回收器概述
■ 垃圾收集机制是Java的招牌能力,极大地提高了开发效率。这当然也是面试的热点
■ 那么,Java常见的垃圾收集器有哪些?
■ 有了虚拟机,就一定需要收集垃圾的机制,这就是Garbage Collection,对应的产品我们称为Garbage
Collector
● 1999年随JDK1.3.1一起来的是串行方式的Serial GC,它是第一款GC。ParNew垃圾收集器是Seria1收集器的多线程版本
● 2002年2月26日,Parallel GC 和 Concurrent Mark Sweep GC跟随 JDK1.4.2 一起发布
● Parallel GC在 JDK6之后成为HotSpot默认GC
● 2012年,在JDK1.7u4版本中,G1可用
● 2017年,JDK9中G1变成默认的垃圾收集器,以替代CMS
● 2018年3月,JDK10中G1垃圾回收器的并行完整垃圾回收,实现并行性来改善最坏情况下的延迟
● 2018年9月, JDK11发布。引入Epsilon 垃圾回收器, 又被称为”No-Op (无操作)” 回收器。同时,引入ZGC:可伸缩的低延迟垃圾回收器(Experimental)
● 2019年3月,JDK12发布。增强G1, 自动返回未用堆内存给操作系统。同时,引入Shenandoah GC: 低停顿时间的GC(Experimental [实验的])
● 2019年9月,JDK13发布。增强ZGC, 自动返回未用堆内存给操作系统
● 2020年3月, JDK14发布。删除CMS垃圾回收器。扩展ZGC在macOS和 Windows上的应用
■ 7 款经典的垃圾收集器
● 串行回收器:Serial、Serial Old
● 并行回收器:ParNew、Parallel Scavenge、Parallel Old
● 并发回收器:CMS、G1
■ 垃圾回收器官方文档下载:
https://www.oracle.com/technetwork/java/javase/tech/memorymanagement-whitepaper-1-150020.pdf
■ 7款经典收集器与垃圾分代之间的关系
● 新生代收集器:Serial、ParNew、Parallel Scavenge
● 老年代收集器:Serial Old、Parallel Old、CMS
● 整堆收集器:G1
1、两个收集器间有连线,表明它们可以搭配使用:
Serial/Serial Old、Serial/CMS、ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel Scavenge/Parallel Old、G1;
2、其中Serial Old作为CMS出现”Concurrent Mode Failure”失败的后备预案。
3、(红色虚线)由于维护和兼容性测试的成本,在JDK8时将 Serial+CMS、ParNew+Serial Old这两个组合声明为废弃(JEP 173),并在JDK9中完全取消了这些组合的支持(JEP214), 即:移除。
4、(绿色虚线)JDK 14中:弃用Parallel Scavenge和SerialOld GC组合 (JEP 366)
5、(青色虚线)JDK 14中:删除CMS垃圾回收器(JEP 363)
■ 为什么要有很多收集器,一个不够吗?因为Java的使用场景很多,移动端,服务器等。所以就需要针对不同的场景,提供不同的垃圾收集器,提高垃圾收集的性能
■ 虽然我们会对各个收集器进行比较,但并非为了挑选一个最好的收集器出来。没有一种放之四海皆准、任何场景下都适用的完美收集器存在,更加没有万能的收集器。所以我们选择的只是对具体应用最合适的收集器
■ 如何查看默认的垃圾收集器:
● -XX:+PrintCommandLineFlags:查看命令行相关参数(包含使用的垃圾收集器)
● 使用命令行指令:jinfo -flag 相关垃圾回收器参数 进程 ID
/*
* -XX:+PrintCommandLineFlags
*
* */
public class GCUseTest {
public static void main(String[] args) {
ArrayList<byte[]> list = new ArrayList<>();
while(true) {
byte[] arr = new byte[100];
list.add(arr);
try {
Thread.sleep(10);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}
17.3、Serial回收器:串行回收
■ Serial收集器是最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择
■ Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器
■ Serial 收集器采用复制算法、串行回收和”Stop-the-World”机制的方式执行内存回收
■ 除了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial old收集器。Serial Old 收集器同样也采用了串行回收 和 ”Stop the World”机制,只不过内存回收算法使用的是标记-压缩算法
● Serial Old是运行在Client模式下默认的老年代的垃圾回收器
● Serial Old在Server模式下主要有两个用途:① 与新生代的Parallel Scavenge配合使用 ② 作为老年代CMS收集器的后备垃圾收集方案
■ 这个收集器是一个单线程的收集器,但它的“单线程”的意义并不仅仅说明它只会使用一个 CPU 或一条收集线程去完成垃圾收集工作,更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(Stop The World)
■ 优势:简单而高效(与其他收集器的单线程比),对于限定单个CPU 的环境来说,Seria1收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率
● 运行在Client模式下的虚拟机是个不错的选择
■ 在用户的桌面应用场景中,可用内存一般不大(几十MB至一两百MB),可以在较短时间内完成垃圾收集(几十ms至一百多ms),只要不频繁发生,使用串行回收器是可以接受的
■ 在HotSpot虚拟机中,使用 -XX:+UseSerialGC 参数可以指定年轻代和 老年代都使用串行收集器。
● 等价于新生代用Serial GC,且老年代用Serial Old GC
■ 总结:
● 这种垃圾收集器大家了解,现在已经不用串行的了。而且在限定单核cpu才可以用。现在都不是单核的了
● 对于交互较强的应用而言,这种垃圾收集器是不能接受的。一般在Java web应用程序中是不会采用串行垃圾收集器的
17.4、ParNew回收器:并行回收
■ 如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Seria1收集器的多线程版本。
● Par是Parallel的缩写,New: 只能处理的是新生代
■ ParNew 收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法、stop-the-world机制。
■ ParNew 是很多JVM运行在Server模式下新生代的默认垃圾收集器。
■ 对于新生代,回收次数频繁,使用并行方式高效
■ 对于老年代,回收次数少,使用串行方式节省资源(CPU 并行需要切换线程,串行可以省去切换线程的资源)
■ 由于ParNew收集器是基于并行回收,那么是否可以断定ParNew收集器的回收效率在任何场景下都会比Serial收集器更高效?
● ParNew 收集器运行在多CPU的环境下,由于可以充分利用多CPU、多核心等物理硬件资源优势,可以更快速地完成垃圾收集,提升程序的吞吐量
● 但是在单个CPU的环境下,ParNew收集器不比Serial 收集器更高效。虽然Serial收集器是基于串行回收,但是由于CPU不需要频繁地做任务切换,因此可以有效避免多线程交互过程中产生的一些额外开销
■ 因为除Serial外,目前只有ParNew GC能与CMS收集器配合工作
■ 在程序中,开发人员可以通过选项"-XX:+UseParNewGC"手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器,不影响老年代
■ -XX:ParallelGCThreads 限制线程数量,默认开启和CPU数据相同的线程数
17.5、Parallel回收器:吞吐量优先
■ HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样也采用了复制算法、并行回收和”Stop the World”机制。
■ 那么Parallel收集器的出现是否多此一举?
● 和ParNew收集器不同, Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量(Throughput),它也被称为吞吐量优先的垃圾收集器
● 自适应调节策略也是Parallel Scavenge与ParNew一个重要区别。
■ 高吞吐量则可以高效率地利用 CPU 时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,那些执行批量处理、订单处理、工资支付、科学计算的应用程序
■ Parallel 收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel Old收集器,用来代替老年代的Serial Old收集器。
■ Parallel old收集器采用了标记-压缩算法,但同样也是基于并行回收和”Stop-the-World”机制。
■ 在程序吞吐量优先的应用场景中,Parallel 收集器和Parallel Old 收集器的组合,在Server模式下的内存回收性能很不错
■ 在Java8中,默认是此垃圾收集器
■ 参数配置:
● -XX:+UseParallelGC 手动指定年轻代使用Parallel并行收集器执行内存回收任务
● -XX:+UseParallelOldGC 手动指定老年代都是使用并行回收收集器。
○ 分别适用于新生代和老年代。默认jdk8是开启的
○ 上面两个参数,默认开启一个,另一个也会被开启。(互相激活)
● -XX:ParallelGCThreads 设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能
○ 在默认情况下,当CPU数量小于8个,ParallelGCThreads 的值等于 CPU 数量
○ 当CPU数量大于8个,ParallelGCThreads 的值等于 3+[5*CPU_Count]/8]
● -XX:MaxGCPauseMillis 设置垃圾收集器最大停顿时间(即STW的时间)。单位是毫秒
○ 为了尽可能地把停顿时间控制在MaxGCPauseMills以内,收集器在工作时会调整Java堆大小或者其他一些参数
○ 对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重高并发,整体的吞吐量。所以服务器端适合Parallel,进行控制
○ 该参数使用需谨慎
● -XX:GCTimeRatio 垃圾收集时间占总时间的比例(=1/(N+1))。用于衡量吞吐量的大小
○ 取值范围(0,100)。默认值99,也就是垃圾回收时间不超过1%
○ 与前一个-XX:MaxGCPauseMillis参数有一定矛盾性。暂停时间越长,Radio参数就容易超过设定的比例
● -XX:+UseAdaptiveSizePolicy 设置Parallel Scavenge收集器具有自适应调节策略
○ 在这种模式下,年轻代的大小、Eden和Survivor的比例、晋升老年代的对象年龄等参数会被自动调整,已达到在堆大小、吞吐量和停顿时间之间的平衡点
○ 在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标的吞吐量(GCTimeRatio)和停顿时间(MaxGCPauseMills),让虚拟机自己完成调优工作
17.6、CMS回收器:低延迟
■ 在 JDK 1.5 时期,HotSpot 推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器:CMS (Concurrent-Mark-Sweep)收集器,这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程同时工作
■ CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验
● 目前很大一部分的Java应用集中在互联网站或者B/S系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来较好的体验。CMS收集器就非常符合这类应用的需求
■ CMS的垃圾收集算法采用标记-清除算法,并且也会”stop-the-world"
■ 不幸的是,CMS 作为老年代的收集器,却无法与 JDK 1.4.0 中已经存在的新生代收集器Parallel Scavenge 配合工作,所以在JDK 1.5中使用CMS来收集老年代的时候,新生代只能选择ParNew或者Serial收集器中的一个
■ 在G1出现之前,CMS使用还是非常广泛的。一直到今天,仍然有很多系统使用CMS GC
■ CMS 工作原理:CMS整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段、并发标记阶段、重新标记阶段和并发清除阶段
● 初始标记(Initial-Mark)阶段:在这个阶段中,程序中所有的工作线程都将会因为Stop-the-World”机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快
● 并发标记(Concurrent-Mark)阶段:从GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。
● 重新标记(Remark)阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短
● 并发清除(Concurrent-Sweep)阶段:此阶段清理删除掉标记阶段判断的已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的
■ 尽管CMS收集器采用的是并发回收(非独占式),但是在其初始化标记和再次标记这两个阶段中仍然需要执行“Stop-the-World”机制暂停程序中的工作线程,不过暂停时间并不会太长,因此可以说明目前所有的垃圾收集器都做不到完全不需要“Stop-the-World”,只是尽可能地缩短暂停时间
■ 由于最耗费时间的并发标记与并发清除阶段都不需要暂停工作,所以整体的回收是低停顿的
■ 另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次“Concurrent Mode Failure" 失败,这时虚拟机将启动后备预案:临时启用Serial Old 收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。
■ CMS收集器的垃圾收集算法采用的是标记清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将会产生一些内存碎片。那么CMS在为新对象分配内存空间时,将无法使用指针碰撞(Bump the Pointer)技术,而只能够选择空闲列表(Free List)执行内存分配。
■ 有人会觉得既然Mark Sweep会造成内存碎片,那么为什么不把算法换成Mark Compact呢?
答案其实很简答,因为当并发清除的时候,用Compact整理内存的话,原来的用户线程使用的内存还怎么用呢?要保证用户线程能继续执行,前提得它运行的资源不受影响嘛。Mark Compact更适合“Stop the World" 这种场景下使用
■ CMS的优点:
● 并发收集
● 低延迟
■ CMS 的弊端
● 会产生内存碎片,导致并发清除后,用户线程可用的空间不足。在无法分配大对象的情况下,不得不提前触发Full GC
● CMS收集器对CPU资源非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低
● CMS收集器无法处理浮动垃圾。可能出现“concurrent Mode Failure”失败而导致另一次 Full GC 的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行GC时释放这些之前未被回收的内存空间
■ CMS 收集器可以设置的参数:
● -XX:+UseConcMarkSweepGC 手动指定使用CMS 收集器执行内存回收任务
○ 开启该参数后会自动将-XX:+UseParNewGC打开。即:ParNew(Young区用)+CMS(Old区用)+Serial Old的组合
● XX:CMSlnitiatingOccupanyFraction 设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收。
○ JDK5及以前版本的默认值为68,即当老年代的空间使用率达到68:时,会执行一次CMS回收。JDK6及以上版本默认值为92%
○ 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效降低CMS的触发频率,减少老年代回收的次数可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低Full GC 的执行次数
● -XX:+UseCMSCompactAtFullCollection 用于指定在执行完Full GC后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长了
● -XX:CMSFullGCsBeforeCompaction 设置在执行多少次Full GC后对内存空间进行压缩整理。
● -XX:ParallelCMSThreads 设置CMS的线程数量。
○ 默认启动的线程数是(ParallelGCThreads+3)/4, ParallelGCThreads 是年轻代并行收集器(并发标记阶段)的线程数。当CPU资源比较紧张时,受到CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕
■ 小结:
HotSpot有这么多的垃圾回收器,那么如果有人问,Serial GC、Parallel GC、Concurrent Mark Sweep GC这三个GC有什么不同呢?
请记住以下口令:
如果你想要最小化地使用内存和并行开销,请选Serial GC;
如果你想要最大化应用程序的吞吐量,请选Parallel GC;
如果你想要最小化GC的中断或停顿时间,请选CMS GC.
■ JDK 后续版本中 CMS 的变化
● JDK9新特性:CMS被标记为Deprecate了(JEP291)
○ 如果对JDK 9及以上版本的HotSpot虚拟机使用参数-XX:+UseConcMarkSweepGC来开启CMS收集器的话,用户会收到一个警告信息,提示CMS未来将会被废弃
● JDK14新特性:删除CMS垃圾回收器(JEP363)
○ 移除了CMS垃圾收集器,如果在JDK14中使用-XX:+UseConcMarkSweepGC的话,JVM不会报错,只是给出一个warning信息,但是不会exit。JVM会自动回退以默认GC方式启动JVM
17.7、G1回收器:区域化分代式
■ 既然我们已经有了前面几个强大的GC,为什么还要发布Garbage First(G1) GC?
● 原因就在于应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有GC 就不能保证应用程序正常进行,而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化。G1(Garbage-First)垃圾回收器是在Java7 update 4之后引入的一个新的垃圾回收器,是当今收集器技术发展的最前沿成果之一
● 与此同时,为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间(pause time),同时兼顾良好的吞吐量。
● 官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起“全功能收集器”的重任与期望。
■ 为什么名字叫做 Garbage First(G1) 呢?
● 因为 G1 是一个并行回收器,它把堆内存分割为很多不相关的区域(Region)(物理上不连续)。使用不同的 Region 来表示 Eden、幸存者0区、幸存者1区、老年代等
● G1 GC有计划地避免在整个Java堆中进行全区域的垃圾收集。G1 跟踪各个 Region 里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region
● 由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以我们给G1一个名字:垃圾优先(Garbage First)
■ G1(Garbage-First)是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征
■ 在JDK1.7版本正式启用,移除了Experimental的标识,是JDK9以后的默认垃圾回收器,取代了CMS 回收器以及Parallel Parallel Old组合。被Oracle官方称为“全功能的垃圾收集器”。
■ 与此同时,CMS已经在JDK 9中被标记为废弃(deprecated)。在jdk8中还不是默认的垃圾回收器,需要使用-XX:+UseG1GC来启用。
■ 与其他 GC 收集器相比,G1使用了全新的分区算法,其特点如下所示(优势):
● 并行与并发
○ 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW;
○ 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况;
● 分代收集
○ 从分代上看,G1依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区,但从堆的结构上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量
○ 将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代
○ 和之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代;
● 空间整合
○ CMS: 标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理
○ G1将内存划分为一个个的region。内存的回收是以region作为基本单位的。Region之间是复制算法,但整体上实际可看作是标记-压缩(Mark-Compact)算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次GC。尤其是当Java堆非常大的时候,G1的优势更加明显。
● 可预测的停顿时间模型(即:软实时soft real-time)
这是G1相对于CMS的另一大优势,G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒。
○ 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制
○ G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。保证了Gl收集器在有限的时间内可以获取尽可能高的收集效率
○ 相比于CMS GC,G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多。
■ G1 回收器的缺点
● 相较于CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负载(Overload)都要比CMS要高
● 从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间
■ G1回收器的参数设置
● -XX:+UseG1GC 手动指定使用G1收集器执行内存回收任务。JDK9默认使用G1收集器,JDK9以前需要手动指定才能使用G1回收器
● -XX:G1HeapRegionSize 设置每个Region的大小。值是2的幂,范围是1MB到32MB之间,目标是根据最小的Java堆大小划分出约2048个区域。默认是堆内存的1/2000。
● -XX:MaxGCPauseMillis 设置期望达到的最大GC停顿时间指标(JVM会尽力实现,但不保证达到)。默认值是200ms
● -XX:ParallelGCThread 设置sTw时GC线程数的值。最多设置为8
● -XX:ConcGCThreads 设置并发标记的线程数。将n设置为并行垃圾回收线程数(ParallelGCThreads)的1/4左右。
● -XX:InitiatingHeapOccupancyPercent 设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。默认值是45。
■ G1 回收器的常见操作步骤
● G1的设计原则就是简化JVM性能调优,开发人员只需要简单的三步即可完成调优:
第一步:开启G1垃圾收集器
第二步:设置堆的最大内存
第三步:设置最大的停顿时间
● G1中提供了三种垃圾回收模式:YoungGC、Mixed GG和Full GC,在不同的条件下被触发。
■ G1 回收器的适用场景
● 面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小的堆里表现并不惊喜)
● 最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方案;如:在堆大小约6GB或更大时,可预测的暂停时间可以低于0.5秒;(G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)。
● 用来替换掉JDK1.5中的CMS收集器;在下面的情况时,使用G1可能比CMS好:
① 超过50%的Java堆被活动数据占用;
② 对象分配频率或年代提升频率变化很大;
③ GC停顿时间过长(长于0.5s至1秒)。
● HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程。
■ 分区 Region:化整为零
● 使用 Gl 收集器时,它将整个Java堆划分成约2048个大小相同的独立Region 块,每个Region块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB 之间,且为2的N次幂,即1MB,2MB,4MB,8MB,16MB,32MB。可以通过-XX:GlHeapRegionSize设定。所有的Region大小相同,且在JVM生命周期内不会被改变。
● 虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续。
● 一个 region 有可能属于 Eden, Survivor 或者Old/Tenured 内存区域。但是一个region只可能属于一个角色。图中的 E 表示该region属于Eden内存区域,s表示属于Survivor内存区域,o表示属于old内存区域。图中空白的表示未使用的内存空间。
● G1 垃圾收集器还增加了一种新的内存区域,叫做Humongous 内存区域,如图中的 H 块。主要用于存储大对象,如果超过1.5个region,就放到H。
● 设置H的原因: 对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把 H 区作为老年代的一部分来看待。
■ G1 回收器垃圾回收过程
G1 GC的垃圾回收过程主要包括如下三个环节:
● 年轻代GC(Young GC)
● 老年代并发标记过程(Concurrent Marking
● 混合回收(Mixed GC)
● (如果需要,单线程、独占式、高强度的Full GC还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收。)
顺时针,young gc -> young gc + concurrent mark -> Mixed GC顺序,进行垃圾回收
● 应用程序分配内存,当年轻代的Eden区用尽时开始年轻代回收过程;G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及。
● 当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程。
● 标记完成马上开始混合回收过程。对于一个混合回收期,Gl GC从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了。同时,这个老年代Region是和年轻代一起被回收的。
● 举个例子:一个Web服务器,Java进程最大堆内存为4G,每分钟响应1500个请求,每45秒钟会新分配大约2G的内存。G1会每45秒钟进行一次年轻代回收,每31个小时整个堆的使用率会达到45%,会开始老年代并发标记过程,标记完成后开始四到五次的混合回收。
■ G1 回收器垃圾回收过程:Remembered Set(记忆集)
● 一个对象被不同区域引用的问题
● 一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确?
● 在其他的分代收集器,也存在这样的问题(而G1更突出)回收新生代也不得不同时扫描老年代?
● 这样的话会降低Minor GC的效率;
● 解决方法:
○ 无论G1还是其他分代收集器,JVM都是使用Remembered Set来避免全局扫描
○ 每个Region都有一个对应的Remembered Set;
○ 每次Reference类型数据写操作时,都会产生一个Write Barrier暂时中断操作;
○ 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(其他收集器:检查老年代对象是否引用了新生代对象);
○ 如果不同,通过CardTable(即下图中Rset的那个卡表)把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中;
○ 当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set;就可以保证不进行全局扫描,也不会有遗漏
■ G1 回收过程一:年轻代 GC
● JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden 区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程。注意,只有Eden区满了才会触发,S区不会触发
● 年轻代垃圾回收只会回收Eden区和Survivor区
● YGC时,首先G1停止应用程序的执行(Stop-The-World),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段
● 然后开始如下回收过程:
○ 第一阶段,扫描根
根是指static变量指向的对象,正在执行的方法调用链条上的局部变量等。根引用连同RSet 记录的外部引用作为扫描存活对象的入口。
○ 第二阶段,更新RSet
处理dirty card queue(见备注)中的card,更新RSet。此阶段完成后,RSet可以准确的反映老年代对所在的内存分段中对象的引用。
备注:对于应用程序的引用赋值语句 object.field = object,object.field相当于老年代引用,object相当于年轻代对象,即老年代引用指向了年轻代对象了。JVM 会在之前和之后执行特殊的操作以在 dirty card queue 中入队一个保存了对象引用信息的 card。在年轻代回收的时候,G1 会对 dirty card queue 中所有的 card 进行处理,以更新 RSet,保证 RSet 实时准确地反映引用关系。那为什么不在引用赋值语句处直接更新 RSet 呢?这是为了性能的需要,RSet的处理需要线程同步,开销会很大,使用队列性能会好很多
○ 第三阶段,处理RSet
识别被老年代对象指向的Eden中的对象,这些被指向的Eden中的对象被认为是存活的对象。
○ 第四阶段,复制对象
此阶段,对象树被遍历,Eden区内存段中存活的对象会被复制到Survivor区中空的内存分段,Survivor区内存段中存活的对象如果年龄未达阈值,年龄会加1,达到阀值会被会被复制到01d区中空的内存分段。如果Survivor空间不够,Eden空间的部分数据会直接晋升到老年代空间。
○ 第五阶段,处理引用
处理Soft,Weak,Phantom,Final,JNI Weak 等引用。最终Eden空间的数据为空,GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片。
■ G1 回收过程二:并发标记过程
● 1、初始标记阶段:标记从根节点直接可达的对象。这个阶段是STW的,并且会触发一次年轻代GC。
● 2、根区域扫描(Root Region Scanning): G1 GC扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在young GC之前完成。因为 young GC 要动 Survivor 区,所以要在 young GC 之前完成
● 3、并发标记(Concurrent Marking):在整个堆中进行并发标记(和应用程序并发执行),此过程可能被young GC中断。在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)。
● 4、再次标记(Remark): 由于应用程序持续进行,需要修正上一次的标记结果。是STW 的。G1中采用了比CMS更快的初始快照算法:snapshot-at-the-beginning(SATB)。
● 5、独占清理(cleanup,STW):计算各个区域的存活对象和GC回收比例,并进行排序,识别可以混合回收的区域。为下阶段做铺垫。是STW的。
○ 这个阶段并不会实际上去做垃圾的收集
● 6、并发清理阶段:识别并清理完全空闲的区域。
■ G1 回收过程三:混合回收
当越来越多的对象晋升到老年代oldregion时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即Mixed GC,该算法并不是一个Old GC,除了回收整个Young Region,还会回收一部分的Old Region.这里需要注意:是一部分老年代,而不是全部老年代。可以选择哪些Old Region进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC 。
● 并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分8次(可以通过-XX:G1MixedGCCountTarget设置)被回收。
● 混合回收的回收集(Collection Set)包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段。具体过程请参考上面的年轻代回收过程
● 由于老年代中的内存分段默认分8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收,-XX:G1MixedGCLiveThresholdPercent,默认为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。
● 混合回收并不一定要进行8次。有一个阈值-XX:G1HeapWastePercent,默认值为10%,意思是允许整个堆内存中有10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。
■ G1 回收可选的过程四:Full GC
● G1的初衷就是要避免Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行(Stop-The-World),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间会很长
● 要避免Full GC的发生,一旦发生需要进行调整。什么时候会发生Full GC 呢?比如堆内存太小,当G1在复制存活对象的时候没有空的内存分段可用,则会回退到full gc,这种情况可以通过增大内存解决
● 导致G1Full GC的原因可能有两个:
1.Evacuation的时候没有足够的to-space来存放晋升的对象;
2.并发处理过程完成之前空间耗尽。
■ G1 回收过程:补充
从Oracle官方透露出来的信息可获知,回收阶段(Evacuation)其实本也有想过设计成与用户程序一起并发执行,但这件事情做起来比较复杂,考虑到G1只是回收一部分Region,停顿时间是用户可控制的,所以并不迫切去实现,而选择把这个特性放到了G1之后出现的低延迟垃圾收集器(即ZGC)中。另外,还考虑到G1不是仅仅面向低延迟,停顿用户线程能够最大幅度提高垃圾收集效率,为了保证吞吐量所以才选择了完全暂停用户线程的实现方案
■ G1 回收器优化建议
● 年轻代大小
○ 避免使用-Xmn或-XX:NewRatio等相关选项显式设置年轻代大小
○ 固定年轻代的大小会覆盖暂停时间目标
● 暂停时间目标不要太过严苛
○ G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾回收时间
○ 评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量
17.8、垃圾回收器总结
7种经典垃圾回收器总结
■ 截止 JDK 1.8,一共有 7 款不同的垃圾收集器。每一款不同的垃圾收集器都有不同的特点,在具体使用的时候,需要根据具体的情况选用不同的垃圾收集器
■ GC 发展阶段:Serial => Parallel(并行) => CMS(并发) => G1 => ZGC
■ 不同厂商、不同版本的虚拟机实现差别很大。HotSpot 虚拟机在 JDK7/8 后所有收集器及组合(连续),如下图:
1、两个收集器间有连线,表明它们可以搭配使用:
Serial/Serial Old、Serial/CMS、ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel Scavenge/Parallel Old、G1;
2、其中Serial Old作为CMS出现”Concurrent Mode Failure"失败的后备预案。
3、(红色虚线)由于维护和兼容性测试的成本,在JDK 8时将Serial+CMS、ParNew+Serial old这两个组合声明为Deprecated(JEP 173),并在JDK 9中完全取消了这些组合的支持(JEP214),即:移除。
4、(绿色虚线)JDK14中:弃用ParallelScavenge和SerialOld GC组合(JEP366)
5、(青色虚线)JDK14中:删除CMS垃圾回收器(JEP363)
■ 怎么选择垃圾回收器?
● Java垃圾收集器的配置对于JVM优化来说是一个很重要的选择,选择合适的垃圾收集器可以让JVM的性能有一个很大的提升。
● 怎么选择垃圾收集器?
1、优先调整堆的大小让JVM自适应完成。
2、如果内存小于100M,使用串行收集器
3、如果是单核、单机程序,并且没有停顿时间的要求,串行收集器
4、如果是多CPU、需要高吞吐量、允许停顿时间超过1秒,选择并行或者JVM自己选择
5、如果是多CPU、追求低停顿时间,需快速响应(比如延迟不能超过1秒,如互联网应用),使用并发收集器官方推荐G1,性能高。现在互联网的项目,基本都是使用G1。
● 最后需要明确一个观点:
1、没有最好的收集器,更没有万能的收集器
2、调优永远是针对特定场景、特定需求,不存在一劳永逸的收集器
■ 面试:
● 对于垃圾收集,面试官可以循序渐进从理论、实践各种角度深入,也未必是要求面试者什么都懂。但如果你懂得原理,一定会成为面试中的加分项。这里较通用、基础性的部分如下:
○ 垃圾收集的算法有哪些?如何判断一个对象是否可以回收?
○ 垃圾收集器工作的基本流程。
● 另外,大家需要多关注垃圾回收器这一章的各种常用的参数
17.9、GC日志分析
■ 通过阅读GC日志,我们可以了解Java虚拟机内存分配与回收策略。
■ 内存分配与垃圾回收的参数列表
-XX:+PrintGC 输出GC日志。类似:-verbose:gc
-XX:+PrintGCDetails 输出GC的详细日志
-XX:+PrintGCTimeStamps 输出GC的时间戳(以基准时间的形式)
-XX:+PrintGCDateStamps 输出GC的时间戳(以日期的形式,如2013-05-04T21:53:59.234+0800)
-XX:+PrintHeapAtGC 在进行GC的前后打印出堆的信息
-xloggc:./logs/gc.log 日志文件的输出路径
■ 打开 GC 日志:
-verbose:gc
这个只会显示总的 GC 堆的变化,如下
■ 参数解析:
GC、Full GC: GC的类型,GC只在新生代上进行,Full GC包括永生代,新生代,老年代。
Allocation Failure: GC发生的原因。
80832K->19298K:堆在GC前的大小和GC后的大小。
228840k: 现在的堆大小。
0.0084018secs: GC持续的时间
■ 打开 GC 日志:
-verbose:gc -XX:+PrintGCDetails
显示信息如下:
■ 参数解析:
Fu11FC: 同样是Gc的类型
A11 ocation eal1ure: GC原因
PSYoungGen:使用了Para1le1 Scavenge并行垃圾收集器的新生代Gc前后大小的变化
Paro1dGen:使用了Para11el Old并行垃圾收集器的老年代GC前后大小的变化
Metaspace:元数据区Gc前后大小的变化,JDK1.8中引入了元数据区以替代永久代
XXX secs:指GC花费的时间
Times:user:指的是垃圾收集器花费的所有cPU时间,sys:花费在等待系统调用或系统事件的时间,real GC从开始到结束的时间,包括其他进程占用时间片的实际时间。
■ 打开 GC 日志
-verbose:gc -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps
输入信息如下:
说明:带上了日期和时间
■ 如果想把 GC 日志保存到文件的话,是下面这个参数:
-Xloggc:/path/to/gc.log 或 -Xloggc:./log/gc.log 注意:./ 表示保存在当前工程下面,需要先创建log目录
■ 日志补充说明:
● “[GC"和”[FullGc"说明了这次垃圾收集的停顿类型,如果有"Fu11"则说明GC发生了"stop The World"
● 使用 Serial收集器在新生代的名字是 Default New Generation,因此显示的是"[DefNew"
● 使用 ParDew收集器在新生代的名字会变成"[ParDew",意思是"Para11e1 New Generation"
● 使用Parallel Scavenge收集器在新生代的名字是"[PSYoung Gen"
● 老年代的收集和新生代道理一样,名字也是收集器决定的
● 使用G1收集器的话,会显示为" garbage-first heap"
● Allocation Failure
表明本次引起Gc的原因是因为在年轻代中没有足够的空间能够存储新的数据了。
● [PSYoungGen:5986K->696K(8704K)] 5986K->704K(9216K)
中括号内:GC回收前年轻代大小,回收后大小,(年轻代总大小)
括号外:GC回收前年轻代和老年代大小,回收后大小,(年轻代和老年代总大小)
● user代表用户态回收耗时,sys内核态回收耗时,rea实际耗时。由于多核的原因,时间总和可能会超过real时间
■ GC 日志
Heap(堆)
PSYoung Gen(para11e1 Scavenge收集器新生代)tota19216K,used6234K 0x00000000ff600000,0x0000000100000000,0x0000000100000000)
eden space(堆中的Eden区默认占比是8)8192K,76号used 0x00000000ff600000,0x00000000ffc16b08,0x00000000ffe00000)
from space(堆中的 Survivor,这里是 From Survivor区默认占比是1)1024K,08used [0x00000000fff00000,0x00000000fff00000,0x0000000100000000
to space(堆中的 Survivor,这里是 to survivor区默认占比是1,需要先了解一下堆的分配策略)1024K,0号used[0x00000000ffe00000,0x00000000ffe00000,0x00000000fff00000)
ParoldGen(老年代总大小和使用大小)tota110240K,used7001K[0x00000000fec000000x00000000ff600000,0x00000000ff600000)
object space(显示个使用百分比)10240K,688used [0x00000000fec00000,0x00000000ff2d6630,0x00000000ff600000
PSPermGen(永久代总大小和使用大小)tota121504K,used4949K[0x000000009a00000,0x00000000faf00000,0x00000000fec00000)
object space(显示个使用百分比,自己能算出来)21504K,23used [0x00000000f9a00000,0x00000000f9ed55e0,0x00000000faf00000)
■ 可以用一些工具去分析这些 gc 日志
常用的日志分析工具有:GCViewer、GCEasy、GCHisto、GCLogViewer、Hpjmeter、garbagecat 等
17.10、垃圾回收器的新发展
■ GC仍然处于飞速发展之中,目前的默认选项G1原来认为的缺点,例如串行的Full GC在不断的进行改进,很多我们GC、Card Table扫描的低效等,都已经被大幅改进,例如,JDK10以以后,Full GC已经是并行运行,在很多场景下,其表现还略优于Parallel GC的并行Full GC实现。
■ 即使是Serial GC,虽然比较古老,但是简单的设计和实现未必就是过时的,它本身的开销,不管是GC相关数据结构的开销,还是线程的开销,都是非常小的,所以随着云计算的兴起,在Serverless等新的应用场景下,Serial GC找到了新的舞台
■ 比较不幸的是CMS GC,因为其算法的理论缺陷等原因,虽然现在还有非常大的用户群体,但在JDK9中已经被标记为废弃,并在JDK14版本中移除
■ JDK11新特性
■ Open JDK12的Shenandoah GC
● 现在 G1回收器已经成为默认回收器好几年了
● 我们还看到了引入两个新的收集器:
ZGC(JDK11出现)和Shenandoah(Open JDK12),主打特点:低停顿时间
● Open JDK12 的 Shenandoah GC:低停顿时间的 GC(实验性)
● Shenandoah,无疑是众多GC中最孤独的一个。是第一款不由Oracle公司团队领导开发的HotSpot垃圾收集器。不可避免的受到官方的排挤。比如号称OpenJDK和OracleJDK没有区别的Oracle公司仍拒绝在OracleJDK12中支持Shenandoah
● Shenandoah垃圾回收器最初由RedHat进行的一项垃圾收集器研究项目Pauseless GC的实现,旨在针对JVM上的内存回收实现低停顿的需求。在2014年贡献给OpenJDK
● Red Hat研发Shenandoah团队对外宣称,Shenandoah垃圾回收器的暂停时间与堆大小无关,这意味着无论将堆设置为200 MB还是200GB,99.9%的目标都可以把垃圾收集的停顿时间限制在十毫秒以内。不过实际使用性能将取决于实际工作堆的大小和工作负载
● Shenandoah 开发团队在实际应用中的测试数据:
● 这是RedHat在2016年发表的论文数据,测试内容是使用ES对200GB的维基百科数据进行索引。从结果看:
○ 停顿时间比其他几款收集器确实有了质的飞跃,但也未实现最大停顿时间控制在十毫秒以内的目标
○ 而吞吐量方面出现了明显的下降,总运行时间是所有测试收集器里最长的
● 总结:
Shenandoah GC 的弱项:高运行负担下的吞吐量下降
Shenandoah GC 的强项:低延迟时间
Shenandoah GC 的工资过程大致分为九个阶段,这里就不再赘述。在之前 Java12 新特性视频里有过介绍
■ 令人震惊、革命性的 ZGC
https://docs.oracle.com/en/java/javase/12/gctuning/
● ZGC与Shenandoah目标高度相似,在尽可能对吞吐量影响不大的前提下,实现在任意堆内存大小下都可以把垃圾收集的停顿时间限制在十毫秒以内的低延迟
● 《深入理解Java虚拟机》一书中这样定义ZGC:ZGC收集器是一款基于Region内存布局的,(暂时)不设分代的,使用了读屏障、染色指针和内存多重映射等技术来实现可并发的标记-压缩算法的,以低延迟为首要目标的一款垃圾收集器
● ZGC的工作过程可以分为4个阶段:并发标记-并发预备重分配-并发重分配并发重映射等
● ZGC几乎在所有地方并发执行的,除了初始标记的是STW的。所以停顿时间几乎就耗费在初始标记上,这部分的实际时间是非常少的
● 测试数据:
● 在ZGC的强项停顿时间测试上,它毫不留情的将Parallel、Gl拉开了两个数量级的差距。无论平均停顿、95%停顿、99%停顿、99.9%停顿,还是最大停顿时间,ZGC都能毫不费劲控制在10毫秒以内
● 虽然ZGC还在试验状态,没有完成所有特性,但此时性能已经相当亮眼,用“令人震惊、革命性”来形容,不为过。未来将在服务端、大内存、低延迟应用的首选垃圾收集器
● JEP364: ZGC应用在macos上
● JEP365: ZGC应用在Windows上
○ JDK14之前,ZGC仅Linux才支持。
○ 尽管许多使用ZGC的用户都使用类Linux的环境,但在windows和macOS上,人们也需要ZGC进行开发部署和测试。许多桌面应用也可以从ZGC中受益。因此,ZGC特性被移植到了Windows和macos上。
○ 现在mac或windows上也能使用ZGC了,示例如下:
-XX:+UnlockExperimentalVMOptions -XX:+UseZGC
■ 其他垃圾回收器:AliGC
● AliGC 是阿里巴巴 JVM 团队基于 G1 算法,面向大堆(LargeHeap) 应用场景。
● 指定场景下的对比: