JVM代码缓存区CodeCache原理及用法解析

一. CodeCache简介

从字面意思理解就是代码缓存区，它缓存的是JIT(Just in Time)编译器编译的代码，简言之codeCache是存放JIT生成的机器码(native code)。当然JNI(Java本地接口)的机器码也放在codeCache里，不过JIT编译生成的native code占主要部分。

大致在JVM中的分布如下：

大家都知道javac编译器，把java代码编译成class字节码，它和JIT编译器的区别是，javac只是前端编译(有的叫前期编译)，jvm是通过执行机器码和底层交互的，这样我们编写的业务代码才能生效。所以还要把字节码class编译成与本地平台相关的机器码，这个过程就是后端编译。

后端编译根据具体的执行方式不同又分为两种：

1.解释执行

一行一行解释成机器码再执行，每次调用时都需要重新逐条解释执行。

2.编译执行(JIT)

将频繁调用的方法或循环体编译成机器码后，进行多层优化，然后缓存到codeCache里，避免重复编译。

两种执行方式的区别很明显，第一种在遇到频繁调用的方法或代码块时执行效率很低，但是解释执行可以节省内存(不存放到codeCache)，立即执行。然后当程序运行一段时间后(达到一定的编译次数)，编译执行即JIT优化，可以获得更高的执行效率。

所以说二者是相辅相成的。

现在的Java虚拟机这两种方式都包含(通过命令行java -version查看):

// mixed mode 解释+编译
Java HotSpot(TM) 64-Bit Server VM (build 24.80-b11, mixed mode)

其实JIT编译只是一个统称，具体要看jvm是client端还是server端的，不同的端会分为C1，C2编译器，这两种编译器的区别下一篇会讲到，这里先不展开。

二. JIT编译优化

上面讲到了JVM会对频繁使用的代码，即热点代码(Hot Spot Code)，达到一定的阈值后会编译成本地平台相关的机器码，并进行各层次的优化，提升执行效率。

热点代码也分两种：

• 被多次调用的方法
• 被多次执行的循环体
  

那阈值如何判断呢？

方法计数器，统计被多次调用的方法次数，该计数器统计的并不是方法被调用的绝对次数，而是在一段时间内方法被调用的次数。server模式下默认是10000次，可以通过-XX:CompileThreshold来设置(client模式一般很少用到，默认是1500)。
回边计数器，统计一个方法中循环体代码执行的绝对次数，在字节码中遇到控制流向后跳转的指令称为回边，主要通过OnStackReplacePercentage设置。

编译后进行优化，JIT的优化有很多种，比如：

• 针对方法的优化，方法内联
• 针对多次调用的循环体优化：栈上替换OSR(On-Stack Replace)
• 无用代码消除
• 复写传播
• 逃逸分析
• 更多JIT优化技术可参考jvm官网介绍

三. codeCache使用注意事项

上面主要讲了codeCache的作用和JIT的关系，codeCache主要是存放JIT编译后的机器代码，codeCache的大小主要是通过下面的参数设置：

• -XX:InitialCodeCacheSize 设置codeCache初始大小，一般默认是48M
• -XX:ReservedCodeCacheSize 设置codeCache预留的大小，通常默认是240M
  

如果codeCache的内存满了会进行回收，但在jdk1.8之前的jvm回收算法有点问题，当codeCache满了之后会导致编译线程无法继续，并且消耗大量CPU导致系统运行变慢，现象就是系统响应增加，如果你也遇到这个问题建议直接升级成jdk8，或者调大codeCache内存。

codeCache的大小设置可以通过-XX:+PrintCodeCache参数查看调整，但这个参数只在JVM停止的时候打印codeCache使用情况，所以如果想实时监控codeCache的使用情况，可以参考如下代码：

package com.javakk;

import java.io.File;
import java.lang.management.ManagementFactory;
import javax.management.MBeanServerConnection;
import javax.management.ObjectName;
import javax.management.remote.JMXConnector;
import javax.management.remote.JMXConnectorFactory;
import javax.management.remote.JMXServiceURL;
import com.sun.tools.attach.VirtualMachine;
/**
 * 基于JMX在运行时查看codeCache使用情况
 * @author 公众号:Java老K
 */
public class CodeCacheTest {
  public static void main(String[] args) throws Exception {
    String pid = getPid(); // 先获取java程序的pid
    String codeCache = getCodeCache(pid); // 根据pid获取codeCache的使用情况
    System.out.println(codeCache);
  }

  /**
   * 获取java进程id
   * @return
   */
  public static String getPid(){
    String name = ManagementFactory.getRuntimeMXBean().getName();
    return name.split("@")[0];
  }

  /**
   * 获取java应用的codeCache使用情况
   * @param pid
   * @throws Exception
   */
  public static String getCodeCache(String pid) throws Exception {
    VirtualMachine vm = VirtualMachine.attach(pid);
    JMXConnector connector = null;
    try {
      String addr = "com.sun.management.jmxremote.localConnectorAddress";
      String property= vm.getAgentProperties().getProperty(addr);
      if (property == null) {
        String agent = vm.getSystemProperties().getProperty("java.home")
            + File.separator
            + "lib"
            + File.separator
            + "management-agent.jar";
        vm.loadAgent(agent);
        property = vm.getAgentProperties().getProperty(addr);
      }

      JMXServiceURL url = new JMXServiceURL(property);
      connector = JMXConnectorFactory.connect(url);
      MBeanServerConnection mbeanConn = connector.getMBeanServerConnection();
      ObjectName obj = new ObjectName("java.lang:type=MemoryPool,name=Code Cache");
      return mbeanConn.getAttribute(obj, "Usage").toString();
    } finally {
      if(connector != null) {
        connector.close();
      }
      vm.detach();
    }
  }
}

运行后可以查看contents结果

contents={committed=2555904, init=2555904, max=251658240, used=2395648}

可以看到我本地的codeCahe配置，初始化是2555904，最大为251658240，已使用2395648

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持易盾网络。