Разговор о кеше кода JVM

Java

последовательность

В этой статье в основном изучается кэш кода jvm.

Code Cache

Пространство памяти, в котором хранится собственный код, сгенерированный JVM, называется Кэш кода; JIT-компиляция, JNI и т. д. компилируют код в собственный код, а собственный код, сгенерированный JIT, занимает большую часть пространства в коде. Кэш

Связанные параметры

Codecache Size Options

  • -XX:InitialCodeCacheSize

Используется для установки начального размера CodeCache.

  • -XX:ReservedCodeCacheSize

Используется для установки максимального размера кэша зарезервированного кода, обычно значение по умолчанию — 240 МБ.

  • -XX:CodeCacheExpansionSize

Используется для установки размера расширения кэша кода, обычно значение по умолчанию — 64 КБ.

Codecache Flush Options

  • -XX:+UseCodeCacheFlushing

Пытаться ли его очистить при заполнении кеша кода, если его все равно не хватает, то закрыть компиляцию, по умолчанию включено

Compilation Policy Options

  • -XX:CompileThreshold

Количество вызовов, когда метод запускает компиляцию, по умолчанию 10000.

  • -XX:OnStackReplacePercentage

Количество выполнений части кода выполнения цикла в методе запускает порог для компиляции OSR, по умолчанию 140

Compilation Limit Options

  • -XX:MaxInlineLevel

Максимальная глубина встраивания для вложенных вызовов, по умолчанию 9

  • -XX:MaxInlineSize

Максимальный размер байт-кода, который может быть встроен в метод, по умолчанию равен 35.

  • -XX:MinInliningThreshold

Минимальное количество вызовов метода, которое может быть встроено, по умолчанию 250.

  • -XX:+InlineSynchronizedMethods

Разрешить ли встроенные синхронизированные методы, значение по умолчанию — true.

Diagnostic Options

  • -XX:+PrintFlagsFinal(默认没有启用)

Используется для просмотра всех устанавливаемых параметров и окончательных значений (JDK 6 update 21开始才可以用), по умолчанию диагностические или экспериментальные системы не включаются. Если вы хотите видеть информацию об этих двух параметрах в выводе -XX:+PrintFlagsFinal, вам необходимо явно указать -XX:+UnlockDiagnosticVMOptions / -XX:+UnlockExperimentalVMOptions(-XX:+PrintCommandLineFlags 这个参数的作用是显示出VM初始化完毕后所有跟最初的默认值不同的参数及它们的值)

  • -XX:+PrintCodeCache(默认没有启用)

-XX:+PrintCodeCache используется для вывода использования кеша кода, когда jvm закрыт

  • -XX:+PrintCodeCacheOnCompilation(默认没有启用)

Используется для вывода использования кэша кода каждый раз при компиляции метода.

Просмотр использования кэша кода

-XX:+PrintCodeCache

CodeHeap 'non-profiled nmethods': size=120032Kb used=2154Kb max_used=2160Kb free=117877Kb
 bounds [0x00000001178ea000, 0x0000000117b5a000, 0x000000011ee22000]
CodeHeap 'profiled nmethods': size=120028Kb used=10849Kb max_used=11005Kb free=109178Kb
 bounds [0x00000001103b3000, 0x0000000110e73000, 0x00000001178ea000]
CodeHeap 'non-nmethods': size=5700Kb used=1177Kb max_used=1239Kb free=4522Kb
 bounds [0x000000010fe22000, 0x0000000110092000, 0x00000001103b3000]
 total_blobs=5638 nmethods=4183 adapters=435
 compilation: enabled
              stopped_count=0, restarted_count=0
 full_count=0
  • параметры запуска jvm плюс -XX:+PrintCodeCache, можно отключить при использовании кеша вывода кода в jvm
  • Он разделен на три части: непрофилированные n-методы, профилированные n-методы и не-n-методы для демонстрации
  • Где size – это максимальный размер лимита, used – фактическое использование, max_used – максимальное значение используемого размера, а free – производное от size-used.

jcmd pid Compiler.codecache

/ # jcmd 1 Compiler.codecache
1:
CodeHeap 'non-profiled nmethods': size=120036Kb used=1582Kb max_used=1582Kb free=118453Kb
 bounds [0x00007f1e42226000, 0x00007f1e42496000, 0x00007f1e4975f000]
CodeHeap 'profiled nmethods': size=120032Kb used=9621Kb max_used=9621Kb free=110410Kb
 bounds [0x00007f1e3acee000, 0x00007f1e3b65e000, 0x00007f1e42226000]
CodeHeap 'non-nmethods': size=5692Kb used=1150Kb max_used=1198Kb free=4541Kb
 bounds [0x00007f1e3a75f000, 0x00007f1e3a9cf000, 0x00007f1e3acee000]
 total_blobs=5610 nmethods=4369 adapters=412
 compilation: enabled
              stopped_count=0, restarted_count=0
 full_count=0

Используйте Compiler.codecache jcmd для просмотра использования кеша кода, вывод такой же, как -XX:+PrintCodeCache

jcmd pid VM.native_memory

/ # jcmd 1 VM.native_memory
1:

Native Memory Tracking:

Total: reserved=1928023KB, committed=231182KB
-                 Java Heap (reserved=511488KB, committed=140288KB)
                            (mmap: reserved=511488KB, committed=140288KB)

-                     Class (reserved=1090832KB, committed=46608KB)
                            (classes #8218)
                            (  instance classes #7678, array classes #540)
                            (malloc=1296KB #19778)
                            (mmap: reserved=1089536KB, committed=45312KB)
                            (  Metadata:   )
                            (    reserved=40960KB, committed=39680KB)
                            (    used=38821KB)
                            (    free=859KB)
                            (    waste=0KB =0.00%)
                            (  Class space:)
                            (    reserved=1048576KB, committed=5632KB)
                            (    used=5190KB)
                            (    free=442KB)
                            (    waste=0KB =0.00%)

-                    Thread (reserved=37130KB, committed=2806KB)
                            (thread #36)
                            (stack: reserved=36961KB, committed=2636KB)
                            (malloc=127KB #189)
                            (arena=42KB #70)

-                      Code (reserved=248651KB, committed=15351KB)
                            (malloc=963KB #4600)
                            (mmap: reserved=247688KB, committed=14388KB)

-                        GC (reserved=21403KB, committed=7611KB)
                            (malloc=5419KB #9458)
                            (mmap: reserved=15984KB, committed=2192KB)

-                  Compiler (reserved=150KB, committed=150KB)
                            (malloc=20KB #447)
                            (arena=131KB #5)

-                  Internal (reserved=3744KB, committed=3744KB)
                            (malloc=1696KB #6416)
                            (mmap: reserved=2048KB, committed=2048KB)

-                     Other (reserved=24KB, committed=24KB)
                            (malloc=24KB #2)

-                    Symbol (reserved=10094KB, committed=10094KB)
                            (malloc=7305KB #219914)
                            (arena=2789KB #1)

-    Native Memory Tracking (reserved=4130KB, committed=4130KB)
                            (malloc=12KB #158)
                            (tracking overhead=4119KB)

-               Arena Chunk (reserved=177KB, committed=177KB)
                            (malloc=177KB)

-                   Logging (reserved=7KB, committed=7KB)
                            (malloc=7KB #264)

-                 Arguments (reserved=18KB, committed=18KB)
                            (malloc=18KB #500)

-                    Module (reserved=165KB, committed=165KB)
                            (malloc=165KB #1699)

-                 Safepoint (reserved=4KB, committed=4KB)
                            (mmap: reserved=4KB, committed=4KB)

-                   Unknown (reserved=4KB, committed=4KB)
                            (mmap: reserved=4KB, committed=4KB)

Используйте jcmd VM.native_memory для просмотра использования кеша кода (Code部分), часть Compiler — это отслеживание памяти, используемое компилятором при генерации кода.

Просмотр с помощью MemoryPoolMXBean

    @Test
    public void testGetCodeCacheUsage(){
        ManagementFactory.getPlatformMXBeans(MemoryPoolMXBean.class)
                .stream()
                .filter(e -> MemoryType.NON_HEAP == e.getType())
                .filter(e -> e.getName().startsWith("CodeHeap"))
                .forEach(e -> {
                    LOGGER.info("name:{},info:{}",e.getName(),e.getUsage());
                });
    }

MemoryPoolmxbean содержит кучу и non_heap, где кэш кода принадлежит Non_Heap, а выход следующим образом:

12:21:10.728 [main] INFO com.example.CodeCacheTest - name:CodeHeap 'non-nmethods',info:init = 2555904(2496K) used = 1117696(1091K) committed = 2555904(2496K) max = 5836800(5700K)
12:21:10.743 [main] INFO com.example.CodeCacheTest - name:CodeHeap 'profiled nmethods',info:init = 2555904(2496K) used = 1543808(1507K) committed = 2555904(2496K) max = 122908672(120028K)
12:21:10.743 [main] INFO com.example.CodeCacheTest - name:CodeHeap 'non-profiled nmethods',info:init = 2555904(2496K) used = 319616(312K) committed = 2555904(2496K) max = 122912768(120032K)

приложение Spring Boot Посмотреть

/ # curl -i "http://localhost:8080/actuator/metrics/jvm.memory.used?tag=area:nonheap"
HTTP/1.1 200
Content-Disposition: inline;filename=f.txt
Content-Type: application/vnd.spring-boot.actuator.v2+json;charset=UTF-8
Transfer-Encoding: chunked
Date: Sat, 30 Mar 2019 04:26:39 GMT

{"name":"jvm.memory.used","description":"The amount of used memory","baseUnit":"bytes","measurements":[{"statistic":"VALUE","value":6.5295408E7}],"availableTags":[{"tag":"id","values":["CodeHeap 'non-profiled nmethods'","CodeHeap 'profiled nmethods'","Compressed Class Space","Metaspace","CodeHeap 'non-nmethods'"]}]}

/ # curl -i "http://localhost:8080/actuator/metrics/jvm.memory.used?tag=area:nonheap&tag=id:CodeHeap%20%27non-profiled
%20nmethods%27"
HTTP/1.1 200
Content-Disposition: inline;filename=f.txt
Content-Type: application/vnd.spring-boot.actuator.v2+json;charset=UTF-8
Transfer-Encoding: chunked
Date: Sat, 30 Mar 2019 04:24:58 GMT

{"name":"jvm.memory.used","description":"The amount of used memory","baseUnit":"bytes","measurements":[{"statistic":"VALUE","value":1592448.0}],"availableTags":[]}

Springboot использует микрометр для предоставления соответствующих функций запроса индикатора через интерфейс /actuator/metrics, где кеш кода находится в метрике jvm.memory.used. Он реализован на основе MemoryPoolMXBean, подробности см. в micrometer-core-1.1.3-sources.jar!/io/micrometer/core/instrument/binder/jvm/JvmMemoryMetrics.java

резюме

  • Пространство памяти, в котором хранится собственный код, сгенерированный JVM, называется Кэш кода; JIT-компиляция, JNI и т. д. компилируют код в собственный код, а собственный код, сгенерированный JIT, занимает большую часть пространства в коде. Кэш
  • -XX:ReservedCodeCacheSize используется для установки максимального размера кэша зарезервированного кода, обычно значение по умолчанию равно 240M, для некоторых приложений 240M может быть слишком большим, и кэш кода может не заполняться, что эквивалентно неограниченному. время, JIT будет продолжать компилировать любой код, который, по его мнению, может быть скомпилирован.
  • Существует несколько способов просмотра использования памяти Code Cache:
    • Параметр запуска jvm плюс -XX:+PrintCodeCache может вывести использование кеша кода, когда jvm закрыт
    • При использовании Compiler.codecache jcmd вывод будет таким же, как -XX:+PrintCodeCache;
    • Используйте jcmd VM.native_memory для просмотра использования кеша кода (Code部分)
    • Используйте JMX, чтобы получить MemoryPoolMXBean, имя которого начинается с CodeHeap в типе NON_HEAP, чтобы получить использование кеша кода.
    • Если это приложение Springboot, оно использует микрометр для предоставления соответствующих функций запроса индикатора через интерфейс /actuator/metrics, где кеш кода находится в метрике jvm.memory.used.

doc