JVM 如何获取当前容器的资源限制?

作者:卜比

最近同事说到 Java 的ParallelGCThreads 参数,我翻了下 jdk8 的代码,发现  ParallelGCThreads 的参数默认值如下:

  • 如果 cpu 核心数目少于等于 8,则 GC 线程数量和 CPU 数一致
  • 如果 cpu 核心数大于 8,则前 8 个核,每个核心对应一个 GC 线;其他核,每 8 个核对应 5 个 GC 线程

但是被提醒,发现即使在分配 4 核的容器上,GC 线程数也为 38。然后就想到应该和容器的资源限制有关—— jvm 可能无法觉察到当前容器的资源限制。

翻了下代码,发现最新版本的 java 是能感知容器的资源限制的,就按照jdk版本再翻了下代码。

线上的 jdk(jdk8u144)

写一个 sleep 1000s 的程序,用于查看 JVM 的线程数量:

./jdk1.8.0_144/bin/java -XX:+UseG1GC -XX:+ParallelRefProcEnabled Main

然后查看 GC 线程数目:

$ jstack $pid | grep 'Parallel GC Threads' | wc -l
38

一算就知道物理机器有 56 个核心(8+(56-8)*5/8=38)

然后使用 +PrintFlagsFinal 看下参数:

$ ./jdk1.8.0_144/bin/java -XX:+UnlockDiagnosticVMOptions -XX:+PrintFlagsFinal  -version | grep ParallelGCThreads
uintx ParallelGCThreads          =38                     {product}

看来 jdk8u144 并无法读取容器配额。

jdk 8u191

然后发现,从 jdk 8u191 版本开始,Java 就可以读取容器配额了。运行同样的程序:

./jre1.8.0_191/bin/java -XX:+UseG1GC -XX:+ParallelRefProcEnabled Main

$ jstack $pid | grep 'Parallel GC Threads' | wc -l
4

查看实际参数:

$ ./jre1.8.0_191/bin/java -XX:+UnlockDiagnosticVMOptions -XX:+PrintFlagsFinal  -version | grep ParallelGCThreads
uintx ParallelGCThreads         =4                   {product}

另外,jdk 8u191 引入了 PrintContainerInfo 参数:

$ ./jre1.8.0_191/bin/java -XX:+UnlockDiagnosticVMOptions -XX:+PrintContainerInfo -version
OSContainer::init: Initializing Container Support
Path to /memory.limit_in_bytes is /sys/fs/cgroup/memory/memory.limit_in_bytes
Memory Limit is: 10737418240
Path to /cpu.cfs_quota_us is /sys/fs/cgroup/cpu,cpuacct/cpu.cfs_quota_us
CPU Quota is: 400000
Path to /cpu.cfs_period_us is /sys/fs/cgroup/cpu,cpuacct/cpu.cfs_period_us
CPU Period is: 100000
Path to /cpu.shares is /sys/fs/cgroup/cpu,cpuacct/cpu.shares
CPU Shares is: 681
CPU Quota count based on quota/period: 4
CPU Share count based on shares: 1
OSContainer::active_processor_count: 4
Path to /cpu.cfs_quota_us is /sys/fs/cgroup/cpu,cpuacct/cpu.cfs_quota_us
CPU Quota is: 400000
Path to /cpu.cfs_period_us is /sys/fs/cgroup/cpu,cpuacct/cpu.cfs_period_us
CPU Period is: 100000
Path to /cpu.shares is /sys/fs/cgroup/cpu,cpuacct/cpu.shares
CPU Shares is: 681
CPU Quota count based on quota/period: 4
CPU Share count based on shares: 1
OSContainer::active_processor_count: 4
……
java version "1.8.0_191"
Java(TM) SE Runtime Environment (build 1.8.0_191-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.191-b12, mixed mode)

可以看到,获取的内存限制、可用 CPU 数目都是对的了。

如何获取容器资源配额

结合这个日志和代码,我们也可以看到如何获取容器配额;

首先从 /proc/self/mounts 中读取对应的资源的 mount 位置

比如 cpu 就是在 / sys/fs/cgroup/cpu,cpuacct:

$ cat /proc/mounts  | grep -E -w '(cpu|memory)'
cgroup /sys/fs/cgroup/memory cgroup ro,nosuid,nodev,noexec,relatime,memory 0 0
cgroup /sys/fs/cgroup/cpu,cpuacct cgroup ro,nosuid,nodev,noexec,relatime,cpu,cpuacct 0 0

对于内存:

$ cat /sys/fs/cgroup/memory/memory.limit_in_bytes
10737418240

对于 cpu 资源:

其一,可以通过 quota/period 来算:

$ cat /sys/fs/cgroup/cpu,cpuacct/cpu.cfs_period_us #单CPU总时间片配额,微秒 
100000
$ cat /sys/fs/cgroup/cpu,cpuacct/cpu.cfs_quota_us #时间片内,容器可占用的CPU时间
400000

比如上面就表示分配了 4 核。

也可以通过 cpu.shares 来获取:

$ cat /sys/fs/cgroup/cpu,cpuacct/cpu.shares
681

不过这个值是 cpu 占用份额,无法根据这个算出来可用 cpu 数量,所以基本没用。

总结

使用 jdk 8u191 或更新版本就完事了。

点击此处查看微服务引擎产品

posted @ 2023-02-06 18:17  阿里巴巴中间件  阅读(33)  评论(0编辑  收藏  举报