Yarn 资源调度器之生产环境核心参数

Yarn 资源调度器之生产环境核心参数

ResourceManager 相关

yarn.resourcemanager.scheduler.class 配置调度器，默认容量

yarn.resourcemanager.scheduler.client.thread-count ResourceManager 处理调度器请求的核心线程数量，默认 50

NodeManager 相关

yarn.nodemanager.resource.detect-hardware-capability 是否让 yarn 自己检测硬件进行配置 默认 False

yarn.nodemanager.resource.count-logical-processors-as-cores 是否将虚拟核数当作 CPU 核数，默认 false

yarn.nodemanager.resource.pcores-vcores-multiplier 虚拟核数和物理核数乘数，例如

:4 核 8 线程，该参数就应设为 2，默认 1.0

yarn-nodemanager.resource.memory-mb NodeManager 使用内存，默认 8G

yarn-nodemanager.resource.system-reserved-memory-mb NodeManager 为系统保留多少内存

以上两个参数配置一个即可

yarn.nodemanager.resource.cpu-vcores NodeManager 使用 CPU 核数，默认 8 个

yarn.nodemanager.pmem-check-enable 是否开启物理内存检查限制 container，默认打开

yarn.nodemanager.vmem-check-enable 是否开启虚拟内存检查限制 container，默认打开

yarn.nodemanager.vmem-pmem-ratio 虚拟内存物理内存比例，默认 2.1

Container 相关

yarn.scheduler.minimum-allocation-mb 容器最小内存，默认 1G

yarn.scheduler.maximum-allocation-mb 容器最大内存，默认 8G

yarn.scheduler.minimum-allocation-vcores 容器最小 CPU 核数，默认 1 个

yarn.scheduler.maximum-allocation-vcores 容器最大 CPU 核数，默认 4 个