• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
leo130-blogs
博客园    首页    新随笔    联系   管理    订阅  订阅

CDH调优:修改yarn的容器最大可分配资源

在yarn的web端,可见其单容器最大可分配的内存大小和核心大小。在部署时,默认其为4096MB内存和2个虚拟核心。

在实际生产环境中,会有服务器配备的核心数量远远大于日常任务调度中实际使用到的核心数量,为了提供任务的运行效率,可以适当提高容器的最大可分配虚拟核心数量,以提高任务的运行效率。

具体操作步骤:

1、进入CDH的YARN配置界面

搜索:

yarn.scheduler.maximum-allocation-vcores

2、填写最大虚拟内核参数

在最大容器虚拟CPU内核数量处填写对应的内存数量,此处默认是4。

3、在YARN配置界面查询修改最大可分配内存

搜索:

yarn.scheduler.maximum-allocation-mb

4、填写最大容器内存参数

在最大容器内存处填写对应的内存数量,此处默认是4G,即4096MB。

4、保存、重启YARN,并查看yarn的web端。

发现对应的配置已修改。

5、后续补充

关于YARN参数的配置可参照:

https://yijiyong.com/dp/yarnopt/01-basicparamopt.html

posted @ 2025-03-25 15:19  Sanchez023  阅读(92)  评论(0)    收藏  举报
刷新页面返回顶部
博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3