摘要: 由于yarn默认容器资源为最小核心数,即一个cpu, 所以我们要根据并行度去调整分配的cpu资源 程序如下:指定并行度为5,指定每个TM的slot数为2 -p 5 \ -Dtaskmanager.numberOfTaskSlots=2 \ 所以虽然配置了2个slot(并发度为2),但是两个task不 阅读全文
posted @ 2022-03-31 21:23 肥仔佳文猪 阅读(1805) 评论(0) 推荐(1)
摘要: 任务提交时的一些yarn设置(通用客户端模式) 指定并行度 -p 5 \ 指定yarn队列 -Dyarn.application.queue=xxx \ 指定JM总进程的大小 -Djobmanager.memory.process.size=1024mb \ 指定每个TM的总进程大小,一般是 2-8 阅读全文
posted @ 2022-03-31 20:36 肥仔佳文猪 阅读(2099) 评论(0) 推荐(0)