摘要:
根据业务需求,需要对pyspark内存资源进行限制 本文使用的环境为pyspark 3.1.2,standalone模式 不足之处还请指出 pyspark进程说明 首先我们需要知道对pyspark进行内存限制,是限制哪部分的内存。 先看一下执行pyspark任务需要启动哪些进程 pyspark与原版 阅读全文
posted @ 2022-04-06 16:37 Antel 阅读(1099) 评论(0) 推荐(0)
|
摘要:
根据业务需求,需要对pyspark内存资源进行限制 本文使用的环境为pyspark 3.1.2,standalone模式 不足之处还请指出 pyspark进程说明 首先我们需要知道对pyspark进行内存限制,是限制哪部分的内存。 先看一下执行pyspark任务需要启动哪些进程 pyspark与原版 阅读全文
posted @ 2022-04-06 16:37 Antel 阅读(1099) 评论(0) 推荐(0) |
||