1月24总结

今日了解了local模式原理

本质:启动一个JVM Process进程(一个进程里面有多个线程),执行任务Task
 Local模式可以限制模拟Spark集群环境的线程数量, 即Local[N] 或 Local[*]
 其中N代表可以使用N个线程,每个线程拥有一个cpu core。如果不指定N,
则默认是1个线程(该线程有1个core)。 通常Cpu有几个Core,就指定几个
线程,最大化利用计算能力.
local[*],则代表 Run Spark locally with as many worker threads as
logical cores on your machine.按照Cpu最多的Cores设置线程数
posted @ 2024-01-24 19:36  樱花开到我身边  阅读(9)  评论(0)    收藏  举报