• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
 






zhangmingmkzj

 
 

Powered by 博客园
博客园 | 首页 | 新随笔 | 联系 | 订阅 订阅 | 管理

2024年1月18日

1.18学习进度
摘要: 1.local模式基本原理 本质:启动一个JVM Process进程(一个进程里面有多个线程),执行任务task local模式可以限制模拟spark集群环境的线程数量,即local[N]或local[*] 其中N代表可以使用N个线程,如果不指定N,默认是1个线程 如果是local[*], 则代表R 阅读全文
posted @ 2024-01-18 13:55 zhangmingmingkjz 阅读(6) 评论(0) 推荐(0)
 
1.17学习进度
摘要: 资源管理层面:1.集群资源管理者(master):ResourceManager2.单机资源管理者(worker):NodeManager任务计算层面:单任务管理者(master):ApplicationMaster单任务执行者(worker):Task(容器内计算款家的角色)spark运行角色资源 阅读全文
posted @ 2024-01-18 13:54 zhangmingmingkjz 阅读(15) 评论(0) 推荐(0)