摘要: 之前记录Yarn:Hadoop2.0之YARN组件,这次使用Docker搭建Spark On Yarn 一、各运行模式 1、单机模式 该模式被称为Local[N]模式,是用单机的多个线程来模拟Spark分布式计算,通常用来验证开发出来的应用程序逻辑上没有问题。其中N代表可以使用N个线程,每个线程拥有 阅读全文
posted @ 2020-02-07 16:05 coder、 阅读(2225) 评论(1) 推荐(0) 编辑
摘要: 官方文档:https://hadoop.apache.org/docs/stable/,目前官方已经是3.x,但yarn机制没有太大变化 一、简介 在Hadoop1.0中,没有yarn,所有的任务调度和资源管理都是MapReduce自己来做,所以在Hadoop1.0中,最核心的节点是JobTrack 阅读全文
posted @ 2020-02-07 15:38 coder、 阅读(746) 评论(0) 推荐(0) 编辑