随笔分类 -  Spark

摘要:spark 2.3.1 scala 2.11 flink 1.9.2 阅读全文
posted @ 2020-04-15 10:27 SteveYu 阅读(3023) 评论(0) 推荐(0)
摘要:Spark(三)角色和搭建 [TOC] 一、Spark集群角色介绍 详见 "JerryLead" / "SparkInternals" ,他的图解介绍能清晰的讲清楚Spark集群 二、集群的搭建 2.1.架构(图片来源,Spark官网) 一个Driver Program含有一个SparkContex 阅读全文
posted @ 2019-11-05 09:55 SteveYu 阅读(305) 评论(0) 推荐(0)
摘要:Spark(二)算子讲解 @[toc] 一、wordcountcount 基于上次的wordcount,我们来写一个wordcountcount,来对wc程序进行第二次计数,我们来分析一下性能。 通过性能图,我们可以知道: 1.Spark如果不对其结果进行存储或输出,那么Spark将不会处理map或 阅读全文
posted @ 2019-10-28 14:04 SteveYu 阅读(626) 评论(0) 推荐(0)
摘要:Spark(一)wordcount 一、新建一个scala项目 在maven中导入 编写Scala文件 执行结果 Java版本的 运行结果: scala精简代码 阅读全文
posted @ 2019-10-10 18:32 SteveYu 阅读(373) 评论(0) 推荐(0)