04 2022 档案
7.Spark SQL
摘要:1.请分析SparkSQL出现的原因,并简述SparkSQL的起源与发展。 Hadoop刚开始出来的时候,使用的是hadoop自带的分布式计算系统MapReduce,但是MapReduce的使用难度较大,所以就开发了Hive,Hive编程用的是类SQL的HQL的语句,这样编程的难度就大大的降低了,H 阅读全文
posted @ 2022-04-29 16:06 林华博 阅读(58) 评论(0) 推荐(0)
6. RDD综合练习:更丰富的操作
摘要:集合运算练习 union(),intersection(),subtract(), cartesian() 内连接与外连接 join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin() 多个考勤文件,签到日期汇总,出勤次数统计 综合练习:学生课 阅读全文
posted @ 2022-04-20 13:14 林华博 阅读(35) 评论(0) 推荐(0)
5.RDD操作综合实例
摘要:一、词频统计 A. 分步骤实现 1.准备文件 1.下载小说或长篇新闻稿 2.上传到hdfs上 2.读文件创建RDD 3.分词 4.排除大小写lower(),map() 标点符号re.split(pattern,str),flatMap(), 停用词,可网盘下载stopwords.txt,filter 阅读全文
posted @ 2022-04-01 19:27 林华博 阅读(32) 评论(0) 推荐(0)