2022年6月7日
摘要: 总共有多少学生? 总共开设了多少门课程? 每个学生选修了多少门课? 每门课程有多少个学生选? 每门课程>95分的学生人数 课程'Python'有多少个100分? Tom不及格的课程数? Tom的成绩按分数大小排序。 Tom选修了哪几门课? Tom的平均分。 'OperatingSystem'不及格人 阅读全文
posted @ 2022-06-07 15:20 桃花雨诺 阅读(18) 评论(0) 推荐(0) 编辑
  2022年5月10日
摘要: 1.分析SparkSQL出现的原因,并简述SparkSQL的起源与发展。 ->SparkSQL的前身Shark对于Hive的太多依赖(如采用Hive的语法解析器、查询优化器等等),制约了Spark的One Stack Rule Them All的既定方针,制约了Spark各个组件的相互集成,所以提出 阅读全文
posted @ 2022-05-10 19:21 桃花雨诺 阅读(5) 评论(0) 推荐(0) 编辑
  2022年4月20日
摘要: 集合运算练习 union(), intersection(),subtract(), cartesian() 三、学生课程分数 网盘下载sc.txt文件,通过RDD操作实现以下数据分析: 持久化 scm.cache() 总共有多少学生?map(), distinct(), count() 开设了多少 阅读全文
posted @ 2022-04-20 16:39 桃花雨诺 阅读(24) 评论(0) 推荐(0) 编辑
  2022年4月4日
摘要: 一、词频统计 A. 分步骤实现 准备文件 下载小说或长篇新闻稿 上传到hdfs上 读文件创建RDD 分词 排除大小写lower(),map()标点符号re.split(pattern,str),flatMap(),停用词,可网盘下载stopwords.txt,filter(),长度小于2的词filt 阅读全文
posted @ 2022-04-04 14:29 桃花雨诺 阅读(6) 评论(0) 推荐(0) 编辑
  2022年3月22日
摘要: 一、 RDD创建 从本地文件系统中加载数据创建RDD 从HDFS加载数据创建RDD启动hdfs上传文件查看文件加载停止hdfs 通过并行集合(列表)创建RDD输入列表、字符串、生成数组 二、 RDD操作 转换操作 map(func)显式定义函数lambda函数 行动操作 foreach(print) 阅读全文
posted @ 2022-03-22 15:16 桃花雨诺 阅读(6) 评论(0) 推荐(0) 编辑
  2022年3月13日
摘要: 1.Spark已打造出结构一体化、功能多样化的大数据生态系统,请用图文阐述Spark生态系统的组成及各组件的功能。 Spark的生态系统主要包含如下: Spark Core:Spark Core包含Spark最基础和最核心的功能,如内存计算、任务调度、部署模式、故障恢复、存储管理等,主要面向批数据处 阅读全文
posted @ 2022-03-13 14:32 桃花雨诺 阅读(19) 评论(0) 推荐(0) 编辑
  2022年3月7日
摘要: 一、安装Spark 检查基础环境hadoop,jdk 下载spark 解压,文件夹重命名、权限 配置文件 环境变量 试运行Python代码 二、Python编程练习:英文文本的词频统计 准备文本文件 读文件 预处理:大小写,标点符号,停用词 分词 统计每个单词出现的次数 按词频大小排序 结果写文件 阅读全文
posted @ 2022-03-07 13:52 桃花雨诺 阅读(11) 评论(0) 推荐(0) 编辑
  2022年2月23日
摘要: 列举Hadoop生态的各个组件及其功能、以及各个组件之间的相互关系,以图呈现并加以文字描述。 Hadoop生态组件包括:HDFS、HBASE、Mapreduce、hive、pig、Sqoop、Flume、Ambari等功能组件。 2.对比Hadoop与Spark的优缺点 (1)Spark对标于Had 阅读全文
posted @ 2022-02-23 10:53 桃花雨诺 阅读(22) 评论(0) 推荐(0) 编辑