摘要: 一、概念不同:声母是从分析音节性质的角度提出来的,辅音是从分析音素性质的角度提出来的。 二、范围不同:辅音有22个,声母总数也有22个,但是声母总数是由21个辅音声母+1个零声母组合而成的。声母(除零声母外)都是辅音,而辅音不一定是声母,如辅音ng在任何情况下都不能充当声母。 三、出现位置不同:声母 阅读全文
posted @ 2022-07-01 20:26 Nefelibata- 阅读(1981) 评论(0) 推荐(0) 编辑
摘要: 综合练习:学生课程分数 网盘下载sc.txt文件,分别创建RDD、DataFrame和临时表/视图; 分别用RDD操作、DataFrame操作和spark.sql执行SQL语句实现以下数据分析: 总共有多少学生? 总共开设了多少门课程? 每个学生选修了多少门课? 每门课程有多少个学生选? 每门课程> 阅读全文
posted @ 2022-05-18 15:31 Nefelibata- 阅读(147) 评论(0) 推荐(0) 编辑
摘要: 1.分析SparkSQL出现的原因,并简述SparkSQL的起源与发展。 SparkSQL出现是因为关系数据库已经不能满足各种在大数据时代新增的用户需求。首先,用户需要在不同的结构化和非结构化数据中执行各种操作。其次,用户需要执行像机器学习和图像处理等等高级分析,在实际应用中,也经常需要融合关系查询 阅读全文
posted @ 2022-05-11 10:37 Nefelibata- 阅读(26) 评论(0) 推荐(0) 编辑
摘要: 集合运算练习 union(), intersection(),subtract(), cartesian() 内连接与外连接 join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin() 多个考勤文件,签到日期汇总,出勤次数统计 三、综合练习: 阅读全文
posted @ 2022-04-19 14:14 Nefelibata- 阅读(22) 评论(0) 推荐(0) 编辑
摘要: 一、词频统计 A. 分步骤实现 1.准备文件 (1)下载小说或长篇新闻稿 (2)上传到hdfs上 2.读文件创建RDD 3.分词 4. ·排除大小写lower(),map() ·标点符号re.split(pattern,str),flatMap(), ·停用词,可网盘下载stopwords.txt, 阅读全文
posted @ 2022-04-04 12:08 Nefelibata- 阅读(57) 评论(0) 推荐(0) 编辑
摘要: 一、 RDD创建 1.从本地文件系统中加载数据创建RDD 2.从HDFS加载数据创建RDD 启动hdfs 上传文件 查看文件 加载 停止hdfs 3.通过并行集合(列表)创建RDD 输入列表、字符串、numpy生成数组 二、 RDD操作 转换操作 1.map(func)显式定义函数 lambda函数 阅读全文
posted @ 2022-03-19 13:14 Nefelibata- 阅读(35) 评论(0) 推荐(0) 编辑
摘要: 今天在使用vscode编译程序时,启动Python服务出现以下错误: 通过网络查找资料可以得知,是由于个人用户名非英文而导致,但是网上并没有说清楚是哪里的名字,以至于很多人会以为是以下地方: 实际上真实的用户名姓名位于此电脑(Ctrl+E可打开)→空白处右键→属性 完成修改后重启电脑,便可以正常跑起 阅读全文
posted @ 2022-03-18 00:05 Nefelibata- 阅读(748) 评论(0) 推荐(0) 编辑
摘要: 1.Spark已打造出结构一体化、功能多样化的大数据生态系统,请用图文阐述Spark生态系统的组成及各组件的功能。 组件介绍1 . Spark Core:Spark的核心组件,其操作的数据对象是RDD(弹性分布式数据集),图中在Spark Core上面的四个组件都依赖于Spark Core,可以简单 阅读全文
posted @ 2022-03-12 09:37 Nefelibata- 阅读(32) 评论(0) 推荐(0) 编辑
摘要: 一、安装Spark 1.检查基础环境hadoop,jdk(已提前完成) 2.下载spark(已提前完成) 3.解压,文件夹重命名、权限(已提前完成) 4.配置文件 5.环境变量 6.试运行Python代码 二、Python编程练习:英文文本的词频统计 1.准备文本文件 2.读文件 txt = ope 阅读全文
posted @ 2022-03-09 09:04 Nefelibata- 阅读(27) 评论(0) 推荐(0) 编辑
摘要: 迅雷11现在的更新机制可以说是相当流氓,只要检测到有版本更新就会强制更新,你不给他更新就不给用,吃相是相当难看。 在百度了一堆没啥用的回答后,找到了解决方法,现分享出来 1.确保你的计算机没有打开任何与迅雷有关的进程(可以在任务管理器的进程中查看有无进程名字开头为Thunder的进程) 相当重要!! 阅读全文
posted @ 2022-02-24 00:08 Nefelibata- 阅读(1044) 评论(0) 推荐(0) 编辑