摘要: 补交缘由:不好意思老师,交实验七那段时间刚好要考软考,平时都在复习就把提交时间错过了,作业之前先做好了的但是这软考这段时间忘记提交了 1.分析SparkSQL出现的原因,并简述SparkSQL的起源与发展。 Spark SQL是Spark用来处理结构化数据的一个模块,它提供了一个叫作Data Fra 阅读全文
posted @ 2022-06-01 10:40 辜枫畅 阅读(46) 评论(0) 推荐(0) 编辑
摘要: 三、学生课程分数 网盘下载sc.txt文件,通过RDD操作实现以下数据分析: 持久化 scm.cache() 总共有多少学生?map(), distinct(), count() 开设了多少门课程? 生成(姓名,课程分数)键值对RDD,观察keys(),values() 每个学生选修了多少门课?ma 阅读全文
posted @ 2022-04-13 17:43 辜枫畅 阅读(41) 评论(0) 推荐(0) 编辑
摘要: 一、词频统计 A. 分步骤实现 准备文件 下载小说或长篇新闻稿 上传到hdfs上 读文件创建RDD 分词 排除大小写lower(),map()标点符号re.split(pattern,str),flatMap(),停用词,可网盘下载stopwords.txt,filter(),长度小于2的词filt 阅读全文
posted @ 2022-03-30 11:35 辜枫畅 阅读(23) 评论(0) 推荐(0) 编辑
摘要: 一、 RDD创建 从本地文件系统中加载数据创建RDD 从HDFS加载数据创建RDD启动hdfs上传文件查看文件加载停止hdfs 通过并行集合(列表)创建RDD输入列表、字符串、生成数组 二、 RDD操作 转换操作 filter(func)显式定义函数lambda函数 map(func)显式定义函数l 阅读全文
posted @ 2022-03-23 10:57 辜枫畅 阅读(36) 评论(0) 推荐(0) 编辑
摘要: 1.Spark已打造出结构一体化、功能多样化的大数据生态系统,请用图文阐述Spark生态系统的组成及各组件的功能。 Spark的设计遵循“一个软件栈满足不同应用场景”的理念,逐渐形成一套完整生态系统,既能够提供内存计算框架,也可以支持SQL即席查询、实时流式计算、机器学习和图计算等。Spark可以部 阅读全文
posted @ 2022-03-09 11:17 辜枫畅 阅读(90) 评论(0) 推荐(0) 编辑
摘要: 一、安装Spark 检查基础环境hadoop,jdk 2.配置文件 3.环境变量 4.试运行Python代码 二、Python编程练习:英文文本的词频统计 1、准备文本文件 2、读文件、预处理、分词、统计每个单词出现的次数、按词频大小排序 3、结果写文件 阅读全文
posted @ 2022-03-02 16:10 辜枫畅 阅读(42) 评论(0) 推荐(0) 编辑
摘要: 1.列举Hadoop生态的各个组件及其功能、以及各个组件之间的相互关系,以图呈现并加以文字描述。 2.对比Hadoop与Spark的优缺点。 答:第一,中间数据放在spark内存中,迭代运算效率高,MapReduce中的计算必须登录并存储在硬盘上,这将不可避免地影响整体速度。Spark程序支持分布式 阅读全文
posted @ 2022-02-23 11:19 辜枫畅 阅读(8) 评论(0) 推荐(0) 编辑