摘要： 1.请分析SparkSQL出现的原因，并简述SparkSQL的起源与发展。 原因：关系数据库库在大数据时代已经不能满足要求，SparkSQL的出现，首先可以提供DataFrame API，可以对内部和外部各种数据执行各种关系型操作。其次，可以支持大数据中的大量数据源和数据分析算法。SparkSQL可 阅读全文

摘要： 集合运算练习 union()， intersection()，subtract(), cartesian() 内连接与外连接 join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin() 多个考勤文件，签到日期汇总，出勤次数统计 三、综合练习： 阅读全文

摘要： 一、词频统计 A. 分步骤实现 准备文件 下载小说或长篇新闻稿 上传到hdfs上 读文件创建RDD 分词 排除大小写lower()，map()标点符号re.split(pattern,str)，flatMap(),停用词,可网盘下载stopwords.txt,filter()，长度小于2的词filt 阅读全文

摘要： 一、 RDD创建 1.从本地文件系统中加载数据创建RDD 从HDFS加载数据创建RDD启动hdfs上传文件查看文件加载停止hdfs 通过并行集合（列表）创建RDD输入列表、字符串、生成数组 一、 1.从本地文件系统中加载数据创建RDD: 2.启动HDFS: 上传文件并查看： 停止HDFS: 3.通过 阅读全文

摘要： 1.Spark已打造出结构一体化、功能多样化的大数据生态系统，请用图文阐述Spark生态系统的组成及各组件的功能。 Spark的生态系统主要包含了Spark Core、Spark SQL、Spark Streaming、MLLib和GraphX等组件。 Spark Core：包含Spark的基本功能 阅读全文

摘要： 一、安装Spark 检查基础环境hadoop,jdk 下载spark 解压，文件夹重命名、权限 配置文件 环境变量 试运行Python代码 步骤1结果截图： 步骤3结果截图： 步骤4结果截图： 步骤5结果截图： 步骤6结果截图： 二、Python编程练习：英文文本的词频统计 准备文本文件 读文件 预 阅读全文

摘要： 1.列举Hadoop生态的各个组件及其功能、以及各个组件之间的相互关系，以图呈现并加以文字描述 各个组件的功能： HDFS:分布式文件系统 MapReduce:分布式并行编程模型 YARN:资源管理和调度器 Tez:运行在YARN之上的下一代Hadoop查询处理框架 Hive:Hadoop上的数据仓 阅读全文