摘要：
综合练习：学生课程分数 网盘下载sc.txt文件，分别用RDD操作、DataFrame操作和spark.sql执行SQL语句实现以下数据分析: 0. 创建RDD，并转换为DataFrame；scm持久化；创建spark.sql临时表等预处理： RDD： DataFrame: spark.sql: 1 阅读全文
摘要：
1.分析SparkSQL出现的原因，并简述SparkSQL的起源与发展。 为了将SQL语句转为Spark应用程序，简化编程，Spark团队开发了Shark（Hive on Spark）。但由于Shark完全按照Hive设计，难以添加新的优化；并且，Spark线程级别并行，Mapreduce进程级别并 阅读全文
摘要：
集合运算练习 union()， intersection()，subtract(), cartesian() 内连接与外连接 join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin() 三、综合练习：学生课程分数 网盘下载sc.txt文件，通 阅读全文
摘要：
一、词频统计 A. 分步骤实现 准备文件 下载小说或长篇新闻稿 上传到hdfs上 2.读文件创建RDD 3.分词 4.排除大小写lower()，map()标点符号re.split(pattern,str)，flatMap(),停用词,可网盘下载stopwords.txt,filter()，长度小于2 阅读全文
摘要：
恢复内容开始 一、 RDD创建 1.从本地文件系统中加载数据创建RDD 2.从HDFS加载数据创建RDD 2.1启动hdfs 2.2上传、查看文件 2.3加载 2.4停止hdfs 3、通过并行集合（列表）创建RDD 输入列表 字符串 numpy生成数组 二、 RDD操作 1.filter(func) 阅读全文
摘要：
1.Spark已打造出结构一体化、功能多样化的大数据生态系统，请用图文阐述Spark生态系统的组成及各组件的功能。 Spark的生态系统，具体如下图1所示： 通过图1可以看出，Spark生态系统主要包含Spark Core、Spark SQL、Spark Streaming、MLlib、GraphX 阅读全文
摘要：
一、安装Spark 1.检查基础环境hadoop,jdk 2.下载spark（已操作）略 3.解压，文件夹重命名、权限（已操作）略 4.配置文件 编辑该配置文件，在文件最后面加上如下一行内容： export SPARK_DIST_CLASSPATH=$(/usr/local/hadoop/bin/h 阅读全文
摘要：
1.列举Hadoop生态的各个组件及其功能、以及各个组件之间的相互关系，以图呈现并加以文字描述。 2.对比Hadoop与Spark的优缺点。2.对比Hadoop与Spark的优缺点。 一、实现原理的比较 Hadoop和Spark都是并行计算，两者都是用MR模型进行计算 Hadoop一个作业称为一个J 阅读全文