许健锐

摘要： 10 期末大作业 1.https://www.cnblogs.com/xujianrui/p/14470775.html 第1次作业 原因：当时没能加入班群 2.https://www.cnblogs.com/xujianrui/p/14860190.html 第四次作业 原因：忘了作业没做，提交时 阅读全文

摘要： 04 RDD编程练习 一、filter,map,flatmap练习： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 6.练习一的生成单词键值对 阅读全文

摘要： 09 spark连接mysql数据库 spark连接mysql数据库 1、安装启动检查Mysql服务。 netstat -tunlp (3306) 2、spark 连接mysql驱动程序。 –cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin 阅读全文

摘要： 08 学生课程分数的Spark SQL分析 读学生课程分数文件chapter4-data01.txt，创建DataFrame。 一、用DataFrame的操作完成以下数据分析要求 每个分数+5分。 总共有多少学生？ 总共开设了哪些课程？ 每个学生选修了多少门课？ 每门课程有多少个学生选？ 每门课程大 阅读全文

摘要： 06 Spark SQL 及其DataFrame的基本操作 1.Spark SQL的前身是 Shark，Shark最初是美国加州大学伯克利分校的实验室开发的Spark生态系统的组件之一，它运行在Spark系统之上，Shark重用了Hive的工作机制，并直接继承了Hive的各个组件， Shark将SQ 阅读全文

摘要： 07 Spark RDD编程 综合实例 英文词频统计 用Pyspark自主实现词频统计过程。 hadoop@dblab-VirtualBox:~$ pysparkPython 3.5.1+ (default, Mar 30 2016, 22:46:26)[GCC 5.3.1 20160330] on 阅读全文

摘要： 二、学生课程分数案例 总共有多少学生？map(), distinct(), count() 开设了多少门课程？ 每个学生选修了多少门课？map(), countByKey() 每门课程有多少个学生选？map(), countByValue() Tom选修了几门课？每门课多少分？filter(), m 阅读全文

摘要： 05 RDD练习：词频统计，学习课程分数 一、词频统计： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长度小于3的单词 filter() 5.去掉停用词 6.转换成键值对 map() 7.统计词频  阅读全文

摘要： Spark RDD编程基础 阅读全文

摘要： 02 Spark架构与运行流程 1. 为什么要引入Yarn和Spark。 (1)现有的hadoop生态系统中存在的问题 1）使用mapreduce进行批量离线分析； 2）使用hive进行历史数据的分析； 3）使用hbase进行实时数据的查询； 4）使用storm进行实时的流处理； (2)选用spar 阅读全文