吾彦祖

摘要： 大作业： 1.选择使用什么数据，有哪些字段，多大数据量。 kaggle提供的美国疫情数据 2.准备分析哪些问题，可视化方式？（8个以上） (1). 统计美国截止每日的累计确诊人数和累计死亡人数。做法是以date作为分组字段，对cases和deaths字段进行汇总统计。 (2). 统计美国每日的新增确 阅读全文

摘要： 安装启动检查Mysql服务。netstat -tunlp (3306) spark 连接mysql驱动程序。–cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin.jar /usr/local/spark/jars 启动 Mysql shell 阅读全文

摘要： 读学生课程分数文件chapter4-data01.txt，创建DataFrame。 一、用DataFrame的操作完成以下数据分析要求 每个分数+5分。 总共有多少学生？ 总共开设了哪些课程？ 每个学生选修了多少门课？ 每门课程有多少个学生选？ 每门课程大于95分的学生人数？ Tom选修了几门课？每 阅读全文

摘要： 1.pandas df 与 spark df的相互转换 df_s=spark.createDataFrame(df_p) df_p=df_s.toPandas() 2. Spark与Pandas中DataFrame对比 3.1 利用反射机制推断RDD模式 sc创建RDD 转换成Row元素，列名=值 阅读全文

摘要： 1.Spark SQL出现的 原因是什么? 目前关系数据库在大数据时代已经不能满足各种新增的用户需求。Spark SQL的出现，填补了这个鸿沟。首先，Spark SQL可以提供DataFrame API，可以对内部和外部各种数据源执行各种关系操作；其次，可以支持大量的数据源和数据分析算法，组合使用S 阅读全文

摘要： 二、学生课程分数案例 总共有多少学生？map(), distinct(), count() 开设了多少门课程？ 每个学生选修了多少门课？map(), countByKey() 每门课程有多少个学生选？map(), countByValue() Tom选修了几门课？每门课多少分？filter(), m 阅读全文

摘要： 一、词频统计： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长度小于3的单词 filter() 5.去掉停用词 6.转换成键值对 map() 7.统计词频 reduceByKey() 二、学生课程分 阅读全文

摘要： 一、filter,map,flatmap练习： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 6.练习一的生成单词键值对 阅读全文

摘要： 阅读全文

摘要： 1. 为什么要引入Yarn和Spark。 yarn是作业调度和集群资源管理的一个框架，从一定程度上溺化了多计算框架的优劣之争，解决了扩展性差，单点故障以及只能局限于MR计算框架等的问题。在MapReduce时代，很多人评论MapReduce不适合迭代计算和流失计算，于是出现了Spark和Storm等 阅读全文