Nizlu

摘要： 总共有多少学生？ 总共开设了多少门课程？ 每个学生选修了多少门课？ 每门课程有多少个学生选？ 每门课程>95分的学生人数 课程'Python'有多少个100分？ Tom不及格的课程数？ Tom的成绩按分数大小排序。 Tom选修了哪几门课？ Tom的平均分。 'OperatingSystem'不及格人 阅读全文

摘要： 1.分析SparkSQL出现的原因，并简述SparkSQL的起源与发展。 SparkSQL出现的原因：SparkSQL诞生之初就是当做一个优化项目诞生的，目的是为了优化Hive中在spark的效率。 SparkSQL的起源与发展：Spark 1.0版本开始，推出了Spark SQL。其实最早使用的， 阅读全文

摘要： 集合运算练习 union()， intersection()，subtract(), cartesian() 三、学生课程分数 网盘下载sc.txt文件，通过RDD操作实现以下数据分析: 持久化 scm.cache() 总共有多少学生？map(), distinct(), count() 开设了多少 阅读全文

摘要： 一、词频统计 A. 分步骤实现 1.准备文件 (1)下载小说或长篇新闻稿 (2)上传到hdfs上 2.读文件创建RDD 3.分词 4.排除大小写lower()，map()标点符号re.split(pattern,str)，flatMap(), 停用词,可网盘下载stopwords.txt,filte 阅读全文

摘要： 一、 RDD创建 1.从本地文件系统中加载数据创建RDD 2.从HDFS加载数据创建RDD （1）启动hdfs （2）上传文件 （3）查看文件 （4）加载 （5）停止hdfs 3.通过并行集合（列表）创建RDD （1）输入列表、字符串、生成数组 二、 RDD操作 转换操作 1.filter(func 阅读全文

摘要： 1.Spark生态系统 Spark已打造出结构一体化、功能多样化的大数据生态系统，请用图文阐述Spark生态系统的组成及各组件的功能 Spark生态圈以Spark Core为核心，从HDFS、Hive、HBase和Hadoop等s数据源读取数据，以MESOS、YARN和自身携带的Standalone 阅读全文

摘要： 一、安装Spark 检查基础环境hadoop,jdk 2.下载spark 3.配置文件 配置环境 vim /usr/local/spark/conf/spark-env.sh 修改环境变量 vim ~/.bashrc 生效 source ~/.bashrc 4.试运行Python代码 二、Pytho 阅读全文

摘要： 一、Hadoop生态的各个组件及其功能: Hadoop生态以HDFS和MapReduce为核心,拥有Hive、HBase、Zookeeper、Sqoop、Pig、Mahout、Flume、YARN、Ambari等功能组件 1.HDFS 分布式文件系统HDFS是Hadoop两大核心组成部分之一。 HD 阅读全文