王基兆 - 博客园

补交作业7 链接没链接上

摘要： 1.请分析SparkSQL出现的原因，并简述SparkSQL的起源与发展。原因：SparkSQL的前身Shark对于Hive的太多依赖（如采用Hive的语法解析器、查询优化器等等），制约了Spark的One Stack Rule Them All的既定方针，制约了Spark各个组件的相互集成，所以阅读全文

posted @ 2022-06-06 00:24 王基兆阅读(11) 评论(0) 推荐(0)

RDD综合练习：更丰富的操作

摘要：集合运算练习 union()， intersection()，subtract(), cartesian() 内连接与外连接 join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin() 多个考勤文件，签到日期汇总，出勤次数统计三、综合练习：阅读全文

posted @ 2022-04-19 08:50 王基兆阅读(40) 评论(0) 推荐(0)

RDD综合操作实例

摘要：一、词频统计 A. 分步骤实现准备文件 1.下载小说或长篇新闻稿 2.上传到hdfs上读文件创建RDD 分词排除大小写lower()，map() 标点符号re.split(pattern,str)，flatMap(), 停用词,可网盘下载stopwords.txt,filter()，长度小于阅读全文

posted @ 2022-04-12 08:47 王基兆阅读(39) 评论(0) 推荐(0)

RDD操作

摘要：一、 RDD创建 1.从本地文件系统中加载数据创建RDD 与原txt文件对比 2.从HDFS加载数据创建RDD 启动hdfs 上传文件查看文件加载停止hdfs 3.通过并行集合（列表）创建RDD 输入列表、字符串、生成数组二、 RDD操作操作转换 1.filter（func）传入lamb 阅读全文

posted @ 2022-03-22 19:25 王基兆阅读(69) 评论(0) 推荐(0)

Spark设计与运行原理，基本操作

摘要： 1.Spark已打造出结构一体化、功能多样化的大数据生态系统，请用图文阐述Spark生态系统的组成及各组件的功能。 ·Spark Core：BDAS生态系统的核心组件，是一种大数据分布式处理框架，提供了多种资源调度管理，通过内存计算、有向无环图（DAG）等机制保证分布式计算的快速，并引入了RDD的抽阅读全文

posted @ 2022-03-08 09:14 王基兆阅读(86) 评论(0) 推荐(0)

安装spark与python

摘要：一、安装Spark 1.检查基础环境启动hdfs查看进程查看hadoop和jdk环境 2.下载spark 3.配置环境变量 4.启动spark 5.试运行python代码二、Python编程练习：英文文本的词频统计 1.准备文本文件从网上下载一篇名为《hamlet》的小说，命名为hamlet 阅读全文

posted @ 2022-03-06 16:19 王基兆阅读(75) 评论(0) 推荐(0)

大数据概述

摘要：一.列举Hadoop生态的各个组件及其功能、以及各个组件之间的相互关系，以图呈现并加以文字描述。 1.HDFS分布式文件系统 hadoop分布式文件系统HDFS是针对谷歌分布式文件系统（Google File System,GFS）的开源实现，它是Hadoop两大核心组成部分之一，提供了在廉价服务器阅读全文

posted @ 2022-02-22 11:26 王基兆阅读(78) 评论(0) 推荐(0)

公告