2.安装Spark与Python练习
一、安装Spark
环境配置:


启动spark:

试运行python代码:

二、Python编程练习:英文文本的词频统计
- 准备文本文件
- 读文件
- 预处理:大小写,标点符号,停用词
- 分词
- 统计每个单词出现的次数
- 按词频大小排序
- 结果写文件
思路:先读取文件文本内容,使用循环将内容中的每一个标点符号替换为空,再将内容所有字母替换为小写字母并分词,最后利用循环统计词频,并用列表储存进行排序,将结果显示。
文本截图:

代码截图:

运行结果截图:

环境配置:


启动spark:

试运行python代码:

思路:先读取文件文本内容,使用循环将内容中的每一个标点符号替换为空,再将内容所有字母替换为小写字母并分词,最后利用循环统计词频,并用列表储存进行排序,将结果显示。
文本截图:

代码截图:

运行结果截图:

