中文词频统计

这个作业的要求来自于：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773。

1. 下载一长篇中文小说。

本次实践选择长篇小说《宠物天王》

2. 从文件读取待分析文本。

txt=open(r'cwtw.txt','r',encoding='utf-8').read()

3. 安装并使用jieba进行中文分词。

4. 更新词库，加入所分析对象的专业词汇。

5. 生成词频统计

6. 排序

7. 排除语法型词汇，代词、冠词、连词等停用词。

8. 输出词频最大TOP20，把结果存放到文件里

代码如下：

# -*- coding: utf-8 -*-
"""
Created on Mon Mar 18 18:45:22 2019

@author: Administrator
"""

from wordcloud import WordCloud
import matplotlib.pyplot as plt
import jieba
txt=open(r'cwtw.txt','r',encoding='utf-8').read()
 
s=[line.strip() for line in open('stops_chinese.txt',encoding='utf-8').readlines()]
jieba.load_userdict(s)
 
 
wordcut = jieba.lcut(txt)
 
wdict = {}
 
for word in wordcut:
   if word not in s:
        if len(word)==1:
            continue
        else:
            wdict[word]=wdict.get(word,0)+1
             
wc=list(wdict.items())
wc.sort(key=lambda x:x[1], reverse=True)
 
for i in range(20):
       print(wc[i])
 
cut_text = " ".join(wordcut)
'print(cut_text)'
 
mywc = WordCloud().generate(cut_text)
plt.imshow(mywc)
plt.axis("off")
plt.show()

9. 生成词云。

安装词云：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple wordcloud

下载安装：下载 https://www.lfd.uci.edu/~gohlke/pythonlibs/#wordcloud

安装 找到下载文件的路径  pip install wordcloud-1.5.0-cp37-cp37m-win_amd64.whl

1、引入模块

from wordcloud import WordCloud
import matplotlib.pyplot as plt

2、导入文本

  准备生成词云的文本word_text =' '.join(wordlist)  #是以空格分隔的字符串

3、生成词云

mywc = WordCloud().generate(wl_split)

4、显示词云

plt.imshow(mywc)
plt.axis("off")
plt.show()