中文词频统计

中文分词

1.下载一中文长篇小说，并转换成UTF-8编码。

2.使用jieba库，进行中文词频统计，输出TOP20的词及出现次数。

3.排除一些无意义词、合并同一词。

4.对词频统计结果做简单的解读。

import jieba
txt = open('ppp.txt','r',encoding='utf-8').read()
words = list(jieba.cut(txt))

exp = {','}

 
keys = set(words)-exp # 键的集合
dic ={}

for w in keys:
    if len(w)>1:
        dic[w] = words.count(w)#单词计数字典

wc = list(dic.items())#（单词，计数)元组的列表
wc.sort(key= lambda x:x[1],reverse=True)#列表排序

for i in range(20):#输出TOP20元组
    print(wc[i])