文件方式实现完整的英文词频统计实例

最新推荐文章于 2018-07-08 16:55:08 发布

转载最新推荐文章于 2018-07-08 16:55:08 发布 · 85 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/Qzlhxxx/p/7602251.html

本文详细介绍了一种分析英文小说词频的方法，包括读取文本、去除标点、转换大小写、排除常见语法词汇、统计词频并排序，最终输出前20个高频词汇及其出现次数。此过程有助于理解文本的主题和常用表达。

可以下载一长篇的英文小说，进行词频的分析。

1.读入待分析的字符串

2.分解提取单词

3.计数字典

4.排除语法型词汇

5.排序

6.输出TOP(20)

7.对输出结果的简要说明。

fr=open('D:/book/test.txt','r')
news=fr.read()
fr.close

#大小写
news=news.lower()
#去标点
for i in '“”,.?':
    news=news.replace(i,' ')
#转为列表    
words=news.split(' ')
#冠词
exp={'with','at','am','had','for','as','has','said','but','and','that','\n\n','was','not','”','to','is','the','of','in','a','i','he','you','be','it','his',''}

dic={}
#集合，去冠词
key=set(words)-exp
#计数字典
for wn in key:
    dic[wn]=words.count(wn)
#列表
ww=list(dic.items())
#排序
ww.sort(key=lambda x:x[1],reverse=True)

for i in range(20):
    print(ww[i])