统计一个英文文本的单词词频

本博客介绍了一种使用Python进行文本预处理的方法,包括去除标点符号及统计词频等内容。通过对文本中的标点符号进行过滤,并对剩余词汇进行计数,实现对文本的基本统计分析。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

import re
punct = set(u''':!),.:;?]}¢'"、。〉》」』】〕〗〞︰︱︳﹐、﹒
﹔﹕﹖﹗﹚﹜﹞!),.:;?|}︴︶︸︺︼︾﹀﹂﹄﹏、~¢
々‖•·ˇˉ―--′’”([{£¥'"‵〈《「『【〔〖([{£¥〝︵︷︹︻
︽︿﹁﹃﹙﹛﹝({“‘-—_…''')

word_count_list={}
with open("in.txt",'r') as f:
    for line in f:
        #print('去除标点前:',line)
        line2 = ''.join(filter(lambda x: x not in punct, line))
        #print('去除标点后:', line2)
        wordlist=line2.strip().split()
        for word in wordlist:
            #print('({})'.format(word),end='')
            if word not in word_count_list.keys():
                word_count_list[word]=1
            else:
                word_count_list[word]+=1

print(word_count_list)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值