2021-07-03

最新推荐文章于 2021-12-20 21:15:28 发布

原创最新推荐文章于 2021-12-20 21:15:28 发布 · 86 阅读

0 ·

CC 4.0 BY-SA版权

笔记专栏收录该内容

12 篇文章

订阅专栏

这篇博客探讨了如何使用TF-IDF算法进行关键词提取。由于jieba自带的语料库不匹配指定的语料库，作者选择手动实现关键词提取功能。通过jieba分词后，利用TF-IDF公式计算每个词的重要程度，从而得到具有区分性的关键词列表。

TF-IDF算法的计算公式是TF*IDF，TF=词条中word出现的次数/词条数，IDF=log（语料库词条数/(语料库中包括word的词条数+1)）它是一种统计方法，用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。主要思想是：如果某个单词在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分能力，适合用来分类。初次实践我尝试调用jieba的jieba.analyse.extract_tags方法，但因为这个方法所用的语料库是jieba自己提供的比较全面的语料库，不符合老师提供的语料库，所以试着自己只用jieba分割词语再自己实现关键词提取功能。jieba直接调用的方法如下：import jieba.analysetext = open(‘data/corpus/corpus2021.txt’, encoding=“utf-8”).read()keywords = jieba.analyse.extract_tags(text, topK=100000, withWeight=False, allowPOS=())print(keywords)text是输入文档