TF-IDF

最新推荐文章于 2025-09-13 23:06:41 发布

weixin_30950237

最新推荐文章于 2025-09-13 23:06:41 发布

阅读量48

点赞数

CC 4.0 BY-SA版权

文章标签：人工智能

原文链接：http://www.cnblogs.com/zzblee/p/4703167.html

TF-IDF是一种用于信息检索与数据挖掘的常用加权技术，评估字词对于文件集或语料库中的文件的重要程度。通过分析词频与文档频率，该方法有助于识别具有类别区分能力的特征词。然而，其不足在于当某一类文档中包含某一词条的文档数量过多时，可能会导致该词条类别区分能力的低估。

TF-IDF（term frequency–inverse document frequency）是一种用于信息检索与数据挖掘的常用加权技术。

TF-IDF是一种统计方法，用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。

TFIDF的主要思想是：如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分能力，适合用来分类。

不足之处：如果某一类文档C中包含词条t的文档数为m，而其它类包含t的文档总数为k，显然所有包含t的文档数n=m+k，当m大的时候，n也大，按照IDF公式得到的IDF的值会小，就说明该词条t类别区分能力不强。但是实际上，如果一个词条在一个类的文档中频繁出现，则说明该词条能够很好代表这个类的文本的特征，这样的词条应该给它们赋予较高的权重，并选来作为该类文本的特征词以区别与其它类文档。这就是IDF的不足之处.

转载于:https://www.cnblogs.com/zzblee/p/4703167.html