TF-IDF(termfrequency–inverse document frequency)是一种用于资讯检索与资讯探勘的常用加权技术。TF-IDF是一种统计方法,用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随著它在文件中出现的次数成正比增加,但同时会随著它在语料库中出现的频率成反比下降。TF-IDF加权的各种形式常被搜寻引擎应用,作为文件与用户查询之间相关程度的度量或评级。除了TF-IDF以外,因特网上的搜寻引擎还会使用基于连结分析的评级方法,以确定文件在搜寻结果中出现的顺序。
在文本挖掘中,要对文本库分词,而分词

TF-IDF是一种评估字词在文件集重要性的统计方法,用于资讯检索和文本挖掘。它由词频(TF)和逆文档频率(IDF)组成。TF表示词在文档中的频率,IDF则反映词在文档库中的独特性。TF-IDF值越高,表示该词在文档中的重要性越大。计算TF-IDF包括计算TF(如:分词次数除以文档分词总数)和IDF(如:log(总文档数/出现该词的文档数+0.01)),最终乘以TF和IDF得到词的权重。
最低0.47元/天 解锁文章
1215

被折叠的 条评论
为什么被折叠?



