TF_IDF

本文介绍了TF-IDF算法的基本概念,包括词项频率(TF)和逆文档频率(IDF)的定义及其计算方法。TF-IDF是一种常用的文本挖掘技术,用于评估一个词对文档集合中某文档的重要程度。

TF指词项频率,IDF指逆文档频率,假定文档集中有N篇文档, 为词项i在文档j中出现的频率(即次数)

image

归一化通过 除以同一文档中出现最多的词项(可能不考虑停用词的频率)来计算。

假定词项i在文档集的 篇文档中出现,那么词项i的IDF定义为:

image

词项i在文档j中的得分就被定义为 ,具有最高得分的那些词项通常是刻画文档主题的最佳词项。

注:TF-iDF公式不唯一,可自由选择进行归一化,如TF公式的分母,可为同一文档中出现的总词频(去除停用词);如IDF公式的对数公式的底数。

From Minging of Massive Datasets

阅读(40) | 评论(0) | 转发(0) |
0

上一篇:bufferedWriter

下一篇:将博客搬至优快云

给主人留下些什么吧!~~
评论热议
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值