自然语言处理之文本相似度

本文介绍了自然语言处理中的文本相似度问题,包括语义相似和字面相似,并探讨了解决字面相似问题的余弦相似度计算方法。通过实例展示了如何计算余弦相似度,并提及了tfidf在文本处理中的作用。同时,还讨论了自动摘要的方法,以及在实际应用中计算IDF的MapReduce流程。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1、文本相似度:

1) 语义相似、但字面不相似

2) 字面相似、但是语义不相似

2、方案:

1) 语义相似:依靠用户行为,最基本的方法:(1)基于共点击的行为(协同过滤),(2)借助回归算法

2) 字面相似:(1) LCS最大公共子序列 (2) 利用中文分词

3 字面相似的问题解决:
       余弦相似度 cosine
                    举例:A(1,2,3),B(2,3,4)
                    cosine(A,B) = 分子 / 分母
                    分子:A*B = 1*2+2*3+3*4 = 20

                    |A| = sqrt(1*1+2*2+3*3) = 3.74
                    |B| = sqrt(2*2+3*3+4*4) = 5.38
                    分母:|A|*|B| = 20.12

4 tfidf:

1) TF:词频
            
                    关键词:在当前文章出现较多,但在其他文章中出现较少
            
2) IDF:反文档频率
                                    
score = TF * IDF

5、自动摘要:

1) 确定关键词集合(两种方法(a)top-10 (b)阈值截断 > 0.8 )
2)哪些句子包含关键词,把这些句子取出来
3)  对关

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

曾牛

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值