[NLP]使用LDA模型计算文档相似度

android_ruben

于 2017-07-20 19:52:51 发布

阅读量1.7w

点赞数 2

CC 4.0 BY-SA版权

分类专栏： NLP 文章标签： nlp lda

本文链接：https://blog.youkuaiyun.com/android_ruben/article/details/75576961

LDA（Latent Dirichlet Allocation）是一种无监督学习算法，用于主题建模，尤其在文本挖掘中广泛应用于主题识别、分类和相似度计算。由Blei等人于2003年提出，LDA假设每篇文档包含多个主题，每个主题由一组词语描述，词与词之间独立。实现上，LDA基于词袋模型，忽略词语顺序，通过指定主题数量来分析文档集。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

定义

wiki关于lda的定义：

隐含狄利克雷分布简称LDA(Latent Dirichlet allocation)，是一种主题模型，它可以将文档集中每篇文档的主题按照概率分布的形式给出。同时它是一种无监督学习算法，在训练时不需要手工标注的训练集，需要的仅仅是文档集以及指定主题的数量k即可。此外LDA的另一个优点则是，对于每一个主题均可找出一些词语来描述它。
LDA首先由Blei, David M.、吴恩达和Jordan, Michael I于2003年提出，目前在文本挖掘领域包括文本主题识别、文本分类以及文本相似度计算方面都有应用。

lda也是一种典型的词袋模型，它假设每一篇文档都是一组词的集合，并且词与词之间没有顺序和先后关系。一篇文章可以包含多个主题，文档中的每一个词都是由其中的一个主题生成。

实现

import codecs
from gensim.models import LdaModel
from gensim.corpora import Dictionary
from gensim import corpora, models
import numpy as np
import jieba
imp