【java机器学习】词向量在贝叶斯中的概念

最新推荐文章于 2024-12-26 02:41:47 发布

原创最新推荐文章于 2024-12-26 02:41:47 发布 · 491 阅读

0 ·

CC 4.0 BY-SA版权

机器学习专栏收录该内容

40 篇文章

订阅专栏

本文探讨了向量在数学中的定义，重点讲解词向量（Wordembedding）的概念及其在自然语言处理（NLP）中的应用。文章详细介绍了词向量的生成原理，以及如何通过训练文档计算单词在不同类别下的条件概率。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

向量：

在数学中，向量（也称为欧几里得向量、几何向量、矢量），指具有大小（magnitude）和方向的量

词向量：

词向量（Word embedding），又叫Word嵌入式自然语言处理（NLP）中的一组语言建模和特征学习技术的统称，其中来自词汇表的单词或短语被映射到实数的向量。从概念上讲，它涉及从每个单词一维的空间到具有更低维度的连续向量空间的数学嵌入。

单词条件概率计算步骤：

对每篇训练文档：
对每个类别：
如果词条出现在文档中------增加该词条的计数值
增加所有词条的计数值
对每个类别：
对每个词条：将该词条的数目除以总词条数目得到条件概率

计算结果表示：
来源：https://blog.youkuaiyun.com/charlesqinjiaqi/article/details/78272598?utm_source=blogxgwz3
[ 0.04166667 0.04166667 0.04166667 0. 0. 0.04166667
0.04166667 0.04166667 0. 0.04166667 0.04166667 0.04166667
0.04166667 0. 0. 0.08333333 0. 0.
0.04166667 0. 0.04166667 0.04166667 0. 0.04166667
0.04166667 0.04166667 0. 0.04166667 0. 0.04166667
0.04166667 0.125 ]
p1Vect:

[ 0. 0. 0. 0.05263158 0.05263158 0. 0.
0. 0.05263158 0.05263158 0. 0. 0.
0.05263158 0.05263158 0.05263158 0.05263158 0.05263158 0.
0.10526316 0. 0.05263158 0.05263158 0. 0.10526316
0. 0.15789474 0. 0.05263158 0. 0. 0. ]

从结果中，可以看出词汇表中第一个词是cute，其在类别0中出现一次，而在类别1中未出现，对应的条件概率为别为0.04166667和0。