Keras深度学习实战——使用GloVe模型构建单词向量
0. 前言
在《使用fastText模型构建单词向量》一节中,我们学习了如何构建 fastText 模型以生成单词向量,GloVe (Global Vectors for Word Representation) 是另一种生成单词向量的方式。在本节中,我们将介绍 GloVe 的算法原理,然后介绍如何实现 GloVe 模型生成单词向量。
1. GloVe 算法模型
1.1 模型目标
GloVe 的提出旨在实现以下两个目标:
- 创建在向量空间中能够捕获其含义的单词向量
- 利用全局计数统计信息,而不仅仅是局部信息
1.2 GloVe 算法计算细节
GloVe 主要通过利用单词的共现矩阵并针对损失函数进行优化来学习单词向量。我们首先使用以下示例,以此来了解 GloVe 算法的计算细节。
假设我们存在以下两个句子:
This is apple
This is also an
</
本文介绍了GloVe算法模型的目标和计算细节,通过利用单词共现矩阵和优化损失函数来学习单词向量。文章详细阐述了如何在Keras中实现GloVe模型,包括数据预处理、模型训练和单词向量的获取。
订阅专栏 解锁全文
1286





