文本数据常用Embedding实现方案_文本embedding匹配-优快云博客

本文链接：https://blog.youkuaiyun.com/python12222_/article/details/139960452

前言

对文本数据进行嵌入（Embedding）并计算它们之间的相似度是自然语言处理（NLP）中的一项基础任务，广泛应用于信息检索、文本聚类、推荐系统等领域。常用的文本嵌入的方案有词袋模型、Word2Vec、GloVe、FastText以及Bert等。

一、基于词袋（Bag of Words）模型

词袋模型是自然语言处理中常用的一种表示文本的方法，它将文本看作是一个由词语组成的集合，忽略其词序和语法，仅考虑每个词在文本中出现的频率或存在与否。

在这里插入图片描述

二、Word2Vec

Word2Vec是一种用于生成词嵌入（Word Embeddings）的算法，它使用简单的神经网络模型将单词映射到一个低维空间的向量，使得语义上相似的单词在该空间中距离较近。Word2Vec主要有两种模型：Skip-gram 和 CBOW（Continuous Bag of Words）。详细情况在https://www.heywhale.com/mw/project/64be23353cbcbda8f50cb4f1 中有详细介绍（算是最常用的吧，包括Node2Vec等等都是依据Word2Vec来的）。
在这里插入图片描述

三、GloVe

GloVe（Global Vectors for Word Representation）是一种用于词嵌入的模型，它结合了全局矩阵分解和局部上下文窗口的优势。GloVe 的目标是将每个词映射到一个向量空间中，使得这些向量能够捕捉到词与词之间的语义和语法关系。

Glove的包太老了，不太能直接调用，用的话最好自己实现一个

四、FastText

FastText 是一个由 Facebook AI 研究团队开发的用于高效学习单词表示和文本分类的库。适用于处理大规模文本数据，训练速度较快，并且适合处理形态丰富的语言（如土耳其语、芬兰语等等）。

子词嵌入

FastText的一个重要特点是使用了子词嵌入（Subword Embeddings）来处理未登录词（Out-Of-Vocabulary，OOV）和稀有词（Rare Words）。子词嵌入通过将单词分解成字符级别的子词来学习词向量。这样做的好处是即使对于未见过的词，也可以利用其子词的信息来获取词向量。

N-Gram特征

例如，对于单词 “apple” 和 n 的取值范围为 3 到 6，可能的子词包括 “app”, “appl”, “apple”, “pple” 等。FastText 会为这些子词分别学习嵌入，并将一个词的嵌入表示为其所有子词嵌入的和。

在这里插入图片描述

五、Bert

BERT（Bidirectional Encoder Representations from Transformers）是一种预训练的自然语言处理模型，由Google在2018年提出，基于Transformer架构。BERT在多项自然语言处理任务中取得了领先水平的性能，能够非常有效地理解文本中的上下文，是目前理解复杂文本语义的最强大工具之一。

Bert预训练模型下载地址：https://hf-mirror.com/google-bert/bert-base-cased/tree/main （模型很大，下载速度很慢，官网不知道怎么回事打不开）

在这里插入图片描述