文本数据常用Embedding实现方案

---

前言

对文本数据进行嵌入（Embedding）并计算它们之间的相似度是自然语言处理（NLP）中的一项基础任务，广泛应用于信息检索、文本聚类、推荐系统等领域。常用的文本嵌入的方案有词袋模型、Word2Vec、GloVe、FastText以及Bert等。

---

一、基于词袋（Bag of Words）模型

词袋模型是自然语言处理中常用的一种表示文本的方法，它将文本看作是一个由词语组成的集合，忽略其词序和语法，仅考虑每个词在文本中出现的频率或存在与否。

二、Word2Vec

Word2Vec是一种用于生成词嵌入（Word Embeddings）的算法，它使用简单的神经网络模型将单词映射到一个低维空间的向量，使得语义上相似的单词在该空间中距离较近。Word2Vec主要有两种模型：Skip-gram 和 CBOW（Continuous Bag of Words）。详细情况在https://www.heywhale.com/mw/project/64be23353cbcbda8f50cb4f1 中有详细介绍（算是最常用的吧，包括Node2Vec等等都是依据Word2Vec来的）。

三、GloVe

GloVe（Global Vectors for Word Representation）是一种用于词嵌入的模型，它结合了全局矩阵分解和局部上下文窗口的优势。GloVe 的目标是将每个词映射到一个向量空间中，使得这些向量能够捕捉到词与词之间的语义和语法关系。

• Glove的包太老了，不太能直接调用，用的话最好自己实现一个

四、FastText

FastText 是一个由 Facebook AI 研究团队开发的用于高效学习单词表示和文本分类的库。适用于处理大规模文本数据，训练速度较快，并且适合处理形态丰富的语言（如土耳其语、芬兰语等等）。

子词嵌入

FastText的一个重要特点是使用了子词嵌入（Subword Embeddings）来处理未登录词（Out-Of-Vocabulary，OOV）和稀有词（Rare Words）。子词嵌入通过将单词分解成字符级别的子词来学习词向量。这样做的好处是即使对于未见过的词，也可以利用其子词的信息来获取词向量。

N-Gram特征

例如，对于单词 “apple” 和 n 的取值范围为 3 到 6，可能的子词包括 “app”, “appl”, “apple”, “pple” 等。FastText 会为这些子词分别学习嵌入，并将一个词的嵌入表示为其所有子词嵌入的和。

五、Bert

BERT（Bidirectional Encoder Representations from Transformers）是一种预训练的自然语言处理模型，由Google在2018年提出，基于Transformer架构。BERT在多项自然语言处理任务中取得了领先水平的性能，能够非常有效地理解文本中的上下文，是目前理解复杂文本语义的最强大工具之一。

Bert预训练模型下载地址：https://hf-mirror.com/google-bert/bert-base-cased/tree/main （模型很大，下载速度很慢，官网不知道怎么回事打不开）

总结

目前最常用的还是Word2Vec，简单且高效，在深度学习领域后续需要进行某些文本分类、情感分析等任务时用Bert，FastText一般是资源有效数据量大并且文本较为复杂时使用。

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。