程序认生

上一篇：NLP【07】transformer原理、实现及如何与词向量做对接进行文本分类（附代码详解）一、前言https://blog.youkuaiyun.com/one_super_dreamer/article/details/104579271深度学习之前：向量表示的方法，one-hot,tfidf bm25阶段一:能不能机器自动学习向量表示呢？nnlm模型 word2vec glove阶段二：nlp四大任务：生成式任务、分类任务、匹配任务，序列标注。向量表示后怎么应用呢 rnn lst...

一、NLP篇概述&ensp众所周知，NLP的基础是词向量。什么是词向量？其实就是用数学中的向量表示文字。苹果可以用向量[1,2,3]表示，所以向量[1,2,3]其实是机器可以识别的苹果（就好比apple是美国人可以识别的苹果），但在自然语言处理中，我们不可能人为给每个词定义对应的向量表示，事实上，每个词对应的向量表示是通过算法来实现的。如word2vec、glove、fasttext,elmo,gpt以及现在火热的bert算法，都可以实现自动训练获取词向量。因为word2vec是最早训练词向量的