u012744245的博客

文章目录NLP基础——词表示和文本特征1. Word Representation: 独热编码，tf-idf2. Word2Vec2.1 Word Embedding2.2 Gaussian Embedding2.3 Contextual Embedding3. 文本特征工程NLP基础——词表示和文本特征1. Word Representation: 独热编码，tf-idf词表示：0-1 one-hot encoding --> 句子表示：0-1（Boolean）构建词库V，对每个句子的表

文章目录各种优化器SGD，AdaGrad，Adam，LBFGS都做了什么？1. SGD：2. SGD+Momentum：3. NAG（Nesterov Accelerated Gradient ）：4. AdaGrad（Adaptive Gradient Algorithm）：5. AdaDelta：6. RMSProp：7. Adam：8. [AdaMax](https://arxiv.org/pdf/1412.6980.pdf)：9. AdamW：10. SGDW：11. [AMSGrad](https

文章目录数据预处理：离散特征编码方法无监督方法：1.序号编码OrdinalEncoder2.独热编码OneHotEncoder3.二进制编码BinaryEncoder4.计数编码CountEncoder5.哈希编码HashingEncoder6.BaseNEncoder7.Sum Contrast8.Backward Difference Contrast9.Helmert Contrast10.Polynomial Contrast有监督方法：11.TargetEncoder12.MEstimateEnc

文章目录WMD1. 为什么提出？2. 如何解决问题？2.1 定义问题2.1.1 归一化词频2.1.2 词移动代价2.1.3 文档距离2.1.4 约束条件2.2 快速计算2.2.1 WCD2.2.2 RWMD2.2.3 Prefetch and prune 加速k-NN3. 优点？4. 缺点？改进方向？4.1 缺点4.2 改进算法S-WMD5. WMD应用6. WMD代码实现7. 参考WMDPaper: From Word Embeddings To Document Distances2015年，提

文章目录相似度计算方法1. 文本距离1.1 编辑距离（Edit Distance）1.2 最长公共子串、最长公共子序列（Long Common Subsequence，LCS）1.3 句向量表示（Word Averaging Model，WAM）1.4 WMD1.5 BM252. 统计指标2.1 Cosine Similarity2.2 Jaccard Similarity2.3 Pearson Correlation2.4 Euclidean Distance3. 深度匹配参考相似度计算方法1. 文本

文章目录1. Phrases 和Phraser2. Word2Vec3. KeyedVector词向量保存的各种数据格式词向量用处参考gensim API1. Phrases 和Phrasergensim.models.phrases.Phrases 和gensim.models.phrases.Phraser的用处是从句子中自动检测常用的短语表达，N-gram多元词组。Phrases模型可以构建和实现bigram，trigram，quadgram等，提取文档中经常出现的2个词，3个词，4个词。具体

目录多分类文本处理与特征工程1. 语言模型1.1 模型评估（概率估计）1.2 平滑方法1.3 LM在拼写纠正（Spell Correction）中的应用:2. 预处理3. Word Representation: 独热编码，tf-idf4. Word2Vec4.1 Word Embedding4.2 Gaussian Embedding4.3 Contextual Embedding5. 文本特征工程多分类文本处理与特征工程1. 语言模型语言模型（LM，Language Model）就是用来判断某个句