Leokb24的博客

文章目录前言第一章 特征工程1. 特征归一化2. 类别性特征3. 组合特征处理4. 文本表示模型 前言 最近在准备暑期实习面试，正好看到一本书叫《百面机器学习》。粗略翻了下，感觉知识点还比较全面，但是有些知识点讲解不够细致。所以准备按照书中知识点的顺序复习一下，同时对其中一些内容进行补充总结。 第一章 特征工程 1. 特征归一化 问题 特征归一化作用 数据标准化（归一化）处理是数据挖掘的一项基础工...

向量空间 向量空间一个最大的特征是对加法运算和数乘运算封闭。n维向量空间的定义是n维实向量全体构成的集合，同事考虑到向量的线性运算，成为实n维向量空间，用Rn\R^nRn表示，显然Rn\R^nRn中任意两个向量的和向量还是Rn\R^nRn中的向量，Rn\R^nRn中任意一个向量与一个实数的乘积也是Rn\R^nRn中的向量。向量空间又称为线性空间。 欧氏空间 欧氏空间也称为欧几里得空间，是带有“内积...

Lecture1本节主要内容How to represent word?Problems with resources like WordNetProblem with words as discrete symbols(one-hot vector)Word2vec 本节主要内容 word representation word2vec How to represent word? Proble...

cs224n第二讲主要内容 word2vec(续) glove 词向量评估 Word2vec使用SGD训练存在的问题： 每次只有窗口内的词会参与训练，梯度矩阵太稀疏，训练效率低。 优化方法: 1.negative sampling 转化为二分类问题 2.hierarchical softmax Glove 公式推导参考这里 词向量评估 ...