- 博客(14)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 李宏毅《Machine Learning》笔记 -- RNN
RecurrentNeuralNetwork如：slot filling (填槽)有记忆的神经网络太强了。。。。RNN的问题：同样的东西 反复使用，所以有时候不造成影响，有时候造成很大的影响为什么把RNN换成LSTM：LSTM可以handle 梯度弥散为什么可以handle：...
2019-09-23 14:16:19
305
原创 李宏毅《Machine Learning》笔记 -- support vector machine
Hinge loss:convex function 凸函数
2019-09-23 09:30:28
161
原创 李宏毅《Machine Learning》笔记 -- transfer learning
应用场景Data not directly related to the task consideredConservative Training or layer Transfer保守训练，或者fine-tune的时候 只调某个layer的参数speech 通常只调前几层 一般一个image通常只调最后几层multitask learning...
2019-09-22 16:49:59
227
原创 《统计学习方法》第二版 -- 第三章 k近邻法
k-NN 是一种基本分类与回归方法。输入为实例的特征向量，对应于特征空间的点；输出为实例的类别，可以取多类分类时，对于新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测。因此，k近邻不具有显式的学习过程。k近邻法实际上利用训练数据集对特征向量空间进行划分，并作为其分类的“模型”。k值的选择、距离度量、分类决策规则是k近邻法的三个基本要素。其中：距...
2019-09-22 11:44:18
165
原创 《统计学习方法》第二版 -- 第二章 感知机
Perceptron是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1 和 -1.感知机对应于输入空间(特征空间)中将实例划为正负两类的分离超平面，属于判别模型是神经网络与支持向量机的基础2.1 感知机模型w和b属于感知机模型参数，叫做权值或者权值向量，叫做偏置，表示两者的内积，sign是符号函数。线性分类模型 属于判别模型假设空间定义在特征空间...
2019-09-22 11:21:17
182
原创 李宏毅《Machine Learning》笔记 -- 无监督学习--generation
PixelRNN: 根据前面的pixel 预测下一个生成图片、也可生成语音 生成影像生成模型很难评估VAE为什么要用VAE高斯混合模型 来estimate the probability distribution很多高斯混合起来VAE是高斯混合模型的 distributed representation的版本K...
2019-09-21 20:55:29
306
原创 李宏毅《Machine Learning》笔记 -- 无监督学习--auto encoder
Unsupervised LearningDeep learning 做无监督学习的方法Auto-encoder用神经网络做降维encoder decoder独自存在没法学。bottleneck layer 瓶颈层deep ae 就是多加几层重点不是最后loss低，而是code做的有多好De-noising auto-encoder 为了train的更好...
2019-09-21 16:56:23
227
原创 李宏毅《Machine Learning》笔记 -- 无监督学习--neighbor embedding
Manifold Learning 流性学习降维方法:1、Locally Linear Embedding LLE2、Laplacian Eigenmaps: Graph-based approach3、T-distributted Stochastic Neighbor Embedding (t-SNE)
2019-09-21 14:35:58
135
原创 李宏毅《Machine Learning》笔记 -- 无监督学习--word embedding
1-of-N encoding (one hot)--> word embeddingcount based: 基于词共现 如glove vectorprediction based:training， 预测下一个词汇。用于language modeling，预测一个句子出现的几率。取出第一层参数 可作为词向量 不用deep原因 是不需要 不用还可以很快CBOW...
2019-09-20 17:59:13
260
原创 李宏毅《Machine Learning》笔记 -- 无监督学习--线性模型
1、聚类算法化繁为简、分几类为经验主义K-meansdimension reduction1、feature selection2、principle component analysisPCA SVDpca弱点：非监督、线性Matrix Factorization (MF)。。。也是FM？PCA不懂 之后再看。。。...
2019-09-20 17:07:45
451
原创 《统计学习方法》第二版第一章
这一遍读的应该更细致（一天完成一章）2019/9/20目录第一章：统计学习与监督学习概论1.1 统计学习1.2 统计学习的分类1.2.1 基本分类1、监督学习2、无监督学习3、强化学习4、半监督学习与主动学习1.2.3 按模型分类1 概率模型和非概率模型2 线性模型和非线性模型3 参数化模型和非参数化模型1.2.3 按算法分类1...
2019-09-20 11:15:12
1175
原创 知识点收集
随手记下知识点 方便后面复习。1、机器学习Model(a set of function)、Goodness of Funtion、Best FunctionLR相关的推导,与linear regression的对比SVM聚类算法Gradient Descent正则偏差方差Cost Functionbagging boosting贝叶斯2、深度...
2019-09-19 15:02:43
97
李航 统计学习方法 pdf
2018-05-24
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人