- 博客(13)
- 资源 (2)
- 收藏
- 关注

原创 迈过三重门——详解SVM及其Python实现
本文主要基于李航《统计学习方法》与周志华《机器学习》完成,加入了若干个人推导与注解,文后附Python3源码。跟我推导完,相信你一定会有收获。目录初识SVM第一重 · 线性硬间隔支持向量机第二重 · 线性软间隔支持向量机第三重 · 非线性支持向量机迈门利器 · 序列最小最优化算法迈门演示 · Python源码参考文献
2017-09-30 16:42:15
1685
原创 PyTorch可视化工具Visdom不显示toolbar和窗口解决方法
Visdom是Facebook在2017年发布的一款针对PyTorch的可视化工具,在本地PC上很好用。当迁移到内网服务器上时,我发现对于某些作图功能无法正常显示,甚至直接连toolbar都消失了。找遍全网,发现四个中文相关的问题, https://www.cnblogs.com/yuanzhoulvpi/p/9244186.html https://blog.youkuaiyun.com/qq_2219...
2018-08-09 22:31:00
6789
4
原创 numpy中的布尔值行索引及列向量与单列矩阵的转化
在利用布尔值对numpy矩阵进行索引的时候,发现只能用列向量进行索引,单位列矩阵无法索引。举例子如下: 有x矩阵:xOut[122]: array([[1, 2], [3, 4], [1, 3], [4, 6], [7, 7]])有y矩阵:yOut[123]: array([[ 1], [-1], ...
2018-05-29 21:09:25
1874
原创 AlexNet及其TensorFlow实现
本文主要介绍CNN复兴之作,2012年Alex所作ImageNet Classification with Deep Convolutional Neural Networks及其基于TensorFlow GPU 1.3.0 rc1版本的实现。AlexNet采用上图架构。请注意上图,由于当时的GPU运算性能有限,文章将2、4、5三个卷积层分为两部分,分配至两个GPU并行计算,而2→3为一个GPU。
2018-04-01 16:43:53
3857
1
原创 LeNet-5及其TensorFlow实现
本篇主要介绍CNN开山之作,1998年LeCun的Gradient-Based Learning Applied to Document Recognition及其基于TensorFlow GPU 1.3.0 rc1版本的实现。 LeNet-5采用上图架构。共7层,分别为卷积——最大池化——卷积——最大池化——全连接*3。保留了LeNet-5中的大部分细节,未加入dropout,最后一层改用...
2018-03-29 23:26:04
7042
3
原创 Windows10配置TensorFlow-GPU及Keras教程
引TensorFlow是Google推出的深度学习开源框架。相比于Keras、Caffe等框架,TensorFlow在GitHub上的star数量、fork数量、contributor数量都一骑绝尘。到今天为止(2017-11-30),TensorFlow官方已经宣布原生支持Windows操作系统,但目前,仍主要通过CUDA支持Nvidia的GPU,AMD系显卡可通过OpenCL支持,但成熟度较低。
2017-11-30 19:26:17
13563
2
原创 A tutorial on Matrix
These pages are a collection of my personal review on Matrix Analysis, mainly about matrices and something relating to them, such like the Space, Norm, etc.
2017-11-22 21:57:15
736
原创 GBDT梯度提升树原理剖析
GBDT梯度提升树原理剖析在前面的文章中,我写了ID3及CART决策树的思路,但我们只是将其用来做分类。注意到CART的名字:Classification And Regression Tree,当我们利用其进行回归时,它的名字就变成了回归树。GBDT(Gradient Boosting Decision Tree)就是一种基于回归的预测方法。今天我们来看一看这个算法的原理。先来熟悉一下回归树的方法
2017-10-18 11:15:45
1154
原创 CART决策树的sklearn实现及其GraphViz可视化
这一部分,我使用了sklearn来调用决策树模型对葡萄酒数据进行分类。在此之外,使用Python调用AT&T实验室开源的画图工具GraphViz软件以实现决策树的可视化。from sklearn.datasets import load_irisfrom sklearn import treefrom sklearn.externals.six import StringIOimport py
2017-10-13 15:25:45
29966
5
原创 决策树ID3算法及其Python实现
决策树是一个有向无环图,由节点和有向边组成,根节点代表所有的样例,内部节点表示样例的一个属性,叶节点代表一个类。我们先来看WikiPedia上给出的例子,从而对决策树有一个直观理解。 这个图里,我们可以看到,是否出门浪要受到几个变量的影响:天气、温度、湿度、多云这四个,是一个14行5列的数据集。根据这个数据集,我们可以得到下面的决策树。 最开始的根节点上,包括14个样例,分别是9个浪、5个不浪。
2017-10-13 15:15:53
4485
原创 GraphViz配置指南
GraphViz是AT&T Lab开发的开源工具包,用于绘制dot语言脚本描述的图形,我们只需要关心点和边的关系,不需考虑布局、位置等,用来结合Python绘制图模型真是再好不过。下面来介绍一下Windows 10下GraphViz的配置方法。安装http://www.graphviz.org/Download_windows.php 在该链接中下载graphviz-2.38.msi,一路安装ne
2017-10-13 15:02:03
5849
2
原创 K-Means聚类分析及其Python实现
聚类是机器学习问题中无监督学习的一个典型例子。在实际中,并非所有样本都可以贴上标签,在数据量极为庞大的时候,比如视频帧标注,对每个样本都进行贴注标签需要耗费极大精力。在无监督问题中,训练样本是没有标签的,如何对无标签训练样本进行学习,发现其内在的分布结构,同样是学术界和工业界赖以追求解决的一个问题,也是机器学习的一个未来发展方向。聚类将给定的样例集划分为若干个互不相交的子集。
2017-10-10 15:33:42
3508
原创 用起来不太朴素的朴素贝叶斯及其Python实现
作为一个听起来非常Naive的分类器,Naive Bayes Classifier使用了“属性条件独立性假设”,也就是假设所有属性相互独立。分类器的目的,是对任一测试样本xx,利用贝叶斯定理求出后验概率最大的输出类。
2017-10-07 12:32:03
3778
3
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人