AI吃大瓜的博客

深度学习进行目标识别的资源列表【转载请注明出处】http://blog.youkuaiyun.com/guyuealian/article/details/51470839【目标识别】深度学习进行目标识别的资源列表：包括RNN、MultiBox、SPP-Net、DeepID-Net、Fast R-CNN、DeepBox、MR-CNN、Faster R-CNN、YOLO、De

机器学习入门学习资源【转载请注明出处】http://blog.youkuaiyun.com/guyuealian/article/details/51471085这是一篇很难写的文章，因为我希望这篇文章能对学习者有所启发。我在空白页前坐下，并且问自己了一个很难的问题：什么样的库、课程、论文和书籍对于机器学习的初学者来说是最好的。文章里到底写什么、不写什么，这个问题真的让我很烦恼

BP神经网络的理解    【文章转至】http://www.cnblogs.com/jzhlin/archive/2012/07/28/bp.html     BP 神经网络中的 BP 为 Back  Propagation 的简写，最早它是由Rumelhart、McCelland等科学家于 1986 年提出来的，Rumelhart 并在Nature 上发表了一篇非常著名的文章

Deep Learning（深度学习）学习笔记整理系列zouxy09@qq.comhttp://blog.youkuaiyun.com/zouxy09作者：Zouxyversion 1.0  2013-04-08声明：1）该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文

在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关系到分类的正确与否。　　本文的目的就是对常用的相似性度量作一个总结。本文目录：1. 欧氏距离2. 曼哈顿距离3. 切比雪夫距离4. 闵可夫斯基距离

卷积神经网络转载请注明：http://blog.youkuaiyun.com/stdcoutzyx/article/details/41596663自今年七月份以来，一直在实验室负责卷积神经网络（Convolutional Neural Network，CNN），期间配置和使用过theano和cuda-convnet、cuda-convnet2。为了增进CNN的理解和使用，特写此博文，以其与人交流，互

本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在training d

这段话引用了很多次：        事实上，如果我们把人工智能相关的技术以及其他业界的技术做一个类比，就可以发现机器学习在人工智能中的重要地位不是没有理由的。       人类区别于其他物体，植物，动物的最主要区别，作者认为是“智慧”。而智慧的最佳体现是什么？       是计算能力么，应该不是，心算速度快的人我们一般称之为天才。       是反应能力么，也不是，

张志华教授的两门机器学习公开课是很好的机器学习资源。但在上海交大的公开课视频网站上挂出的教学视频顺序有点乱。对于初学者来说，如果没看对顺序的话，会觉得讲得很乱，从而错过这么优质的资源。事实上板书很完整，有电子版讲义可下载。只是讲义上有个别地方有点笔误，但不影响理解。能用黑板直接推导的老师的逻辑和思路都是很清晰的！

张志华教授《机器学习导论》和《统计机器学习》课程讲义 最近看了上海交大张志华教授的精品课程 《机器学习导论》和《统计机器学习》，觉得讲的很深入，适合学习机器学习和深度学习的研究者深入学习，张教授讲的比较偏向理论，需要一定的数学基础。 至于广大网友最关心的课程讲义和配套教材书籍，鄙人邮件详问过张教授，他说“目前只有学生记录下来的讲义，没有专门的教材”，张教授还好心留下讲义的下载链接：http://bcmi.sjtu.edu.cn/log/courses.html ，这也是他的个人主页，讲义

聚类算法-最大最小距离算法(实例+代码) 【尊重原创，转载请注明出处】http://blog.youkuaiyun.com/guyuealian/article/details/53708042目录聚类算法-最大最小距离算法(实例+代码)一、最大最小距离算法基本思想二、算法实现步骤1.最大最小距离聚类算法（Matlab版本）2.最大最小距离聚类算法（Python版本）3....

A geometric interpretation of the covariance matrixhttp://www.visiondummy.com/2014/04/geometric-interpretation-covariance-matrix/译文：http://demo.netfoucs.com/u010182633/article/details/45937051

通俗理解卷积神经网络（cs231n与5月dl班课程笔记）原文链接：http://blog.youkuaiyun.com/v_july_v/article/details/518124591 前言    2012年我在北京组织过8期machine learning读书会，那时“机器学习”非常火，很多人都对其抱有巨大的热情。当我2013年再次来到北京时，有一个词似乎比“机器学习”更

http://i.youku.com/i/UNjAzMzA4NjQ=/playlists?spm=a2hzp.8253869.0.0【1】复旦大学吴立德教授讲授的《数值优化》。使用教材为Nocedal, Jorge, and Stephen Wright. Numerical optimization. Springer Science & Business Media, 2006.

原文链接：http://blog.codinglabs.org/articles/pca-tutorial.htmlPCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。网上关于PCA的文章有很多，但是大多数只描述了PCA的分析过程，而没有讲

原文链接：http://blog.youkuaiyun.com/xl890727/article/details/16898315 在进行图像的特征提取的过程中，提取的特征维数太多经常会导致特征匹配时过于复杂，消耗系统资源，不得不采用特征降维的方法。所谓特征降维，即采用一个低纬度的特征来表示高纬度。特征降维一般有两类方法：特征选择和特征抽取。特征选择即从高纬度的特征中选择其中的一个子集来作为新的特征

PCA主成分分析原理分析和Matlab实现方法（三） PCA算法主要用于降维，就是将样本数据从高维空间投影到低维空间中，并尽可能的在低维空间中表示原始数据。PCA的几何意义可简单解释为： 0维-PCA：将所有样本信息都投影到一个点，因此无法反应样本之间的差异；要想用一个点来尽可能的表示所有样本数据，则这个点必定是样本的均值。 1维-PCA：相当于将所有样本信息向样本均值的直线投影； 2维-PCA：将样本的平面分布看作椭圆形分布，求出椭圆形的长短轴方向，然后将样本信息投

协方差矩阵和散布矩阵的意义 在机器学习模式识别中，经常需要应用到协方差矩阵C和散布矩阵S。如在PCA主成分分析中，需要计算样本的散度矩阵，有的论文是计算协方差矩阵。实质上二者意义差不多，散布矩阵（散度矩阵）前乘以系数1/(n-1)就可以得到协方差矩阵了。 在模式识别的教程中，散布矩阵也称为散度矩阵，有的也称为类内离散度矩阵或者类内离差阵，用一个等式关系可表示为： 关系：散度矩阵=类内离散度矩阵=类内离差阵=协方差矩阵×（n-1） 样本的协方差矩阵乘以n-1倍即为散布矩阵，n表示样本

在机器学习模式识别中，经常需要应用到协方差矩阵C和散布矩阵S。如在PCA主成分分析中，需要计算样本的散度矩阵，有的论文是计算协方差矩阵。实质上二者意义差不多，散布矩阵（散度矩阵）前乘以系数1/(n-1)就可以得到协方差矩阵了。在模式识别的教程中，散布矩阵也称为散度矩阵，有的也称为类内离散度矩阵或者类内离差阵，用一个等式关系可表示为：散度矩阵=类内离散度矩阵=类内离差阵=协方差矩阵×（n-1）。样本的协方差矩阵乘以n-1倍即为散布矩阵，n表示样本的个数，散布矩阵的大小由特征维数d决定，是一个为d×d 的半正定

Adaboost算法原理分析和实例+代码（简明易懂） 【尊重原创，转载请注明出处】 http://blog.youkuaiyun.com/guyuealian/article/details/70995333 本人最初了解AdaBoost算法着实是花了几天时间，才明白他的基本原理。也许是自己能力有限吧，很多资料也是看得懵懵懂懂。网上找了一下关于Adaboost算法原理分析，大都是你复制我，我摘...

应用背景：机器的模式识别所要解决的问题，就是用机器代替人去认识图像和找出一幅图像中人们感兴趣的目标物。如何找到目标物即图像的区域呢，这里介绍在空间域使用模板在图像中寻找与模板匹配的区域。基本原理：在空间滤波中，相关是指滤波器模板移过图像并计算每个像素位置的灰度乘积之和的过程。基于相关的图像模板匹配过程类似于滤波过程，设图像f(x,y)的大小为M*N和模板子图像w(x,y)的大小为J*K，则f与w的

如果要在一幅图像中寻找已知物体，最常用且最简单的方法之一就是匹配。在目标识别的方法中，匹配属于基于决策理论方法的识别。匹配方法可以是最小距离分类器，相关匹配。本文code是基于最小距离分类器，基于相关匹配的与此类似。本文涉及到的知识点如下：1、目标识别.2、基于决策理论方法的识别3、匹配（最小距离分类器、相关匹配）4、空间相关（相关匹配涉及）匹配之前，需要先将图像转换为灰度图，函数为rgb2gra

1、HOG特征：       方向梯度直方图（Histogram of Oriented Gradient, HOG）特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。Hog特征结合SVM分类器已经被广泛应用于图像识别中，尤其在行人检测中获得了极大的成功。需要提醒的是，HOG+SVM进行行人检测的方法是法国研究人员Dalal在2

LBP（Local Binary Pattern，局部二值模式）是一种用来描述图像局部纹理特征的算子；它具有旋转不变性和灰度不变性等显著的优点。它是首先由T. Ojala, M.Pietikäinen,和 D. Harwood 在1994年提出，用于纹理特征提取。而且，提取的特征是图像的局部的纹理特征； 1、LBP特征的描述       原始的LBP算子定义为在3*3的窗口内，以窗口中心像素为阈值

1、Haar-like特征       Haar-like特征最早是由Papageorgiou等应用于人脸表示，Viola和Jones在此基础上，使用3种类型4种形式的特征。Haar特征分为三类：边缘特征、线性特征、中心特征和对角线特征，组合成特征模板。特征模板内有白色和黑色两种矩形，并定义该模板的特征值为白色矩形像素和减去黑色矩形像素和。Haar特征值反映了图像的灰度变化情况。例如：脸部的一些特

OpenCV中BLOB特征提取与几何形状分类一：方法二值图像几何形状提取与分离，是机器视觉中重点之一，在CT图像分析与机器人视觉感知等领域应用广泛，OpenCV中提供了一个对二值图像几何特征描述与分析最有效的工具 - SimpleBlobDetector类，使用它可以实现对二值图像几何形状的分离与分析。而它之所以强大是因为整合OpenCV中其它一些API的功能，主要是有三个：自动的图像灰度与二值化