机器学习与遥感图像智能信息处理实验室-优快云博客

转载 Softmax的理解与应用

【转】Softmax在机器学习中有非常广泛的应用，但是刚刚接触机器学习的人可能对Softmax的特点以及好处并不理解，其实你了解了以后就会发现，Softmax计算简单，效果显著，非常好用。我们先来直观看一下，Softmax究竟是什么意思我们知道max，假如说我有两个数，a和b，并且a>b，如果取max，那么就直接取a，没有第二种可能但有的时候我不想这样，因为这样会造成分值小

2017-03-25 21:06:03 1730

大数据、人工智能、海难搜救、生物医学、邮件过滤，这些看起来彼此不相关的领域之间有什么联系?答案是，它们都会用到同一个数学公式——贝叶斯公式。它虽然看起来很简单、很不起眼，但却有着深刻的内涵。那么贝叶斯公式是如何从默默无闻到现在广泛应用、无所不能的呢?一什么是贝叶斯公式18世纪英国业余数学家托马斯·贝叶斯(Thomas Bayes，1702～1761)提出过一种看上去似乎显而易见的观点：“用客观的新

2016-07-29 08:56:08 16783 1

原创 Maximum Noise Fraction (MNF) 中文翻译

英文中有很多单词，翻译成中文怎么看怎么别扭，词不达意，Maximum Noise Fraction就是其中的一例。前面两个单词的翻译都没有什么异议，最大噪声，但第三个单词很难意译，翻译结果也五花八门：分数、分离、比率、比例等。合起来就是：最大噪声分数、最大噪声分离、最大噪声比率、最大噪声比值。哪一个还是最恰当的呢？根据MNF方法的原理，它是要将噪声的方差与图像总

2016-06-18 05:59:29 2330

原创矩阵的向量化及内积

定义1. 设矩阵A=(aij)∈Rm×nA=(a_{ij})\in R ^{m\times n}，把矩阵AA的元素按行的顺序排列成一个列向量： vecA=(a11,a12,⋯,a1n,a21,a22,⋯,a2n,⋯,am1,am2,⋯,amn)TvecA = (a_{11},a_{12},\cdots, a_{1n}, a_{21},a_{22},\cdots, a_{2n}, \cdots, a

2016-02-16 20:39:30 11048

转载 Proximal Gradient Descent for L1 Regularization

[本文链接：http://www.cnblogs.com/breezedeus/p/3426757.html，转载请注明出处]假设我们要求解以下的最小化问题： minxf(x)\min\limits_x f(x) 如果f(x)f(x)可导，那么一个简单的方法是使用Gradient Descent (GD)方法，也即使用以下的式子进行迭代求解： xk+1:=xk−α∇f(xk)。x_{k+1}

2016-02-03 12:11:34 5572 1

转载燃起对研究的激情

整理：戚冬杰互联网数据管理组实习生 “研究规范” 是微软亚洲研究院面向实习生推出的一个分享研究经纬的讲座系列。视觉计算组高级研究员马毅的开讲，揭开了这一系列的序幕。马毅，成长于四川，就学于北京清华，深造于美国加利佛尼亚大学伯克利分校，后在美国伊利诺伊大学香槟分校任教时，成为了电气与计算机工程系历史上最年轻的副教授。在来到微软亚洲研究院工作的时候，他最想把自己体验到的东西方治

2015-11-18 23:59:16 976

转载马毅与来自高维度的恩赐

原文地址：马毅与来自高维度的恩赐作者：微软亚洲研究院文：Rob Knies翻译：曹璐倩校对：孙凌马毅研究员我们生活在一个数据膨胀的世界。对于今天的科学家来说，数据泛滥不能不失为一个难题。一方面，有丰富的信息可供分析利用。而另一方面，如此丰富的数据带来了学习与研究庞大数据量的成本。有时，这的确可能成为非常沉重的负担。但在马毅的研究中，这巨量

2015-11-18 23:34:32 1578

转载矩阵的tr

转载请声明出处：http://www.cnblogs.com/gaoshangbing/articles/1700717.html在线性代数中，n乘n方阵“A”的迹，是指“A”的主对角线各元素的总和（从左上方至右下方的对角线），例如： tr(A)=A 1,1 +A 2,2 +...+A n,n tr(A) = A_{1,1} + A_{2,2} + ... + A_{n,n} 其中 A ij

2015-11-14 16:24:32 6694

转载 ADMM优化算法

ADMM优化算法原文链接： http://www.cnblogs.com/breezedeus/p/3496819.html从等式约束的最小化问题说起：minf(x)s.t.Ax=b \min f(x) \quad s.t. Ax=b上面问题的拉格朗日表达式为：L(x,λ)=f(x)+λ T (Ax−b) L(x,λ)=f(x)+λ^T(Ax-b)也就是前面的最小化问题可以写为：min x max

2015-08-03 18:42:09 8294

转载 Matlab字典学习工具

Dictionary Learning Tools for MatlabKarl Skretting, University of Stavanger.

2015-08-03 11:31:21 3936 1

原创 Matlab中配置LibSVM的操作步骤

安装Matlab 2014a和Visual Studio 2010。将libsvm-3.17.zip和drtoolbox.tar文件解压，并放到 C:\Program Files\MATLAB\R2014a\toolbox目录下。在桌面上右键单击Matlab的图标，选择“以管理员身份运行”。单击File菜单下的Set Path…菜单项，打开Set Path对话框。单击Add with Su

2015-08-02 17:45:28 1104

原创对称矩阵的特征向量两两正交的证明

对称阵有一个很优美的性质：它总能相似对角化，对称阵不同特征值对应的特征向量两两正交。假设矩阵AA是一个对称矩阵， xix_i和xjx_j 是矩阵AA 的任意两个特征向量，λi\lambda_i和λj\lambda_j 是与xix_i和xjx_j 相对应的特征值，则有： Axi=λixi(1)Ax_i = \lambda_ix_i \qqu

2015-08-02 17:23:36 23057 2

原创变量分裂法（Variable Splitting）

变量分裂法变量分裂方法可以解决目标函数是两个函数之和的优化问题： min u∈K n f 1 (u)+f 2 (g(u))(1) \min\limits_{u\in K^n}f_1(u)+f_2(g(u))\qquad (1) 其中g是n维向量到d维向量的一个映射。所谓的变量分裂就是将上式变为： min u∈K n ,v∈R d s.t. f 1 (u)+f 2 (v)g(u)=v (

2015-08-02 17:10:28 4173

转载 SCI收录期刊——遥感学科

转自科学网：http://blog.sciencenet.cn/home.php?do=blog&id=251454&mod=space&uid=57081万跃华 2009年8月26日截至到2009年8月SCI扩展版收录遥感学科期刊23种（SCI核心版6种），其中2009年开始被SCI收录的遥感学科期刊1种，2008年开始被SCI收录的遥感学科期刊4种，出版地为的美国遥感期刊10种

2015-07-22 20:33:13 3477

转载矩阵求逆引理

昨天晚上我看天线阵列的论文，其中有一处表达式没有看明白怎么回事。后来查阅附录，找到了一个“矩阵求逆引理”，其内容为：若矩阵A∈CN×N，C∈CN×N，均为非奇异矩阵，矩阵B∈CN×M，D∈CM×N，则矩阵A+BCD具有逆矩阵：(A+BCD)-1=A-1-A-1B(DA-1B+C-1)-1DA-1 我试图推导，花了好多时间，却没有什么收获。这个式子仿佛四

2015-07-14 21:36:28 3946 1

原创 CVX: Matlab Software for Disciplined Convex Programming

http://cvxr.com/cvx/CVX is a Matlab-based modeling system for convex optimization. CVX turns Matlab into a modeling language, allowing constraints and objectives to be specified using standard Mat

2015-06-25 16:23:48 2582

原创 Matlab Toolbox for Dimensionality Reduction

The Matlab Toolbox for Dimensionality Reduction contains Matlab implementations of 34 techniques for dimensionality reduction and metric learning. A large number of implementations was developed f

2015-05-27 15:44:11 1119

转载 GDAL专栏

李民录的专栏http://blog.youkuaiyun.com/liminlu0314/article/category/777646

2015-05-26 10:34:16 758

转载各种距离度量

在做分类时常常需要估算不同样本之间的相似性度量(SimilarityMeasurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关系到分类的正确与否。　　本文的目的就是对常用的相似性度量作一个总结。本文目录：1.欧氏距离2.曼哈顿距离3. 切比雪夫距离4. 闵可夫斯基距离

2015-05-20 19:47:14 931

原创 Low-Rank Matrix Recovery and Completion via Convex Optimization

Low-Rank Matrix Recovery and Completion via Convex OptimizationThis website introduces new tools for recovering low-rank matrices from incomplete or corrupted observations.

2015-05-17 17:16:51 1528

转载 Robust PCA 学习笔记

转载请声明出处：http://blog.youkuaiyun.com/abcjennifer/article/details/8572994作者：Rachel-Zhang很久没有写学习笔记了，年初先后忙考试，忙课程，改作业，回家刚安定下来，读了大神上学期给的paper，这几天折腾数学的感觉很好，就在这里和大家一起分享一下，希望能够有所收获。响应了Jeffrey的建议，强制自己把笔记做成英文的，

2015-05-14 14:43:01 1335

转载浅谈流形学习

总觉得即使是“浅谈”两个字，还是让这个标题有些过大了，更何况我自己也才刚刚接触这么一个领域。不过懒得想其他标题了，想起来要扯一下这个话题，也是因为和朋友聊起我自己最近在做的方向。Manifold Learning 或者仅仅 Manifold 本身通常就听起来颇有些深奥的感觉，不过如果并不是想要进行严格的理论推导的话，也可以从许多直观的例子得到一些感性的认识，正好我也就借这个

2015-05-11 10:09:04 802

转载第一篇SCI背后的故事——李华丽

第一篇SCI背后的故事——李华丽

2015-05-11 09:44:59 733

转载协方差与相关系数

作者：Vamei 出处：http://www.cnblogs.com/vamei 欢迎转载，也请保留这段声明。谢谢！前面介绍的分布描述量，比如期望和方差，都是基于单一随机变量的。现在考虑多个随机变量的情况。我们使用联合分布来表示定义在同一个样本空间的多个随机变量的概率分布。联合分布中包含了相当丰富的信息。比如从联合分布中抽取某个随机变量的边缘分布，即获得该随机变量的分布，并可

2015-05-07 22:23:55 1993

转载弗罗贝尼乌斯范数

转载请声明出处 http://blog.youkuaiyun.com/xiaoshengforever/article/details/20729331弗罗贝尼乌斯范数对 p = 2，这称为弗罗贝尼乌斯范数（Frobenius norm）或希尔伯特-施密特范数（ Hilbert–Schmidt norm），不过后面这个术语通常只用于希尔伯特空间。这个范数可用

2015-05-04 11:41:27 2666

转载主成分分析(PCA)原理及推导

转载请声明出处http://blog.youkuaiyun.com/zhongkejingwang/article/details/42264479 什么是PCA？在数据挖掘或者图像处理等领域经常会用到主成分分析，这样做的好处是使要分析的数据的维度降低了，但是数据的主要信息还能保留下来，并且，这些变换后的维两两不相关！至于为什么？那就接着往下看。在本文中，将会很详细的解答这些问题：PCA、

2015-04-29 08:56:50 2600

转载奇异值分解(SVD)原理详解及推导

转载请声明出处http://blog.youkuaiyun.com/zhongkejingwang/article/details/43053513 在网上看到有很多文章介绍SVD的，讲的也都不错，但是感觉还是有需要补充的，特别是关于矩阵和映射之间的对应关系。前段时间看了国外的一篇文章，叫A Singularly Valuable Decomposition The SVD of a

2015-04-29 08:54:51 1265

原创协方差矩阵是半正定矩阵的证明

对于任意矩阵，其对应的协方差矩阵为。任取向量，则。因此矩阵半正定。

2015-04-29 08:37:34 4191

原创实对称正定矩阵存在平方根的证明

实对称正定矩阵存在平方根的证明

2015-04-28 09:58:42 3317

原创 Matlab安装支持向量机（libsvm插件）

1、首先，你需要安装完成Matlab。2、将libsvm-3.17.zip和drtoolbox.tar文件解压到：libsvm-3.17文件夹和drtoolbox，并放到MATLAB的工具箱安装目录下，例如：C:\Program Files\MATLAB\R2014a\toolbox目录下。3、启动Matlab。4、单击File菜单下的Set Path...菜单项，打开Set

2015-04-26 11:20:24 1428

机器学习与遥感图像智能信息处理