
最优化方法
文章平均质量分 83
jbb0523
彬彬有礼
展开
-
MOSEK二次规划函数quadprog错误: ERROR - (quadprog): H is not a square matrix of dimension length(f)
题目:MOSEK二次规划函数quadprog错误: ERROR - (quadprog): H is not a square matrix of dimension length(f)本篇需要如下基础:(1)使用Matlab二次规划quadprog函数:参见《二次规划问题和MATLAB函数quadprog的使用》,链接:https://blog.youkuaiyun.com/jbb0523/a...原创 2020-02-26 09:57:28 · 3224 阅读 · 1 评论 -
MOSEK优化包的安装、使用及注册:以Matlab中的二次规划为例
题目:MOSEK优化包的安装、使用及注册:以Matlab中的二次规划为例 MOSEK优化包(MOSEK optimization package)是一个高效的优化问题求解工具包, MOSEK官方网站(https://www.mosek.com/):1、软件下载 在Download页面(https://www.mosek.com/downloads/)根据...原创 2019-09-25 20:41:34 · 27979 阅读 · 8 评论 -
同伦法(Homotopy Method)
题目:同伦法(Homotopy method) 学习压缩感知重构算法,经常能见到同伦法,但这里首先要特别说明的是,今天这里讨论的同伦法仅仅是一种思想,而不是一个具体的算法,类似于Majorization-Minimization优化框架。1、同伦的基本原理 首先看一下同伦的基本原理【1】: 这里说的比较专业,直接简单一点,例如,令原创 2016-09-07 16:13:38 · 32610 阅读 · 9 评论 -
不动点迭代(Fixed Point Iteration)
题目:不动点迭代(Fixed Point Iteration) 本篇介绍不动点迭代(Fixed Point Iteration)。之所以学习不动点迭代是由于近来看到了FPC算法,即Fixed PointContinuation,有关FPC后面再详述。 从搜索到的资料来看,不动点迭代是一个很基本很常见的概念,具体出自哪一门基础课不详,反正之前我没听说过。原创 2016-09-07 15:30:14 · 86888 阅读 · 4 评论 -
软阈值(Soft Thresholding)函数解读
题目:软阈值(Soft Thresholding) 函数解读1、软阈值(Soft Thresholding)函数的符号 软阈值(SoftThresholding)目前非常常见,文献【1】【2】最早提出了这个概念。软阈值公式的表达方式归纳起来常见的有三种,以下是各文献中的软阈值定义符号:文献【1】式(12):文献【2】:文献【3】:文献【4】原创 2016-08-03 14:46:23 · 112089 阅读 · 54 评论 -
硬阈值(Hard Thresholding)函数解读
题目:硬阈值(Hard Thresholding)函数解读1、硬阈值(Hard Thresholding)函数的符号 硬阈值(Hard Thresholding)并没有软阈值(Soft Thresholding)那么常见,这可能是因为硬阈值解决的问题是非凸的原因吧。硬阈值与软阈值由同一篇文献提出,硬阈值公式参见文献【1】的式( 11): 第一次邂逅硬阈值原创 2016-08-03 15:22:44 · 50747 阅读 · 14 评论 -
迭代硬阈值(IHT)的补充说明
题目:迭代硬阈值(IHT)的补充说明 本篇是对压缩感知重构算法之迭代硬阈值(IHT)的一个补充。 学完IHT后,近期陆续学习了硬阈值(hard Thresholding)函数和Majorization-Minimization(MM)优化框架,对IHT有了一些新的和深入的理解,补充一下。1、真正的迭代硬阈值(IHT)算法 这里直接说的是原创 2016-08-06 10:28:52 · 11430 阅读 · 6 评论 -
Majorization-Minimization优化框架
题目:Majorization-Minimization优化框架 Majorization-Minimization优化框架在各类算法中是很常见的,而且这个思想其实也很容易理解,简单点说,只需文献【1】中的三页PPT即可: 或者用文献【2】中的三页PPT来说明: 注意一点:在迭代过程中,新的目标函数是不断原创 2016-08-06 10:14:57 · 21571 阅读 · 5 评论 -
二次规划问题和MATLAB函数quadprog的使用
题目:二次规划问题 二次规划(Quadratic Programming,QP)问题的一般形式为:其中,为纯量,为阶对称矩阵。易知二次规划的Hesse矩阵等于。如果为半正定矩阵,则称此规划为凸二次规划,否则为非凸规划。对于凸二次规划,目标函数q(x)是一个凸函数。如果有至少一个向量x满足约束而且q(x)在可行域有下界,二次规划问题就有一个全局最小值x。 如果G原创 2016-01-28 10:05:59 · 152053 阅读 · 35 评论 -
线性规划问题和MATLAB函数linprog的使用
题目:线性规划问题 线性规划(Linear Programming, LP)问题的一般形式为:其中。矩阵向量形式为其中, , 线线规划的几个基本性质:【文献[1]第46页】 (1)线性规划问题的可行域如果非空,则是一个凸集-凸多面体; (2)如果线性规划问题有最优解,那么最优解可在原创 2016-01-27 20:53:15 · 78494 阅读 · 11 评论 -
二次规划基础:二次型、正定矩阵、海塞矩阵
题目:二次规划基础:二次型、正定矩阵、海塞矩阵 学习二次规划时,需要知道一些基础知识方能看懂,二次型、正定矩阵和半正定矩阵是绕不开的概念,海塞矩阵也是经常要用的名词,所以本篇首先学习一下这三个概念。1、二次型(文献【1】第127-128页)主对角线上的元素分别为x2,y2,z2的系数(分别为1,0,3),第1行第2列和第2行第1列两原创 2016-01-28 09:46:23 · 21663 阅读 · 2 评论 -
最优化问题简介
题目:最优化问题简介 一年多学习以来,无论是前面学习压缩感知,还是这半年学习机器学习,一直离不开最优化,比如压缩感知的基追踪类重构算法,核心问题就是一个优化问题,而机器学习中的很多算法也需要最优化的知识,比如支持向量机算法。看来必须得把最优化的基本内容学习一下了,不求理解的有多么深,至少要知道怎么用。其实前面已经写过一篇与最优化相关的内容了,就是《压缩感知中的数学知识:凸优化原创 2016-01-27 20:39:33 · 13485 阅读 · 2 评论 -
压缩感知中的数学知识:凸优化
题目:压缩感知中的数学知识:凸优化原创 2014-11-03 17:47:19 · 18367 阅读 · 9 评论