从对偶定理看择一定理（Farkas为例）

原创 已于 2023-09-19 21:57:40 修改 · 968 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#学习

于 2023-09-19 21:41:05 首次发布
本文讨论了如何通过Farkas引理将线性规划的无约束问题转化为等式和不等式条件下的对偶问题，强调了当原问题与对偶问题其中一个有解时另一个必定无解的特性。目标函数被调整以确保问题的互补性。

上图是对偶问题，下图为Farkas引理

Farkas引理改变表达方式

I:\begin{Bmatrix} z=cx>0\\ Ax\leqslant 0\\ \forall x \end{Bmatrix} II:\begin{Bmatrix} w=y\cdot 0=0\\ yA=c\\ y\geqslant 0 \end{Bmatrix}

x的无约束转为y的等式条件以及x的小于等于条件转为y的大于等于条件与对偶定理完全一致。

对于对偶定理，若原问题有最优解，那么对偶问题也有最优解，且目标函数值相等。

这里改动了目标函数，取消了最大化与最小化问题，专门设置了条件使得两个线性系统互斥（一个有解，另一个必无解；一个无解，另一个必有解）

心远心
关注
【人工智能的数学基础】线性规划的对偶理论(Duality Theory)
AI天才研究院
06-26 5045
一般地，对偶是指将原问题转化为一个等价的、但具有不同形式的新问题；将新问题通过同样形式的变换后能够还原为原问题。解决对偶问题，就等价地解决了原问题；弱对偶形式将一个最小值问题转换为一个最大值问题，给出了原问题的一个下界。，则在空间中应具有两种情况：在锥体内部(包括边界)和在锥体外部。对于线性规划问题来说，强对偶形式是成立的；有时线性规划问题难以直接求解，因此转而寻找线性规划问题的。线性规划问题的原问题是一个最小值问题，不妨假设最小值在。进一步地，若两个问题相等，则称为强对偶形式。上述两个不等式恒成立。
Farkas 定理的几何证明
agagagga的博客
11-14 2438
参考书：《最优化理论与算法》陈宝林 Farkas定理是凸集分离定理的应用 Farkas定理：设A为矩阵，c为n维向量，则 有解的充要条件是 无解。 证明： 高维平面 H经过原点0，p 为n维列向量，是高维平面方程的参数。 由 ...
UA SIE545 优化理论基础1 例题2 Farkas定理与相关结论
一个不愿透露姓名的博客
10-12 1689
UA SIE545 优化理论基础1 例题2 Farkas定理与相关结论
Farkas引理
05-02 1万+
大家学过线性代数，对于线性方程组应该很熟了吧，今天变个样，聊聊线性不等式组。研究线性不等式组，就不能不提著名的Farkas引理，据说是1894年由英国数学家Farkas首先证明，之后又有了很多变种，当然最牛掰的是：当二战爆发后，随着一门新的学科——线性规划——的诞生，这个古老定理焕发了别样的活力。 习惯上，Farkas引理有“方程组形式”和“不等式组形式”两种形式。当然，聊不等式组，还是要从
farkas引理的证明.pdf
03-27
farkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdffarkas引理的证明.pdf
法卡斯定理(Fakars' Lemma)
rauchy的博客
08-11 6688
定义 证明
线性规划中的对偶理论与Farkas引理及应用
世事难料，保持低调
02-03 4142
对偶（Duality）理论与Farkas引理是线性规划中非常重要的部分，有着广泛的应用。本文聊一下关于它们的一些理解。文章不重在理论推导，因为任何一本关于优化的书基本都会有单独的章节来阐述相关的证明。以下先分别介绍Duality理论与Farkas引理，再说说它们的联系。
线性锥系统的Gordan型择一定理 (2008年)
05-12
为了将线性规划中的基础理论之一的择一定理推广到一般线性锥系统上，应用对偶锥的概念和线性锥系统的Farkas引理，给出了一般线性锥系统的择一定理。所得结果显示含齐次线性不等式组的线性锥系统和它的对偶系统都存在...
优化问题中的对偶性与相关定理
# 优化问题中的对偶性与相关定理 ## 1. 非线性 Farkas 引理 在优化理论中，非线性 Farkas 引理是一个重要的结果，它是 Farkas 引理的非线性版本。不过，使用该引理需要假设满足 Slater 型条件，这个引理也是证明强...
Farkas引理的几种证明方法.pdf
10-27
引理的基本内容涉及到线性不等式系统解的存在性问题，并提供了一种通过线性规划的对偶理论来证明解集为空集的条件。 预备知识部分涉及到凸分析中的几个重要概念，包括凸集与点的分离定理、锥与极锥理论以及对偶理论...
费马引理
技术成就梦想，梦想成就未来。If you try hard enough, it can be.
07-19 2865
函数的极值点不一定是驻点，除非该点存在导数。
择一性定理的新证明 (2005年)
05-13
文章利用内点方法理论中斜对称问题的结果，给出了Farkas引理，Gale定理，Gorden定理的新证明。
线性规划强对偶证明
欢迎来到道的世界
02-01 3193
线性规划弱对偶性  给定矩阵A∈Rm×nA\in \mathbb{R}^{m\times n}A∈Rm×n，向量x,c∈Rnx,c\in \mathbb{R}^nx,c∈Rn，向量b,y∈Rmb,y\in \mathbb{R}^mb,y∈Rm，则有如下线性规划min⁡x{c⊤x∣Ax=b,x≥0}\min\limits_{x}\{c^{\top}x|Ax=b,x\ge 0\}xmin​{c⊤x∣Ax=b,x≥0}其中x∗x^{*}x∗为以上线性规划的最小值，其对偶形式表示为max⁡y{b⊤y∣A⊤y≤c}\
「管理数学基础」3.1 凸分析：凸集与凸集分离定理、Farkas引理
记录学习痕迹的公众号：Piper蛋窝
12-12 2877
关于凸集的基础概念。
最优化理论——（二）凸性1 凸集
m0_63853448的博客
09-18 904
文章目录1.凸集1.1凸集的概念及性质1.2凸集的分离定理1.3凸集分离定理应用2.多胞形的表示定理（Polytope）3.凸函数（Convex Function）4.凸规划（Convex Programming） 凸性是最优化理论必须涉及到的基本概念 具有凸性的非线性规划模型是一类特殊的重要模型 它在最优化的理论证明及算法研究中具有非常重要的作用 1.凸集 1.1凸集的概念及性质 1.其他定义 2.凸集的定义 3.常见的凸集 4.凸集的性质 5.锥和凸锥 1.2凸集的分
对偶
qq_38481158的博客
04-14 5072
1.Lagrange对偶函数[1]Lagrange函数、对偶函数、最优值的下界原问题：原问题并没有假设是一个凸优化问题Lagrange函数：对偶函数：                                    这里注意x的在定义域里取对偶函数的一个重要性质，我们首先由在R^n空间中的原问题的目标函数、等式约束、不等约束构造了一个在R^n*R^m*R^p空间中的Lagrange函数，再由...
Farkas'Lemma 和 S-Lemma
zte10096334的博客
07-13 4548
11
Hessian矩阵正定与函数凹凸性的关系
热门推荐
Machine Learning with Tutors
12-25 7万+
当然，通过主元变换或直接求出行列式的值也是方法之一，但由于缺乏充分性，即行列式小于零一定非正定，但大于零则不一定正定，因为偶数次的负元素相乘依旧得正，因此用所有主元（对角线）上的元素来判断的方法更为完备。因此，在诸如牛顿法等梯度方法中，使用黑塞矩阵的正定性可以非常便捷的判断函数是否有凸性，也就是是否可收敛到局部/全局的最优解。正定、半正定矩阵的直觉代表一个向量经过它的变化后的向量与其本身的夹角小于等于90度。Hessian矩阵的正定性在判断优化算法可行性时非常有用，简单地说，黑塞矩阵正定，则。
Convex optimization theory Farkas
最新发布
12-27
### 凸优化中的Farkas引理 #### 定义与表述 在凸优化理论中，Farkas引理是一个重要的定理，它描述了一组线性不等式的解的存在性和性质。具体来说，对于给定矩阵 \( A \in \mathbb{R}^{m \times n} \) 和向量 \( b \in \mathbb{R}^m \)，存在两种互斥的情况之一： 1. 存在一个向量 \( x \geq 0 \) 使得 \( Ax = b \)[^1]。 2. 或者存在一个向量 \( y \) 使得 \( A^\top y \geq 0 \) 并且 \( b^\top y < 0 \)[^1]。 这两种情况不可能同时成立，并且其中一种必定成立。 #### 应用场景 Farkas引理广泛应用于证明其他重要定理以及解决实际问题。例如，在经济学中用于研究市场均衡；在线性规划中作为强对偶性的基础工具；在机器学习领域帮助理解支持向量机(SVMs)的工作原理[^2]。 #### 数学推导过程 为了更好地理解这个概念，可以考虑下面简单的例子来展示如何应用该引理解决问题： 假设有一个标准形式下的线性方程组\(Ax=b\)，我们想要判断是否存在非负解\(x\geqslant0\)满足此条件。此时就可以利用Farkas引理来进行分析了。 如果上述第一个条件能够被满足，则说明确实有符合条件的解存在； 反之则意味着第二个条件成立——即可以通过找到合适的y来验证原问题是不可行的。 ```python import numpy as np from scipy.optimize import linprog def check_farkas(A, b): res = linprog(c=np.zeros_like(b), A_eq=A.T, b_eq=b, bounds=(None, None)) if res.success: return "Condition (i): There exists a non-b A_ub = -A res_dual = linprog(c=c, A_ub=A_ub, b_ub=np.zeros(len(A)), method='highs') if res_dual.success and all(res_dual.x >= 0): return f"Condition (ii): Found {res_dual.x}" else: return "No valid condition found." # Example usage with given matrix A and vector b. A_example = [[1, 2], [-1, 1]] b_example = [8, 3] print(check_farkas(np.array(A_example).T, np.array(b_example))) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值