24、双层问题样本逼近的收敛性及非凸下层双层优化问题求解

双层问题样本逼近的收敛性及非凸下层双层优化问题求解

一、样本逼近

在随机优化中，对于概率最大化问题和分位数最小化问题，我们可以通过随机向量生成的样本进行逼近。
1. 概率函数估计
- 利用事件({\Phi(u, X) \leq \phi})的频率来估计概率函数(P_{\phi}(u))，公式为(P_{\phi}^{(N)}(u) := \frac{1}{N} \sum_{\nu = 1}^{N} \chi_{[-\infty, \phi]}(\Phi(u, X_{\nu})))，其中(\chi_{S}(x))是示性函数，当(x \in S)时为(1)，否则为(0)。
2. 分位数函数估计
- 用上述估计的概率函数替换原分位数函数中的概率函数，得到分位数函数的样本估计(\phi_{\alpha}^{(N)}(u) := \min {\phi \in R^{ } | P_{\phi}^{(N)}(u) \geq \alpha})。
3. 问题的样本逼近形式 *
- 概率最大化问题的样本逼近形式为：(U^{(N)} := \text{Arg} \max_{u \in U} P_{\phi}^{(N)}(u))，(\alpha_{N} := \sup_{u \in U} P_{\phi}^{(N)}(u))。
- 分位数最小化问题的样本逼近形式为：(V^{(N)} := \text{Arg} \min_{u \in U} \phi_{\alpha}^{(N)}(u))，(\phi_{N} := \inf_{u \in U} \phi_{\a