稀疏传感器放置
Title
Sensor Selection via Convex Optimization.通过凸优化选择传感器.
Autor information
引用格式:Joshi, Siddharth, and Stephen Boyd. “Sensor selection via convex optimization.” IEEE Transactions on Signal Processing 57.2 (2008): 451-462.pdf链接
Full text
Abtract
我们考虑从一组可能的或潜在的传感器测量中选择一组传感器测量的问题,以最大限度地减少估计某些参数的误差。通过评估传感器测量的每个 C m k C_m^k Cmk可能选择的性能来解决这个问题是不可行的,除非m和k很小。在本文中,我们描述了一种基于凸优化的启发式算法,用于近似求解这个问题。我们的启发式算法给出了子集选择以及通过任何传感器测量选择可以实现的最佳性能的界限。不能保证所选子集的性能与性能界限之间的差距总是很小;但数值实验表明,在许多情况下,间隙很小。我们的启发式方法要求运算的顺序;对于1000个可能的传感器,我们可以在几秒钟内在2GHz的个人计算机上进行传感器选择。
Introduction
我们研究了从m个潜在传感器中选择k个传感器的问题。每个传感器都给出了参数向量
x
x
x一个线性函数传感器,加上一个加性噪声;我们假设这些测量噪声是独立的同分布零均值高斯随机变量。传感器选择,即选择要使用的传感器子集
k
k
k,影响估计误差协方差矩阵。我们的目标是选择传感器来最小化估计误差协方差矩阵的行列式,这相当于最小化相关置信椭球的体积。解决传感器选择问题的一个简单方法是评估传感器选择的所有
C
m
k
C_m^k
Cmk选择的性能,但显然这是不实用的,除非m或k非常小。
在本文中,我们描述了一种近似求解传感器选择问题的新方法。我们的方法基于凸优化,因此易于处理,计算复杂度增长为
O
(
m
3
)
\mathcal O(m^3)
O(m3)。该方法既提供了传感器的次优选择,也提供了在所有可能的选择中可以实现的性能的界限。因此,我们得到了一个次优设计,以及次优程度的界限。大量的数值实验表明,这两者之间的差距通常很小。我们的基本方法可以被任何局部优化方法所遵循。例如,我们已经发现,贪婪算法考虑了一组选定和未选定传感器之间的所有可能的交换,接受任何改善目标的交换,可以适度改善传感器选择的质量。当该局部搜索终止时,它给出了2-opt传感器选择,即,选择的传感器和未选择的传感器之间没有交换的传感器具有更好的目标值。
1) 先前和相关工作:传感器选择问题出现在各种应用中,包括机器人[2]、结构传感器放置[3]、[4]、目标跟踪[5]、[6]、化工厂控制[7]和无线网络[8]。[9]-[11]等研究了动态系统背景下的传感器选择。传感器选择与我们的设置截然不同,已在传感器网络管理[12]、传感器网络中的假设测试[13]和离散事件系统[14]中进行了研究。我们在本文中使用的传感器选择问题公式可以在例如[15]中找到。传感器选择问题(以及第五节中描述的各种扩展)可以在信息论框架[16]-[19]和贝叶斯框架[20]、[21]中表述。(我们稍后将对此进行更详细的评论。)[22]中考虑了传感器选择问题的复杂性(尽管不是我们考虑的问题),作者在其中证明了它是NP难的。(据我们所知,我们考虑的传感器选择问题的NP-hardness尚未建立。)传感器选择问题可以使用全局优化技术来精确求解,如分枝定界[23],[24]。
这些方法可以而且经常运行很长时间,即使值为k和m。
已经提出了几种启发式方法来近似地解决传感器选择问题。其中包括遗传算法[15]和特定应用的局部搜索方法。[25]和[26]中总结了类似于我们描述的局部优化技术。虽然这些启发式方法可以产生良好的次优传感器选择,但它们不会对可实现的性能产生任何保证或限制。在任何情况下,任何局部优化方法,包括这些论文中描述的方法,以及随机舍入等通用方法[27],都可以纳入我们的方法中。
传感器选择问题与D-最优实验设计问题密切相关[28],[29]。在这里,我们也要从选项板中选择一个子集的可能测量。然而,在D-最优实验设计中,我们考虑了当k和m两者以恒定比率增长时的情况;问题不在于使用哪种传感器,而在于每种传感器的使用频率。D-最优实验设计问题的标准凸松弛(参见,例如[30,第7.5节])导致了一个与我们的问题相似但不同的凸问题;我们将在下面更详细地讨论这些差异。
最后,我们注意到,使用凸松弛作为求解组合问题的启发式算法的基础的想法是相当古老的,并且已经被观察到在许多应用中给出了非常好的结果。最近使用这种通用技术解决的问题是压缩传感[31]、稀疏回归器选择[32]、稀疏信号检测[33]、稀疏解码[34]和许多其他问题。使用凸松弛的其他应用包括具有交易成本的投资组合优化[35]、控制器设计[36]和电路设计[37]。
Method
假设我们要从线性测量中估计一个向量
x
∈
R
n
x\in\mathcal R^n
x∈Rn,该向量被加性噪声破坏
y
i
=
a
i
T
+
v
i
,
i
=
1
,
2...
,
m
y_i=a_i^T+v_i,\ i=1,2...,m
yi=aiT+vi, i=1,2...,m
Conclusion
导出最小化MSE函数的下界,给出贪心法求解的性能保证,而且超过了经典的界
(
1
−
e
−
1
)
(1-e^{-1})
(1−e−1)
最大似然估计为
x
^
\hat x
x^
估计误差
x
−
x
^
x-\hat x
x−x^具有零均值和协方差
∑
\sum
∑
x
−
x
^
x-\hat x
x−x^的
θ
\theta
θ置信椭球是包含概率为
θ
\theta
θ的
x
−
x
^
x-\hat x
x−x^的最小体积椭球,由下式给出
ϵ
α
\epsilon_{\alpha}
ϵα
sensor selection problem
我们考虑一组m个潜在的测量,我们要选择其中的一个k子集,该子集使所得置信椭球的对数体积(或平均半径)最小化。这可以表示为优化问题
m
a
x
i
m
i
z
e
log
det
(
∑
i
∈
S
a
i
a
i
T
)
s
u
b
j
e
c
t
t
o
∣
S
∣
=
k
maximize\ \ \ \log\det(\sum_{i\in\mathcal S}a_ia_i^T)\\ subject\ to\ |\mathcal S|=k
maximize logdet(i∈S∑aiaiT)subject to ∣S∣=k
等价于
m
a
x
i
m
i
z
e
log
det
(
∑
i
=
1
m
z
i
a
i
a
i
T
)
s
u
b
j
e
c
t
t
o
1
T
z
=
k
z
i
∈
{
0
,
1
}
,
i
=
1
,
2...
,
m
maximize\ \ \ \log\det(\sum_{i=1}^mz_ia_ia_i^T)\\ subject\ to\ 1^Tz=k\\ z_i\in\{0, 1\},\ \ i=1,2...,m
maximize logdet(i=1∑mziaiaiT)subject to 1Tz=kzi∈{0,1}, i=1,2...,m
上述问题是布尔凸问题,当
z
i
≥
0
z_i\ge 0
zi≥0时,目标是
z
z
z的凹函数。求和约束是线性的,最后约束将z限制为布尔。
Relaxed sensor selection problem
m
a
x
i
m
i
z
e
log
det
(
∑
i
=
1
m
z
i
a
i
a
i
T
)
s
u
b
j
e
c
t
t
o
1
T
z
=
k
0
≤
z
i
≤
1
,
i
=
1
,
2...
,
m
maximize\ \ \ \log\det(\sum_{i=1}^mz_ia_ia_i^T)\\ subject\ to\ 1^Tz=k\\ 0\le z_i\le1,\ \ i=1,2...,m
maximize logdet(i=1∑mziaiaiT)subject to 1Tz=k0≤zi≤1, i=1,2...,m
与原始传感器选择问题(7)不同,这个问题是凸的,因为(要最大化的)目标是凹的,并且上的等式和不等式约束是线性的。它可以有效地解决,例如,使用内点方法[30]。
我们所表示的松弛传感器选择问题的最优目标值是传感器选择问题的最优目标价值的上界。为此,我们注意到松弛问题的可行集包含原始问题的可行集合;因此,它的最优值不能小于原始问题的最优值。
我们还可以使用松弛问题的解来生成次优子集选择。有很多方法可以做到这一点。
详细细节见原文第三页
与D-optimality的关系
传感器选择问题和松弛的传感器选择问题与 D 最优实验设计密切相关。 在 D 最优实验设计中,我们有一组潜在的测量或传感器。 然而,在这种情况下,我们可以多次使用任何一个传感器; 问题是选择使用哪些传感器,以及每个传感器使用多少次,同时保持总使用次数小于或等于 k。 相反,在我们的传感器选择问题中,我们最多可以使用每个潜在的传感器一次。 近似求解D-最优实验设计问题的一种方法是形成凸松弛,这与我们的非常相似; 然而,上限约束 z i ≤ 1 z_i\le1 zi≤1 不存在,松弛变量被归一化为总和为 1(而不是 k); 参见,例如,[30, Sec.7.5]。 松弛 D 最优实验设计问题中的变量也有不同的解释:zi 是在进行大量测量时使用传感器 i 的频率。
dual problem
Approximate Relaxed Sensor Selection
没有必要高精度地解决松弛传感器选择问题 ,因为我们只使用它来获得上限 ,并找到与其解的k最大值相关联的索引
m
a
x
i
m
i
z
e
log
det
(
∑
i
=
1
m
z
i
a
i
a
i
T
)
+
K
∑
i
=
1
m
(
log
(
z
i
)
+
log
(
1
−
z
i
)
)
s
u
b
j
e
c
t
t
o
1
T
z
=
k
maximize\ \ \ \log\det(\sum_{i=1}^mz_ia_ia_i^T)\\ +\mathcal K\sum_{i=1}^m(\log(z_i)+\log(1-z_i))\\ subject\ to\ 1^Tz=k
maximize logdet(i=1∑mziaiaiT)+Ki=1∑m(log(zi)+log(1−zi))subject to 1Tz=k
Local optimization
Conclusion
从一组候选测量中选择传感器或测量以获得某些参数的最佳结果估计的问题通常是一个困难的组合问题。 然而,我们已经表明,凸松弛,然后是局部优化方法,通常可以很好地工作。 特别是,这种方法不仅会产生次优的测量选择,而且会限制全局最优选择的效果。 次优选择获得的性能通常非常接近全局边界,这证明该选择接近最优。
我们的方法并没有预先保证这个差距; 但是每次在特定问题实例上使用该方法时,我们都会得到一个特定的界限。
启发
- 凸松弛
- 对次优解的局部优化