20、基于共形预测的样本高效安全保障

基于共形预测的样本高效安全保障

在机器学习和机器人应用中，确保系统的安全性和可靠性至关重要。本文介绍了一种利用共形预测来调整机器人应用警告系统的框架，该框架能够以较少的数据实现可证明的安全保障。

样本数量与假阴性率验证

为了验证 $w_θ$ 的假阴性率是否小于等于 $ϵ$，需要检查 $\hat{ϵ}(θ) + \sqrt{\frac{log(1/δ)}{2M}} ≤ ϵ$。这要求 $M ≥ \frac{log(1/δ)}{2ϵ^2}$，即至少需要 $Θ(1/ϵ^2)$ 个样本。即使是固定的 $w_θ$，也需要 $Θ(1/ϵ^2)$ 个样本才能根据相关公式验证其假阴性率。因此，要找到能证明实现低假阴性率的 $w_θ$，至少需要同样多甚至更多的训练样本。

PAC 学习与共形学习的比较

PAC 学习和共形学习各有优势：
- PAC 学习 ：其独立同分布（i.i.d.）误差率保证（公式 (2)）比边际误差率保证（公式 (3)）更强。当下游用户对高方差非常敏感时，公式 (2) 的 i.i.d. 误差率保证可能是必要的。不过，风险可以通过金融工具等替代方法降低。
- 共形学习 ：公式 (3) 的共形学习保证始终成立，而 PAC 学习保证（公式 (2)）仅以 $1 - δ$ 的概率成立。总体而言，共形学习需要更弱的假设和更少的样本，并且其保证始终成立；PAC 学习在满足假设和样本复杂度要求时提供更强的保证。

实验：驾驶员警报系统

使用真实驾驶数据对驾驶员警报安全系统进行了实验验证，该系统应在驾驶员可能进入不安全情况时发出警告，同时避