【论文笔记】使用物理原理和领域知识进行无标注的监督学习

物理与领域知识驱动的无监督神经网络训练

最新推荐文章于 2024-08-04 20:49:40 发布

原创

最新推荐文章于 2024-08-04 20:49:40 发布 · 414 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#20180224 #论文笔记

该论文提出一种创新方法，利用物理原理和领域知识在无标注数据上进行监督学习。通过建立输入变量的约束函数，将传统的监督损失转化为结合约束和正则化的损失函数。在自由落体、行人运动和马里奥游戏场景的实验中展示了这种方法的有效性。尽管目前的应用场景有限，但其潜力在于利用神经网络非线性拟合现实世界的物理变换。

title

Label-Free Supervision of Neural Networks with Physics and Domain Knowledge

会议

AAAI2017 Best paper

思想

提出了一种借助外部的物理知识来辅助做无标注的监督学习(听起来很诡异，好的title是成功的一半orz)，初衷是通过一些对于环境的约束（比如匀速运动，自由落体)+外部物理定律（匀加速运动or匀速运动)+防止出现极端和平凡解（方差or图像翻转等），来得到一个关于输入变量x的约束函数g(x),把传统监督学习的loss(f(xi),yi)变成loss(g(xi,f(xi))+R(f),其中R就是相关的正则化约束。

实验：

实验一,二的度量尺度都是像素空间，其实并没有真正可以理解成知道depth
实验一:
自由落体运动，预测图上羽毛球的高度，0.1s一帧图像
公式推导还要看一下
实验二:
行人匀速运动，为了防止出现平凡解，做了f(x)方差的正则化，为了防止f(x)出现无穷大的极端解，在relu外加了margin限制
实验三:
通过马里奥游戏的二维坐标上公主出现和位置预测马里奥出现和位置
加入了公主出现=》马里奥出现的限制