Meta-learning and 3D-CNN 总结
##Meta-learning
**Meta-learning(元学习)**方法是近期的研究热点,加州伯克利大学在这方面做了大量工作。这周阅读了相关论文,总结一下自己的知识。
论文题目:
1.Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks ;
2.One-Shot Visual Imitation Learning via Meta-Learning。
Model-Agnostic Meta-learning 算法提出的初衷是因为目前深度学习所需要的样本量大,而且学习速度慢,在某一个特定的任务训练好参数以后,面对一个新的任务,即使这个任务跟之前的任务具有相关性,但它的鲁棒性也不好,需要重新训练。特别是在应用到机器人模仿学习时(目前自己的研究方向),需要在不同的场景下执行新的任务,但这些任务很多是具有相关性的。所以伯克利分校提出了这样一种算法:通过少量的任务集样本去训练好网络,然后在面对一个新的任务时,能够很快的训练好参数,完成学习过程。这个过程就像人类面对新的任务时,也是由之前的经验来应对新的场景,具有先验知识。
算法核心思想,如下图所示:
算法个人理解:
1.这是属于监督学习的范围,通过梯度下降来更新参数θ;任务集Ti, fθ表示输入x到输出a的映射