fnoi2014xtx的博客

Paper : On First-Order Meta-Learning AlgorithmsCode :摘要作者仿照FOMAML(一阶近似MAML)的方法提出了Reptile算法进行元学习，Reptile与FOMAML同样只利用了一阶梯度信息，但是理论分析了Reptitle可以使用SGD对二阶梯度信息进行近似，因此相比MAML取得了更优的结果。本文的理论分析部分值得一看。算法MAML求解的问题形式化的表示为min⁡ϕET[LT(UT(k)(ϕ))]\min_{\phi}\mathbb E.

Paper : Model-Agnostic Meta-Learning for Fast Adaptation of Deep NetworksCode : official摘要作者根据元学习(meta learning)的表达式提出了MAML算法用来进行元知识的梯度下降，使用一阶近似的方法来避免计算损失函数的二阶导，并在小样本学习任务(few-shot learning)上取得了SOTA的成绩。作者强调MAML算法具有模型无关性，可以适用于任何基于梯度下降优化的模型上。并给出了MAML与监督学.