curriculum learning

如有错误，欢迎指正
本文学习过程中的归纳总结
如有侵权，请私信本人
参考链接：https://www.dazhuanlan.com/2019/11/21/5dd617335da12/
https://blog.youkuaiyun.com/qq_25011449/article/details/82914803

关于transfer Learning和fine-tuning的区别就是，transfer Learning是一种理念（concept），而fine-tuning则是其实现的具体方法。
而Curriculum learning和transfer learning的区别主要是在于要学习的domain的差异。Curriculum Learning关注如何将一个较难的任务根据有难到易的标准分为不同阶段来学习，即通过先学习简单课程为后续学习打下基础，以使模型不再那么难收敛。可以类比于，学生为了能理解高等数学，要先从初级的数学知识开始学起，难度逐步增加。而transfer learning侧重点则是在于如何将在一个domain上学习到的模型迁移（transfer）到新的domain上去。可以类比于，学生学习了数学知识，再想办法将其应用到物理学体系中。

curriculum learning（课程学习）是从简单的子任务到复杂任务的学习过程（在机器学习里就是容易学习的样本和不容易学习的样本）。

Contributions：

1. 作者通过有关视觉和语言的任务证明了很简单的多阶段课程学习的策略就能够实现泛化能力的提高和收敛速度的加快。
2. 另外解释了课程学习为什么有这些优势。
3. 实验表明课程学习的作用类似于