fourierr的博客

摘要尽管深度学习应用领域最近取得了较大的进展，但是小样本学习的挑战是一直存在的，传统的基于梯度的网络需要大量的数据去学习，通常需要经过大量广泛的迭代训练。当给模型输入新数据时，模型必须低效的重新学习其参数从而充分的融入新的信息，并不会造成较大的干扰影响。具有增强记忆能力的网络结构，例如NTMs具有快速编码新信息的能力，因此能消除传统模型的缺点。这里，我们证明了记忆增强神经网络（memory-a...

 我们常用的基于梯度优化的深层网络往往需要大量的数据和迭代步骤。我们面对的数据场景是有一系列小的数据集而不是一个大的数据集，每一个类有很少的标记数据，这种情况和人类的学习很像，通过一个给定的数据，就能总结出对事物全面的认识，其中主要有两个原因导致了基于梯度的优化算法在小样本下表现不好。元学习被认为是实现人类水平的智能的一个关键点，元学习在两个层次间学习，（1）在每项任务中学习，（2）同时积累...