qq184861643的博客

作者在同一个framework下提出两种基于attention的image caption generators：一种是可以通过标准的BP进行训练的soft attention，另一种是通过最大化变分下界或增强学习来训练的hard attention

Neural Translation Model给定源语言 string ss, 通过网络模型来估计目标语言string tt的概率分布p(t|s)p(t|s)。 　　与PixelCNN类似，tt的联合概率分布可以通过链式法则转化为连续的p(ti|ti,s)p(t_i|t_{条件概率的乘积。 strings通常是各自语言中的句子，string中的每一个token则是字母（或者单词）。 模

Introduction　　PixelRNN和PixelCNN都没有做独立性假设。 　　通过一层256维的softmax层来将像素值当做离散分布来建模。Math Modelgenerating an image pixel by pixel　　输入图像是ｎ×ｎ个pixels的x，x可以视为一个长为n2n^2的序列，序列是由x按行读取形成的。为了评估该序列的联合概率分布p(x)

论文地址：https://arxiv.org/pdf/1811.12649.pdf现有方法的问题**1.**标准的度量学习方法通过样本的局部关系来学习数据分布。比如建立pairs或者triplets。这种方法的核心问题时需要保证局部关系的信息丰富程度合理。例如，太难的negative pair会使训练不稳定，而太容易的则几乎没有loss不能更新网络。Semi-hard sampling和Bat...