问题引入
评测标准:
(1)BLEU:缺点----重复值时匹配度高但无意义,倾向于短句,应该引入短句惩罚
。。。。。
模型:Encoder-Decoder
问题建模
--------》Beam Search生成文本:
- 每一步取top-n结果
- 下一步依靠上一步的top-n结果从n^2的结果中选择top-n
- 生成top-n的路径
- 用单独的语言模型来评测top-n的路径
---------->Multi-Modal RNN
https://www.cnblogs.com/Determined22/p/6910277.html
特点:每一步都需要图像输入,普通RNN
---------》show and tell
特点:使用了lstm使得同样的图像特征没必要重复输入,使得词语的原始enbedding没必要输入
-----》show attention and tell
引入了attention机制,每个词语可以对应图片的不同位置,每一步都需要输入图像的加权特征
-----------》Top-Down Bottom-Up Attention
为解决show and tell的过载问题,按功能分层实现。
https://blog.youkuaiyun.com/zlrai5895/article/details/84842741