关注一个序列
1.不是每个观察值都是同等重要的
2.想只记住相关的观察需要:
能关注的机制(更新门);能遗忘的机制(遗忘门)。
网络模型:
引入一个,这是一个一维的序列,极端情况如果全为零,则与
交互计算(按元素点乘)后得到的就是遗忘掉之前所有的信息,如果全为1,则记住之前的全部信息。
关注一个序列
1.不是每个观察值都是同等重要的
2.想只记住相关的观察需要:
能关注的机制(更新门);能遗忘的机制(遗忘门)。
网络模型:
引入一个,这是一个一维的序列,极端情况如果全为零,则与
交互计算(按元素点乘)后得到的就是遗忘掉之前所有的信息,如果全为1,则记住之前的全部信息。