okfu_DL的博客

基于检索的模型 vs. 产生式模型基于检索的模型(Retrieval-Based Models)有一个预先定义的"回答集(repository)"，包含了许多回答(responses)，还有一些根据输入的问句和上下文(context)，以及用于挑选出合适的回答的启发式规则。这些启发式规则可能是简单的基于规则的表达式匹配，或是相

RNN是最简单的循环神经网络，称谓Simple-RNN，它是LSTM的基础。下面看结构：输入层到隐含层的权重用U表示，隐含层到隐含层的权重用W表示，隐含层到输出层的权重用V表示。1. 前向传播可以将网络看成是一个三层结构，与普通BP神经网络不同的是，输入层有两个部分，一个是上一时刻的隐层向量（ht-1)；一个是本次的输入向量（xt-1)。隐含层(ht-1)也会有两个走向，一个作为本次输出到...