将 transformer 的 encoder-decoder 改为 两个encoder+一个decoder，具体为dialog encoder和knowledge encoder，相加, 通过controller 来学习knowledge部分和 dialog 部分的权重。
整体学习过程分为三阶段，第一阶段将两个 encoder 分别单独学习，第二阶段通过远程监督构造数据集，将两个 encoder 联合学习。通过检索和 dialogue 最相似的 document 构造弱监督伪知识数据集。
Low-Resource Knowledge-Grounded Dialogue Generation_biji
最新推荐文章于 2022-12-12 20:26:01 发布
本文探讨了如何将Transformer的encoder-decoder结构改造为包含DialogEncoder和KnowledgeEncoder的架构，通过Controller动态调整两者权重。研究涉及三个阶段学习：独立训练、远程监督数据集构建和知识强化伪数据集生成，以提升对话理解与知识应用的性能。
扫一扫
574
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
