Dialog System 总结

分享一下我老师大神的人工智能教程！零基础，通俗易懂！http://blog.youkuaiyun.com/jiangjunshow

也欢迎大家转载本篇文章。分享知识，造福人民，实现我们中华民族伟大复兴！

                       

本文包括对话系统分类、数据汇总、和一些目前对话系统paper的总结、评价。
以下paper的“一句话评论”均为个人观念，评价标准苛刻，也有可能夸大了论文的缺点，希望与持不同意见的各位有识之士共同讨论。

对话系统分类

对话系统按功能性分为goal-driven dialog system（比如功能机器人，Contana，出门问问）和open domain dialog system（比如闲聊机器人，小冰）。

PS：个人从产品角度觉得功能性机器人才是有用的，陪你聊天的机器人是伪需求，然而事实证明我错了，刚好相反，度秘的log分析表明能够留下用户聊10分钟的都是被他们调戏的闲聊话题，而且大量流量都是来闲聊的。

本文主要从数据、模型/算法方面看一看现在paper里的对话系统，是。。。怎样的不靠谱。。。

Data

综述见文章Dialog data survey 。在后面Papers一章中也会介绍每篇所用的数据，但靠谱的数据总是少的。微博、twitter、贴吧上的数据噪声太大；人造/合成数据太容易被拟合；

Papers

Neural Responding Machine for Short-Text Conversation

一句话评论：数据靠谱；方法现在来看无创新，但易实践；
李航老师团队发在ACL 15的paper。
data: 微博数据, 每句限长140个字。每条微博有平均20条回复，共约22w个微博，也就是约440w条问答对。
方法：带attention的seq2seq翻译模型

Conversational Contextual Cues: The Case of Personalization and History for Response Ranking

一句话评论：数据很好，方法还算靠谱，不过是answer selection（因为answer selection需要大量备选语聊，而且，看起来还ok的结果是蒙对了呢还是真ok呢?  这些都不清楚，所以认为answer selection的做法本质上不是人工智能）。

Google的论文，对Reddit上的评论进行end-to-end的建模, 最后选用answer selection（而不是generation）的方式输出每一次对话的sentence，出发点两方面：对文本内容和personalization建模.
数据：Reddit上的1.33亿conversation，共21亿句对话。
模型如下图所示：

网络输入input：dialog[i], context: dialog[0:i-1], author: 该评论作者的feature,
response: 正样本，response = 真实dialog[i+1], 此时输出final prediction=1. 负样本，response = 随机的一条其他地方的comment，此时输出final prediction = 0. 其中dialog[i]表示对话过程中的第i句话。

另外，文章还提出了multi-loss的方法，旨在度量以上网络中每个feature的有效性。分别对组合{response, input}, {response, context}, {response, author}求一个hidden layer, 将这3个hiddenlayer{h1, h2, h3} concatenate成一个总hidden layer h4, 将{h1, h2, h3, h4}分别得到的分类loss加和作为网络总loss进行优化，但最后prediction的时候只采用h4的输出结果。

Building End-To-End Dialogue Systems Using Generative Hierarchical Neural Network Models

一句话评论： end2end，模型看着挺炫，但不一定好使

https://arxiv.org/pdf/1507.04808v3.pdf

seq2seq的典型方法，用前N-1句话生成第N句话。假如说现在A, B对话内容是：a 1 ,b 1 ,a 2 ,b 2  a1,b1,a2,b2的score。

Evaluating Prerequisite Qualities for Learning End-to-End Dialog Systems

一句话评论：数据较靠谱，方法不实用。
Facebook在Reddit电影板块对话中，基于Memory Network做了QA、对话、推荐等5个任务，并与其他方法进行了比较。这里我们仅看对话吧。
- 任务目标：讨论电影
- 数据：Reddit 上爬的1M个对话，其中76%是单轮的，17%是两轮的。
- 模型：memory中包含历史对话信息和keyword（通过过滤掉高频词产生的）在kb中检索到的句子。最后出的final prediction 句子依然是选用answer selection的方式。但和上一个工作相比，这个case里的selection更不合理。answer candidate集合是从上面1M个对话中随机选取的1w个对话中的回答，外加一个真实回答。最终anwser也就是一个10001类的分类问题。

End-to-end LSTM-based dialog control optimized with supervised and reinforcement learning

一句话评论：数据太弱，但整体结构还算靠谱。

本文结合supervised learning 和 reinforcement learning,
1. 定义text action & API calls集合
2. rnn训练对话数据
3. bot生成response， expert进行纠正
4. bot生成response，和普通人交互，给出reward/punishment

任务：给某人打电话，如果通讯录里有多个电话，询问类别，确认后再打。
model: 如下图所示

共13步：
1. 用户提供Utterance（也就是一句话）。
2. 从Utterance中提取Entity。
3. Entity Input模块从提取的Entity中Resolve数据库中具体的Entity。
4. 从（2）、（3）以及API Call，以及（10）模块的输出提取一组Feature Vector。
5. Feature Vector输入到LSTM里，输出一个Template Action的Distribution。
6. 从Developer来的Code产生Action Mask，比如当电话号码还没Identity的时候要mask掉打电话操作。
7. 把需要mask的action，概率置零。
8. 重新把（7）的结果Re-normalize。
9. 从Distribution中选出一个Action。（无RL模式下，选最大概率的action；有RL模式下，从概率分布里采样）
10. 进入Entity Output模块，进行Entity替换。
11. 如果现在的Action是API，那走（12）。如果是Text，就走（13）。
12. 调用程序员写好的API接口。
13. 返回文字，等待用户再次输入。

结构清晰，符合逻辑。而且基本上只有database，action mask和API需要developer提供。
但，在experiment中，领域专家需要提供少量对话样本（非常少，本文中只给了21个对话样本，对话平均长度7个turns），且文章声明， 通过supervised learning 仅需20个对话样本就可以把LSTM训到per-turn accuracy达到90%。在此存疑，那应该是语法结构非常简单吧，果不其然，如附录所示，21个对话从语法结构和action flow方面看都很简单，必然容易拟合住，而且文中说到，step4的feature只有112维，而且包含“有几个名叫xxx的” & “xxx存有几个电话”这种feature，并不含有复杂语义信息。

Reinforcement Learning部分中，本文在supervised learning基础上进行训练，顺利完成任务的return=1, else=0。 结论是RL和SL能够相互辅助。

Sequence to Backward and Forward Sequences: A Content-Introducing Approach to Generative Short-Text Conversation

一句话评论：数据虽大，但百度贴吧的noise太大；方法一般，只支持单轮短文本问答，也是没有KB。
方法：本文分类两步：1. 提取keyword  2. seq2BF
第一步中，通过statistical的方法(最大互信息)找出response中和query最相关的word，且要求keyword为名词，记为keyword。
第二步中，原来的response被keyword一分为二，作者就希望通过query和keyword，分别以两个sub网络逆序地输出前半部分，正序地输出后半部分。seq2BF指seq2 backward & forward，也就是分别训练output的正逆序输出。

数据：dialog数据：百度贴吧上爬的50w问答对。另外为了方法中的第一步(statistical 部分)，还用了100M问答对。

本文的卖点主要就在提出来keyword然后分为前后两部分这块，但贴吧的数据噪声实在太大了，而且。。。在文中给的一些examples里我并没有看到明显的keyword，不过这样做确实可以解决response中有OOV的问题，只是不够普适。

A Network-based End-to-End Trainable Task-oriented Dialogue System

一句话评论：数据靠谱但量不大，方法靠谱。

任务：找餐馆
数据：众标，标了680轮对话，共1500个turns，都是人工写的。db中有99家餐厅，可根据 口味/地点/价格（这三个叫informable slot） 查询餐厅， 选定餐厅后可查询 电话、邮编等其他6项（这6个叫requestable slot）信息。
模型：
① Intent network 根据source query得到user intent vector;
② Belief Tracker 得到每个 informable slot的多元概率分布，和每个requestable slot的二项分布。用于在db中检索。
③ Database Operator 数据库中根据 informable slot项检索， 返回一个vector，符合的entry记为

给我老师的人工智能教程打call！http://blog.youkuaiyun.com/jiangjunshow