ACL-IJCAI-SIGIR顶级会议论文报告会（AIS 2022）笔记3：对话和生成

最新推荐文章于 2024-03-22 15:00:33 发布
原创 最新推荐文章于 2024-03-22 15:00:33 发布 · 976 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #深度学习 #对话系统 #文本生成 #自然语言处理

该博客总结了AIS2022会议中关于对话和生成的研究，涉及AdaLoGN模型、任务与开放域对话融合、问题生成、预训练模型中的隐变量、检索式对话以及情感对话等。内容涵盖各领域的最新进展，包括模型设计、语料集、实验分析和未来研究方向。

诸神缄默不语-个人优快云博文目录

录播视频地址：AIS 2022丨ACL-IJCAI-SIGIR顶级会议论文报告会回放视频公开啦
智源官网活动主页，有详细议程的介绍：ACL-IJCAI-SIGIR顶级会议论文报告会（AIS 2022）

本文关注5月14日的对话和生成部分。主要内容是截图slides，并附注一些讲解内容。比我之前写cs224w和李宏毅的笔记会简略很多，在图中不言自明的内容我就不另附介绍了。

文章目录

1. 前沿趋势报告2：AIS2022对话与生成研究概述

哈尔滨工业大学张伟男
在这里插入图片描述
选择了一些代表性文章

AIS 2022

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述

ACL 2022

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
state tracking（domain的slot）
在这里插入图片描述
在这里插入图片描述
串联为pipeline
在这里插入图片描述
在这里插入图片描述

IJCAI 2022

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

SIGIR 2022

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
当前会话、用户历史信息、相似用户
在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

2. Session 3：Dialog and Generation（对话和生成）

1. AdaLoGN

南京大学厉肖
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
蕴涵关系
在这里插入图片描述
由已知关系推到出其他关系的过程→对图上结构的扩展
在这里插入图片描述
四选一
在这里插入图片描述
初始构建图
句法规则（否定，如动词互为反义词）
在这里插入图片描述
神经+符号推理
roberta→token平均值
图扩充
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

2. 结合任务对话和开放域对话的语料集

百度徐俊
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述
黄色部分：知识型对话
问答对话
在这里插入图片描述

语料集

在这里插入图片描述
在这里插入图片描述在这里插入图片描述

The PLATO-MT Model with Prompt-based Mechanism

在这里插入图片描述

DuClarifyDial as a New Benchmark

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3. 问题生成

复旦大学
在这里插入图片描述在这里插入图片描述
彩色是要求的答案，模型需要学会提问

本文针对multi-hop问题生成：
在这里插入图片描述

关系图
实体能够保证问题深度（美国总统妻子是什么职业）
在这里插入图片描述
当前实体是否必须出现在问题中（flag）
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

4. 预训练模型里的隐变量

复旦大学陈伟
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
未来预测策略：可以让解码器有更好的规划能力
在这里插入图片描述
在这里插入图片描述
KL loss：假设原来是正态分布，最小化分布差值
free bits：KL loss达到一定阈值后才开始优化
BOW loss：隐变量直接非自回归地预测词汇，希望隐变量能够包含response信息
在这里插入图片描述
在这里插入图片描述
先在reddit-short上用比较大的batch size做预训练，再在reddit-long上用比较小的batch size做预训练
在这里插入图片描述
同时增加相关性BLEU和多样性distinct（一般不能同时）
在这里插入图片描述
在这里插入图片描述

5. 检索式对话

复旦大学陈伟
在这里插入图片描述在这里插入图片描述本文聚焦在第一阶段，有大量response，抽取
在这里插入图片描述
检索效率
在这里插入图片描述在这里插入图片描述在这里插入图片描述
正例：有相同response
对比损失
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述

6. 线上陪伴型机器人、情感对话

小米李嫣然

6.1 MISC

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
应该指的是2021年清华的这篇：Towards Emotional Support Dialog Systems
询问情况，推理背景信息，做疏导
在这里插入图片描述
常识知识库
comet模型：常识生成模型，输入situation，推理出情绪状态、需求
在这里插入图片描述
knowledge-enhanced context representation
选择策略的分布，和矩阵相乘，得到mixed stragy representation
在这里插入图片描述
上述论文是这篇
在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述
长句子的混合策略
只需要原有的监督信号

6.2 C 3 K G C^3KG C3KG

常识+对话

在这里插入图片描述在这里插入图片描述
应该选择什么知识来辅助理解对话
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
单轮对话，标注情感和意图
在这里插入图片描述
event的转折
在这里插入图片描述

在这里插入图片描述

6.3 HICR

纯文本安抚→富媒体/多模态
在这里插入图片描述
在这里插入图片描述
玩游戏、听歌
在这里插入图片描述在这里插入图片描述
基于用户信息进行推荐
在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述

7. COSPLAY

北京工业大学徐晨
在这里插入图片描述

7.1 背景

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

7.2 动机

保持一致性的同时给对方表达更多persona的机会
在这里插入图片描述

7.3 模型

强化学习
鼓励提问
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
迫使模型围绕共同话题聊天在这里插入图片描述

7.4 实验与分析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
紫色表示模型对自身的关注，暗色表示对对方的
在这里插入图片描述

8. 中立语句演示原因

信工所李江楠
在这里插入图片描述在这里插入图片描述在这里插入图片描述缺点是缺乏对情绪信息的使用
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述聚类预测
在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

论文学习笔记 | IJCAI-2021 TS-TCC：通过时间和上下文对比进行时间序列表示学习
叶庭云 成为自己的光
07-28 503
IJCAI-2021 TS-TCC：通过时间和上下文对比进行时间序列表示学习
论文笔记 ACL 2022|Unified Structure Generation for Universal Information Extraction
o11oo11o的博客
06-17 2178
论文题目：Unified Structure Generation for Universal Information Extraction 论文来源：ACL 2022 组织机构：软件所 百度 论文链接：https://arxiv.org/pdf/2203.12277.pdf 代码链接：https://github.com/universal-ie/UIE模型的整体框架如下图，主要包括structural schema instructor和structural extraction language两部分
ACL-IJCAI-SIGIR顶级会议论文报告会（AIS 2022）笔记2：分析与可解释性
诸神缄默不语的博客
07-20 1069
ACL-IJCAI-SIGIR顶级会议论文报告会笔记 - 分析与可解释性部分
AIS 2022 | ACL-IJCAI-SIGIR顶级会议论文预讲会，现开启论文征集
Paper weekly
04-07 981
‍SIGIR、ACL和IJCAI是信息检索、自然语言处理和人工智能领域最高级别的学术会议，三大会议囊括了全球人工智能领域，尤其是自然语言处理领域和信息检索领域的最新先进成果。今年5月至7月，SIGIR、ACL和IJCAI三大国际顶级会议将陆续举行。AIS 2022论文预讲会是由中国中文信息学会青年工作委员会和智源社区联合举办的学术活动，旨在为国内学者提供更快速和更便捷的了...
ACL 2022 | PLATO-LTM：具有长期记忆机制的对话生成框架
Paper weekly
05-19 2098
©作者 |张轶博学校 |北京邮电大学AI院研究方向 |对话系统大多数开放域对话模型在长期人机对话中往往表现不佳。可能的原因是这些模型缺乏理解和记忆长期对话历史信息的能力。为了解决这个问题，本文提出了一个新的长期记忆对话（LeMon）任务，然后构建了一个新的对话数据集 DuLeMon 和一个具有长期记忆（LTM）机制的对话生成框架 PLATO-LTM，这种 LTM 机...
ACL-IJCAI-SIGIR顶级会议论文报告会（AIS 2022）笔记1：推荐系统
诸神缄默不语的博客
07-19 1566
ACL-IJCAI-SIGIR顶级会议论文报告会笔记 - 推荐系统部分
FormattingGuidelines-IJCAI-PRICAI-20 - 官方.zip
05-07
"FormattingGuidelines-IJCAI-PRICAI-20 - 官方.zip"这个压缩包包含了IJCAI 2020年会议的官方论文格式指南，旨在帮助作者们正确地准备和排版他们的学术论文。 1. LaTeX模板： LaTeX是一种基于TeX的文字处理系统，...
SwMC-IJCAI17-master_MultipleGraphs；_Multiview；_Self-Weighted；_Cl
09-30
针对这一问题，SwMC（Self-Weighted Multiple Graphs Clustering）算法应运而生，它在IJCAI 2017会议上被提出，旨在高效地处理多视图数据，并实现有效的聚类。本文将深入解析SwMC-IJCAI17算法的核心原理、优势以及...
精选资源
2018-IJCAI-top3:此2018 IJCAI alimama Top3代码
05-15
2018-IJCAI-前三名 这是2018年IJCAI alimama Top3代码。 3/5204 我们开放了代码的源代码部分，并解释了所有功能工程。 介绍 点击率估算问题是广告算法领域中一个经典且有价值的问题。目前，业界对于稳定流量的点击率...
精选资源
Cross-Domain-CWS:IJCAI 2018论文代码“结合无标签和部分标签数据的神经网络用于跨域中文分词”
05-12
IJCAI 2018论文``的TensorFlow实现''。 型号概述 图片：我们提出的模型的体系结构。 它主要包括三个组件：正向语言模型（粉红色），向后语言模型（黄色）和BiLSTM分段模型（蓝色）。 我们使用门控机制来控制语言...
论文阅读笔记 | ACL-2022 | 分治文本语义匹配：关键词和意图
Megrez_9的博客
07-31 2070
原文标题：Divide and Conquer: Text Semantic Matching with Disentangled Keywords and Intents 本文利用分治的思想，在训练模型中将文本分为关键词和意图，在不增加计算量的前提下有效提升了匹配效果。这种方法简单直接，且能与各种PLM有效结合。...
多视角对话摘要生成(论文阅读笔记)
sdauguanweihong的博客
07-28 1119
Multi-View Sequence-to-Sequence Models with Conversational Structure for Abstractive Dialogue Summarization 阅读笔记 Motivation 与传统的文本不同，对话中往往隐含着丰富的特定结构信息，也就是说对话其实是按一定结构组织的。一段对话可以从多个不同视角去看待，会产生不同的语篇结构。从一般视角(generic view)上看，可以把对话总体上看成一块（global view)，也可以把每条语句可以看
ACL 2019 | ReCoSa：多轮对话生成中利用自注意力检测相关上下文
a609640147的博客
07-26 1459
在多轮对话生成中，大多数情况下答复仅仅与一部分上下文相关。一个完美的模型应该具有能力检测到这些相关的上下文，并根据它生成恰当的答复。常用的层次循环端到端模型(HRED)对上下文并不做区分，这会损害答复生成过程。本文提出了一种新颖的模型(ReCoSa)，其能通过自注意力检测到相关上下文。基于自注意力机制(self-attention mechanism)在处理长程依赖的优势，本文提出一种新模型结构(...
【论文速递】 ACL2022 - 三思而后言：为对话模型显式地生成知识
qq_41974375的博客
02-04 439
【论文速递】 ACL2022 - 三思而后言：为对话模型显式地生成知识
2024年人工智能顶级会议投稿信息汇总（数据挖掘领域）
最新发布
audyxiao001的博客
03-22 1万+
本文对数据挖掘领域内的顶级会议进行了介绍，以便读者了解会议的截稿日期、举办时间和地点以及相关关键信息。最后，还将这些信息以表格的形式呈现，为读者提供了便利。
开启注册丨ACL-IJCAI-SIGIR顶级会议论文报告会（AIS 2020）
数据派THU
05-21 3144
ACL、IJCAI和SIGIR是自然语言处理、人工智能和信息检索领域的顶级国际学术会议。AIS顶级会议论文报告会是由中国中文信息学会青年工作委员会主办的系列学术活动，自2017年起已连续...
AIS 2019(ACL IJCAI SIGIR)论文研讨会研究趋势汇总
silver1225的博客
06-30 1713
AIS 2019(ACL IJCAI SIGIR) ACL 进展综述-清华刘知远 ACL2019投稿统计 大约2700篇投稿，长文1609 短文 2086（长文录用率25%） 审稿人1610，其中领域主席230人 热门投稿领域与ACL2018一致（比例最高的、NLP进展最快的三个方向） Information Extraction Machine Learning Machine Trans...
ACL | 自然语言处理（NLP）之多轮对话建模优化（Utterance ReWriter）
yinizhilianlove的博客
08-04 3577
引言     最近2019年新鲜的ACL论文出来了，发现了一篇关于多轮对话模型的文章还不错，其题目为：Improving Multi-turn Dialogue Modelling with Utterance ReWriter。文章单位：微信人工智能模式识别中心（腾讯）。文章的背景为：当前我们在日常多轮交流的时候，经常会出现前后相互参照和信息遗漏的问题，这对于人来说能够正确的理解出说话人的意图，...
计算机会议排名等级
热门推荐
优快云
10-27 37万+
CORE Computer Science Conference Rankings Acronym Standard Name Rank AAAI National Conference of the American Association for Artificial Intelligence A+ AAMAS International
IJCAI 2015人工智能顶级会议论文综述
3. 2015年特点：2015年的IJCAI论文集反映了那一时期人工智能的研究热点和学术成就，对于理解人工智能的发展具有重要的历史意义。 描述：“2015人工智能顶会IJCAI部分论文”知识点： 1. 论文内容：该描述表明文件中...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

诸神缄默不语

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值