对话系统评测-对话语料

对话系统语料资源汇总

语料很多,但是找到适合自己的却很难。。。整理一下各种关于对话语料博客的链接,留作备用

内容:中英文对话系统语料

1.csdn
2.csdn
3.csdn
4.github
5.github
6.github

NLP语料

7.github
8.知乎

# 说明 该库是对目前市面上已有的开源中文聊天语料的搜集和系统化整理工作 该库搜集了包含 - chatterbot - 豆瓣多轮 - PTT八卦语料 - 青云语料 - 电视剧对白语料 - 贴吧论坛回帖语料 - 微博语料 - 小黄鸡语料 共8个公开闲聊常用语料和短信,白鹭时代问答语料。 并对8个常见语料的数据进行了统一化规整和处理,达到直接可以粗略使用的目的。 **使用该项目,即可对所有的聊天语料进行一次性的处理和统一下载,不需要到处自己去搜集下载和分别处理各种不同的格式。* # 环境 python3 # 处理过程 将各个来源的语料按照其原格式进行提取,提取后进行繁体字转换,然后统一变成一轮一轮的对话。 # 使用方法 将解压后的raw_chat_corpus文件夹放到当前目录下 目录结构为 ``` raw_chat_corpus -- language -- process_pipelines -- raw_chat_corpus ---- chatterbot-1k ---- douban-multiturn-100w ---- .... -- main.py -- ... ``` 执行命令即可 ```bash python main.py ``` 或者 ```bash python3 main.py ``` # 生成结果 每个来源的语料分别生成一个独立的*.tsv文件,都放在新生成的clean_chat_corpus文件夹下。 生成结果格式为 tsv格式,每行是一个样本,先是query,再是answer ``` query \t answer ``` # 结果的使用 这个就根据每个人不同的情况自主使用即可 个人对于聊天机器人方向实践也不是很多,以下一篇之前写的知乎专栏供参考 **《从产品完整性的角度浅谈chatbot》** 文章粗略讲解了如下一些方面,介绍了聊天机器人在实际产品化过程中可能遇到的问题和解决办法。 1. chatbot自身人格的设置 1. 产品上线需要考虑的敏感词处理 1. 文本检索模型的使用 1. 文本生成模型的使用 1. 回答打分机制 1. 万能回答的使用策略 1. 多媒体消息的处理 1. 产品模型部署的问题 # 版权说明 本项目为非商业项目,为纯搜集和汇总资料,如有侵权,请在issue下留言。
### 标准对话系统评估的数据集 对于对话系统的评估,通常会采用一些公开的标准数据集来衡量模型的表现。这些数据集中包含了人类对话的样本以及相应的标签或评分,能够帮助研究者全面了解模型在自然语言理解、生成和交互方面的性能。 #### 常见的对话系统评估数据集 1. **DSTC (Dialog State Tracking Challenges)** DSTC系列挑战赛提供了一系列针对任务导向型对话系统的基准数据集。其中最常用的是DSTC2和DSTC3版本,它们涵盖了餐厅预订、旅行安排等多种实际应用场景。该数据集不仅包括对话历史记录,还提供了对话状态跟踪所需的标注信息[^4]。 #### 下载链接 官方网站:https://www.microsoft.com/en-us/research/project/dialog-state-tracking-challenge/ 2. **Persona-Chat** Persona-Chat是一个专注于开放式对话的人工智能聊天机器人训练与评测数据集。它由Facebook AI Research发布,旨在提升机器人的个性化表达能力。每段对话都附带了一个虚拟人物的角色描述文件,使得模型可以根据特定的人物设定生成更加贴近角色的回答[^5]。 ```python import datasets persona_chat = datasets.load_dataset('persona_chat') ``` 3. **DailyDialog** DailyDialog是由阿里巴巴达摩院提出的日常英语口语交流语料库。相比其他同类产品,它的特点是覆盖了更广泛的日常生活话题,并且按照情感类别进行了细致划分。这有助于开发者构建具备情绪感知功能的下一代智能助理[^6]。 #### 获取方式 GitHub仓库地址:https://github.com/budzianowski/multiwoz 4. **ConvAI2 / Wizard of Wikipedia** ConvAI2竞赛使用的数据集强调多轮次复杂问答过程;而Wizard of Wikipedia则进一步引入外部知识源作为输入的一部分,考察系统能否有效利用额外资料增强回复质量[^7]。 以上提到的所有资源均可免费获取并用于学术目的的研究活动当中。不过需要注意的是,在正式部署前还需仔细阅读各项目的授权协议条款以免触犯版权规定。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值