[算法前沿]--031-Transformers的抽取式问答

本notebook介绍如何微调 Transformers 模型解决机器问答任务,特别是抽取式问答。通过加载 SQUAD 数据集,进行数据预处理、模型微调和评估,展示如何从文本中抽取答案。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

# !pip install datasets transformers

在机器问答任务上微调transformer模型

在这个notebook中,我们将学习到如何微调🤗 Transformers的transformer模型来解决机器问答任务。本文主要解决的是抽取式问答任务:给定一个问题和一段文本,从这段文本中找出能回答该问题的文本片段(span)。通过使用Trainer API和dataset包,我们将轻松加载数据集,然后微调transformers。下图给出了一个简单的例子
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-RO7Xz5PI-1687941285189)(images/question_answering.png)]

Note: 注意:本文的问答任务是从文本中抽取答案,并不是直接生成答案!

本notebook设计的例子可以用来解决任何和SQUAD 1和SQUAD 2类似的抽取式问答任务,并且可以使用模型库Model Hub的任何模型checkpoint,只要这些模型包含了一个token classification head 和 一个fast

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI拉呱

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值