全文检索-RocketQA

RocketQA是一个开源工具,用于训练和评估问答模型,支持SQuAD、TriviaQA等数据集。它依赖于HuggingFaceTransformers库,提供预处理流水线和可定制的训练脚本。用户可以在AIstudio上进行云端体验,模型微调后,可删除包含moment的文件以减小保存体积。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

综述

GitHub链接:RocketQA链接
AIstudio链接:AIstudio链接
RocketQA是一个开源工具包,用于训练和评估问答模型。它建立在Hugging Face Transformers库之上,并提供一组可定制的训练和评估脚本,适用于不同的QA数据集,例如SQuAD、TriviaQA和Natural Questions。RocketQA还包括一个预处理流水线,用于将原始数据转换为可用于训练和评估的格式。
RocketQA使用起来非常的简单,可以非常方便地进行部署,同事也可以简单地进行微调模型。

使用说明

我将会列举以下几种使用方式

以云端为例

如果想在云端上进行体验,使用aistudio是一个不错的选择

ce_en_models

模型文件
微调之后如果模型太大的话可以检查一下保存文件中是否有很多名字中包含moment的文件,这些是为了中断训练后还能继续运行所保存的,在最后保存模型参数时可以删掉。


de_en_models

模型文件
微调之后如果模型太大的话可以检查一下保存文件中是否有很多名字中包含moment的文件,这些是为了中断训练后还能继续运行所保存的,在最后保存模型参数时可以删掉。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值