Rezwan: Leveraging Large Language Models for Comprehensive Hadith Text Processing: A 1.2M

该文章核心是开发了Rezwan(文中部分表述为Najm)圣训语料库,通过大语言模型(LLMs)构建全自动处理流程,实现120多万条圣训的提取、结构化与多维度增强,并从质量、经济性等方面验证其价值,为伊斯兰研究与数字人文领域提供新范式。

一、文章主要内容总结

  1. 研究背景:圣训作为伊斯兰知识的重要来源,传统人工收集、整理与分析方式存在规模小、耗时久、依赖专业知识等问题,而大语言模型的发展为解决这些难题提供了可能。
  2. 语料库构建
    • 数据来源:选取Maktabat Ahl al-Bayt数字库作为主要来源,因其涵盖逊尼派和什叶派圣训,且格式相对统一,同时通过人工筛选纠正文本分类错误。
    • 处理流程:设计多阶段全自动流程,包括圣训分割与边界检测(用LLMs分离传述链与正文)、与源文本验证对齐(模糊字符串匹配处理差异)、多维度增强(机器翻译、智能标音、总结标注等)。
  3. 评估与对比
    • 评估方式:随机抽取1213条圣训,由6位领域专家从结构准确性、语言质量、分析深度等维度,采用0-10分制结合定性注释评估。
    • 结果表现:整体平均得分8.46/10,传述链-正文分离、总结等结构化任务接近人类水平(9.3分左右),标音和语义相似度检测仍有挑战;对比人工整理的Noor语料库(3.66/10),在规模、质量及多维度增强上均
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值