Misinformation Detection using Large Language Models with Explainability

文章总结与翻译

一、主要内容

该研究聚焦于网络虚假信息检测，提出了一套兼具可解释性和计算效率的检测流程。核心思路是基于Transformer预训练语言模型（PLMs），通过两步微调策略优化RoBERTa和DistilBERT：首先冻结模型主干网络，仅训练分类头；随后逐步解冻主干网络层，并采用分层学习率衰减（LLRD）。

研究在两个真实世界基准数据集（COVID Fake News和FakeNewsNet GossipCop）上进行了验证，统一了数据预处理和分层划分协议。为解决模型"黑箱"问题，集成了局部可解释模型无关解释（LIME）和SHapley可加性解释（SHAP），分别提供令牌级别的局部推理和全局特征归因解释。

实验结果表明，轻量级模型DistilBERT在保持与RoBERTa相当检测精度的同时，显著降低了计算资源消耗（训练时间、推理延迟等）。此外，研究还与传统机器学习（如TF-IDF+逻辑回归）、早期深度学习（如BiLSTM）等基线模型进行了全面对比，验证了所提方法在精度、效率和可解释性上的综合优势。

二、创新点

1. 轻量且高性能建模：证实DistilBERT等轻量级PLM可在虚假信息检测任务中达到与重量级模型（RoBERTa）相当的精度，同时大幅降低计算成本，为实时部署和边缘计算场景提供了可行方案。
2. 两阶段微调策略：提出"冻结主干训练分类头→逐步解冻+分层学习率衰减"的训练方案，有效缓解灾难性遗忘，提升模型收敛稳定性。
3. 内置可解释性