Efficient Inference Using Large Language Models with Limited Human Data: Fine-Tuning then Rectifi...

一、文章主要内容总结

本文聚焦于有限人类标注数据场景下，如何高效利用大语言模型（LLMs）进行推断的核心问题。传统LLM虽可作为人类受访者的替代者，降低调研成本，但存在输出偏差、对提示词敏感等缺陷；现有改进方法（微调FT、事后校正PPI）单独使用时，受限于标注数据稀缺性且存在边际效益递减问题。

为此，作者提出**“微调+校正”一体化框架**：

1. 优化微调目标：摒弃传统最小化均方误差（MSE）的思路，提出以“最小化预测误差方差”为微调目标，适配下游PPI校正的需求（PPI对误差方差更敏感，而非偏差）；
2. 样本最优分配：基于LLM微调的经验缩放律（方差随标注数据量呈幂律衰减），推导有限标注样本在微调与PPI间的最优分配比例，平衡模型性能提升与偏差校正；
3. 数据驱动适配流程：设计“逐步扩容（ramp-up）”流程，通过验证集估计缩放律参数，动态确定最优样本分配，无需预设模型特性。

实证验证（基于EmoBank情感数据集）表明：该框架的预测误差（MAE）显著低于单独使用微调、PPI或样本均值估计法；理论推导的最优样本分配比例（16.2%用于微调）与实证最优结果高度一致，验证了方法的有效性。

二、文章创新点

1. 首次系统分析微调与PPI的协同机制：明确两者结合的优势边界，解决了“有限标注数据如何在两阶段分配”的核心问题，填补了现有研究中两者孤立应用的空白；