LLM-Driven Treatment Effect Estimation Under Inference Time Text Confounding

文章主要内容总结

本文聚焦于个性化医疗中条件平均治疗效果（CATE）估计的挑战，核心问题是推理时文本混淆：模型训练时使用结构良好的医疗数据集（含完整混杂因素），但推理时仅能获取患者自我报告症状等文本描述（仅部分包含混杂因素），导致治疗效果估计存在偏差。

为解决这一问题，作者提出TCA（Text Confounding Adjustment）框架，其核心步骤包括：

1. 基于训练数据中的真实混杂因素估计干扰函数（nuisance functions）并构建双重稳健伪结果；
2. 利用大型语言模型（LLM）生成文本代理混杂因素，连接真实混杂因素与推理时的文本描述；
3. 通过文本条件回归，基于伪结果和文本代理估计无偏的CATE。

实验表明，TCA在国际卒中试验（IST）和MIMIC-III数据集上的表现显著优于传统文本基估计方法，误差降低约35%-40%，且在不同混杂强度、提示策略和子群体中均稳健有效。

创新点

1. 形式化推理时文本混淆问题：明确训练时完整混杂因素与推理时部分文本混杂因素的差异，首次将该问题定义为“推理时文本混淆”，并分析其对CATE估计的偏误影响。
2. 提出TCA框架：结合LLM生成文本代理和双重稳健学习器，解决推理时混杂信息不完整的问题，确保即使在干扰函数误设定的情况下仍能收敛到真实CATE。
3. 实证验证有效性：在真实医疗数据集上