文章核心总结
本文针对文本属性图(TAGs)零样本推理中LLM面临的图结构信息有限、响应不可靠两大问题,提出动态文本捆绑监督方法(DENSE)。通过将拓扑或语义相近的节点文本组成捆绑包查询LLM获取包标签,用熵基和排序基损失监督图神经网络(GNN)训练,并动态精炼捆绑包剔除噪声节点,最终在10个跨领域数据集上验证了方法的有效性。
主要创新点
- 提出捆绑包视角:将捆绑包结构与文本属性图结合,为GNN提供鲁棒监督信号,解决LLM单节点查询的信息不足问题。
- 完整框架设计:包含捆绑包采样(拓扑/语义 proximity)、LLM查询、双损失监督(熵基+排序基)、动态精炼四大模块,且提供严格理论分析(异常值容忍性、优化收敛性)。
- 通用性与鲁棒性:兼容不同同质性的图(同质性用拓扑采样,异质性用语义采样)和不同LLM骨干模型,实验证明在各类数据集上均优于15种基线方法。
翻译部分(Markdown格式)
Abstract
大型语言模型(LLMs)凭借强大的泛化能力,已被应用于诸多零样本学习任务。近年来,将LLMs应用于文本属性图(TAGs)的研究受到越来越多关注。然而,LLMs的应用面临两大核心挑战:图结构信息有限,以及响应结果不可靠。LLMs难以处理脱离图拓扑结构的孤立文本属性,更糟的是,信息不足与LLMs固有的缺陷(如幻觉现象)会导致预测结果不可靠。为此,本文提出一种名为动态文本捆绑监督(DENSE)的新方法,通过向LLMs查询文本捆绑包
订阅专栏 解锁全文
1334



被折叠的 条评论
为什么被折叠?



