Generating Search Explanations using Large Language Models

文章主要内容和创新点

主要内容

本文聚焦于利用大型语言模型（LLMs）生成搜索结果的“方面导向解释”（aspect-oriented explanations）——这类解释是置于检索文档旁的简洁文本片段，旨在帮助用户高效定位相关信息。研究背景是用户提交的查询往往表述不充分（存在多意图歧义），导致搜索结果多样，而现有文档片段（snippets）难以清晰解释文档与查询的相关性。

研究采用两种策略微调LLMs：对较小的编码器-解码器模型（如T5、BART）进行全微调，对较大的仅解码器模型（如LLaMA）采用QLoRA（参数高效微调方法）以降低计算成本。输入格式上，采用自然语言而非特殊令牌（如[SEP]），仅解码器模型还采用指令微调框架以适配其指令遵循行为。

通过BLEU、ROUGE、METEOR、BERTScore等指标，将微调后的LLMs与多个基线模型（如标准Transformer、Bert2Bert、零样本LLaMA等）对比，结果显示：所有微调模型在各项指标上均优于基线，其中LLaMA v3（70B）表现最佳；中小型编码器-解码器模型（如FT BART、FT T5）在性能与计算效率间实现了良好平衡。

创新点

1. 首次探索LLMs在搜索解释生成中的应用：填补了LLMs在生成搜索结果方面导向解释任务上的研究空白。
2. 灵活的微调策略：结合全微调和QLoRA（参数高效微调），适配不同规模的LLMs（小模型全微调、大模型高效微调），兼顾性能与计算成本。
3. 自