Q-PEFT: Query-dependent Parameter Efficient Fine-tuning for Text Reranking with Large Language Model

本文是LLM系列文章，针对《Q-PEFT: Query-dependent Parameter Efficient Fine-tuning for
Text Reranking with Large Language Models》的翻译。

摘要

参数高效微调（PEFT）方法已被广泛应用于大型语言模型（LLM）中，以改进下行任务，而无需对整个LLM进行微调。最近的研究表明，如何有效地使用PEFT来微调LLM，以对具有令人信服的表现的任务进行排名；存在一些局限性，包括针对不同文档的学习提示是固定的，对特定任务的过度拟合，以及适应能力低。在本文中，我们提出了一种用于文本重新排序的查询相关参数高效微调（Q-PEFT）方法，该方法为LLM提供了关于真实查询的见解，从而促进了从输入文档生成真实查询。具体来说，我们利用查询从连接的文档中提取top-k token，作为上下文线索。我们通过用多头注意力层替换检索机制来进一步增强Q-PEFT，以实现端到端的训练，并覆盖文档中的所有token，引导LLM生成更多特定于文档的合成查询，从而进一步提高重新排序性能。在四个公共数据集上进行了广泛的实验，证明了我们提出的方法的有效性。

1 引言

2 相关工作

3 参数高效的查询软件文本排序器

4 实验设置

5 实验结果

6 结论和未来工作

在这项工作中，我们提出了一种新的查询相关参数高效微调（Q-PEFT）方法用于文本重新排序。我们冻结了LLM的原始参数，并引入了一个新的查询相关模块。我们的方法独特地使用查询从连接的文档中提取top-k token作为上下文线索。此外，我们通过用多头注意力层替换检索机制来增强Q-PEFT-