Data-Centric Financial Large Language Models-优快云博客

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/134120387

本文介绍了一种以数据为中心的方法，通过预处理和预理解改进大型语言模型（LLM）处理财务任务的能力。提出财务LLM（FLLM），使用多任务提示微调并结合溯因增强推理（AAR）生成训练数据。实验显示，这种方法的FLLM在财务分析和解释任务上超越了基线模型，并开源了新的财务分析基准。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文是LLM系列文章，针对《Data-Centric Financial Large Language Models》的翻译。

摘要

大型语言模型（LLM）有望用于自然语言任务，但在直接应用于金融等复杂领域时却举步维艰。LLM很难对所有相关信息进行推理和整合。我们提出了一种以数据为中心的方法，使LLM能够更好地处理财务任务。我们的关键见解是，与其一次用所有内容重载LLM，不如对数据进行预处理和预理解。我们使用基于多任务提示的微调创建了一个财务LLM（FLLM），以实现数据预处理和预理解。然而，每个任务的标记数据很少。为了克服手动注释成本，我们使用溯因增强推理（AAR）通过修改FLLM自己输出的伪标签来自动生成训练数据。实验表明，我们的以数据为中心的带有AAR的FLLM大大优于为原始文本设计的基线财务LLM，在财务分析和解释任务方面达到了最先进的水平。我们还开源了一个新的财务分析和解释基准。我们的方法为释放LLM在复杂现实世界领域的潜力提供了一条很有前途的途径。