基于金融新闻微调大语言模型，进行股票回报预测

“Fine-Tuning Large Language Models for Stock Return Prediction Using Newsflow”

论文地址：https://arxiv.org/pdf/2407.18103

摘要

本文研究了利用金融新闻流对大型语言模型（LLMs）进行微调，以用于预测股票回报的效果，并突出了回报预测在量化投资中的关键作用。文中描述的模型由文本表示和预测组件构成，并对比了编码器与解码器模型的不同效果。

研究发现指出：

• 通过聚合LLM的token级嵌入表示可以改善长短期组合的回报预测能力。
• 对于较大的投资组合，解码器模型显示出更佳的表现；而在较小的投资范围内，则未见明显的性能差异。
• 相较于传统的基于情感分析的评分，LLM提供的文本表示在构建投资组合时表现出更优的性能。

该研究证明了通过微调LLM来进行回报预测和优化投资组合构建的潜力。

简介

量化投资依赖于从市场价格、经济数据和金融文本等多种来源中提取量化的特征，以构建有效的投资组合。随着自然语言处理技术的进步，金融新闻文本数据在量化投资中的作用日益凸显。大型语言模型（LLMs）因其在语言理解和生成任务上的卓越表现，能够通过特定领域的微调来支持投资相关应用。

本文专注于使用金融新闻来预测股票回报，从而辅助投资组合的构建。传统上，利用金融新闻的方法涉及复杂的特征提取与验证流程，这不仅耗时而且需要额外的数据处理。相比之下，LLMs可以产生可以直接用于预测分析的文本数值表示，因此本文探讨了通过微调这些模型，实现从新闻内容直接到股票回报预测的转变。

本文的主要贡献如下：

1. 开发预测框架：