FinTral: A Family of GPT-4 Level Multimodal Financial Large Language Models

本文是LLM系列文章，针对《FinTral: A Family of GPT-4 Level Multimodal Financial Large Language Models》的翻译。

摘要

我们介绍了FinTral，这是一套最先进的多模态大型语言模型（LLM），建立在Mistral-7b模型的基础上，专门用于财务分析。FinTral集成了文本、数字、表格和图像数据。我们利用我们为这项工作策划的大量文本和视觉数据集，通过特定领域的预训练、指令微调和RLAIF训练来增强FinTral。我们还引入了一个广泛的基准，其中包括9个任务和25个数据集用于评估，包括金融领域的幻觉。我们的FinTral模型采用先进的工具和检索方法进行了直接偏好优化训练，称为FinTral-DPOT&R，展示了卓越的零样本性能。它在所有任务中都优于ChatGPT-3.5，在九项任务中有五项超过GPT-4，这标志着人工智能驱动的金融技术取得了重大进步。我们还证明，FinTral有潜力在不同的财务环境中出色地进行实时分析和决策。

1 引言

2 相关工作

3 FinSet

4 Fintral

5 实验