FinTral: A Family of GPT-4 Level Multimodal Financial Large Language Models

UnknownBody

已于 2024-05-20 11:08:35 修改

阅读量521

点赞数 8

CC 4.0 BY-SA版权

于 2024-02-27 16:43:07 首次发布

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/136325305

LLM Daily 同时被 3 个专栏收录

1689 篇文章 ¥99.90 ¥299.90

订阅专栏

超级会员免费看

LLM 日更

828 篇文章

已下架不支持订阅

LLM for finance

16 篇文章

订阅专栏

FinTral是一套先进的多模态金融语言模型，整合了文本、数字、表格和图像数据，专门用于财务分析。通过特定领域的预训练、指令微调和RLAIF训练增强，它在财务幻觉等多个金融任务中表现出色，超越了ChatGPT-3.5和GPT-4。然而，模型的局限性包括领域适应性、实时数据处理和维护更新需求。

本文是LLM系列文章，针对《FinTral: A Family of GPT-4 Level Multimodal Financial Large Language Models》的翻译。

摘要

我们介绍了FinTral，这是一套最先进的多模态大型语言模型（LLM），建立在Mistral-7b模型的基础上，专门用于财务分析。FinTral集成了文本、数字、表格和图像数据。我们利用我们为这项工作策划的大量文本和视觉数据集，通过特定领域的预训练、指令微调和RLAIF训练来增强FinTral。我们还引入了一个广泛的基准，其中包括9个任务和25个数据集用于评估，包括金融领域的幻觉。我们的FinTral模型采用先进的工具和检索方法进行了直接偏好优化训练，称为FinTral-DPOT&R，展示了卓越的零样本性能。它在所有任务中都优于ChatGPT-3.5，在九项任务中有五项超过GPT-4，这标志着人工智能驱动的金融技术取得了重大进步。我们还证明，FinTral有潜力在不同的财务环境中出色地进行实时分析和决策。