Kuaiji: the First Chinese Accounting Large Language Model-优快云博客

本文是LLM系列文章，针对《Kuaiji: the First Chinese Accounting Large Language Model》的翻译。

kuaiji：中国第一个会计大语言模型

摘要
1 引言
2 相关工作
3 数据集构建
4 方法
5 实证分析
6 结论和未来工作

摘要

像ChatGPT和GPT-4这样的大型语言模型在理解和生成自然语言方面表现出了令人印象深刻的熟练程度。然而，他们在适应会计等专业领域的任务时会遇到困难。为了应对这一挑战，我们引入了kuaiji，一个量身定制的会计大语言模型。kuaiji使用百川框架进行了精心的微调，该框架包括持续的预训练和监督微调过程。在包含15677个真实会计-客户对话的CAtCatQA数据集的支持下，kuaiji展现出非凡的准确性和响应速度。我们的贡献包括创建第一个中国会计数据集，建立kuaiji作为领先的开源中国会计LLM，以及通过真实世界的会计场景验证其有效性。

1 引言

2 相关工作

3 数据集构建

4 方法

5 实证分析

6 结论和未来工作

总之，尽管ChatGPT和GPT-4等大型语言模型在自然语言任务中表现出了非凡的能力，但它们对会计等专业领域的适应带来了重大挑战。作为回应，我们推出了在百川框架内开发的经过微调的会计大语言模型kuaiji。通过持续的预训练和监督微调，kuaiji在CAtCatQA数据集的支持下表现出了卓越的准确性和响应能力。我们的努力促成了首个中国会计数据集的创建，并将快集建立为一流的开源中国会计LLM，通过真实的会计场景进行验证。展望未来，我们未来的努力将集中在整合来自人类反馈的强化学习（RLHF），以增强模型的精化。此外，将致力于扩展数据集，以涵盖更广泛