近期,百川智能推出了全链路金融领域增强大模型 Baichuan4 Finance。
这款大模型凭借强劲的能力和良好的表现,在多个权威开/闭源测评榜单中得分遥遥领先。
因此,不少专业人士夸赞百川智能的 Baichuan4 Finance 是
目前最具有竞争力的金融增强模型之一。
这款模型在训练中使用了非常多的前沿技术,包括但不限于:
• 在阿里团队 domain scaling law 的基础上进一步探索领域数据配比;
• 引入了类似于 llama3 技术报告中提到的 loss 到 metrics 的 scaling law 技术方案;
• 通过强化学习,大幅度提高了基座模型的数学能力,并尝试解释了 RL 效果优越性的背后原因等。
其中最具有创新性的技术,是百川智能算法团队在行业首次提出的「领域自约束」训练范式。

最低0.47元/天 解锁文章

被折叠的 条评论
为什么被折叠?



