UC 伯克利等开源OpenThinker-32B,性能直逼 DeepSeek-R1-32B!

最近一段时间,以 DeepSeek-R1 为代表的大型推理模型可谓是「当红炸子鸡」!

01 UC 伯克利等开源全新 SOTA 推理模型OpenThinker-32B,性能直逼 DeepSeek-R1-32B

2月12日,斯坦福、UC伯克利等多机构联手发布了开源SOTA级推理模型——OpenThinker-32B,性能直逼 DeepSeek-R1-32B 和李飞飞团队的s1系列。

OpenThinker-32B 是一个基于 Qwen/Qwen2.5-32B-Instruct 微调的模型,使用 OpenThoughts-114k 数据集进行训练。该项目完全开源,提供模型权重、数据集、数据生成代码、评估代码和训练代码。适用于文本生成任务,支持多语言,具有高性能和大规模模型的特点。

OpenThinker

图片

  • 项目主页:https://www.open-thoughts.ai/blog/scale

  • Hugging Face:https://huggingface.co/open-thoughts/OpenThinker-32B

  • 数据集:https://huggingface.co/datasets/open-thoughts/OpenThoughts-114k

OpenThinker-32B 成功秘诀在于数据规模化、严格验证和模型扩展。

在数学、代码和科学等多个基准测试中,OpenThinker-32B 性能直接碾压了李飞飞团队s1和s1.1模型,直逼 R1-Distill-32B。

图片

值得一提的是,相比于使用了 800k 数据(包含600k个推理样本)的 DeepSeek-R1-Distill,OpenThinker-32B 仅用了 114k 数据,就能拿下几乎同等的优异成绩。这充分证明了数据、验证和模型规模的协同作用的重要性。

图片

图:OpenThoughts-114k数据集构建流程

团队的研究结果表明,采用经 DeepSeek-R1 验证标注(基于 R1 蒸馏)的大规模优质数据集,便可训练出 SOTA 的推理模型。

与目前市场上其他主流推理模型相比,OpenThinker-32B 不仅在数据处理能力上表现出色,还在资源使用效率上更具优势。

市场上其他模型需依赖大量的数据集进行训练,而 OpenThinker-32B 的策略则为寻求更高效算法的研究人员节省了时间和资源。

02 人工智能的新前沿:「形式化数学推理」,陈丹琦团队推出 Goedel-Prover

近日,普林斯顿大学陈丹琦、Sanjeev Arora 和金驰领导的一个团队开源了一个用于自动定理证明形式化推理模型 Goedel-Prover(哥德尔证明器),并且该模型在数学问题的自动形式化证明生成任务上达到了 SOTA。代码、模型还有在 Lean Workbook 中发现的新证明都已开源!

Goedel-Prover

图片

  • 论文标题:Goedel-Prover: A Frontier Model for Open-Source Automated Theorem Proving

  • 论文链接:https://arxiv.org/abs/2502.07640v1

  • 项目地址:https://github.com/Goedel-LM/Goedel-Prover

  • Hugging Face:https://huggingface.co/Goedel-LM/Goedel-Prover-SFT

Goedel-Prover 是一个开源的大型语言模型,专注于数学问题的自动形式化证明生成。

通过训练语句形式化工具,将自然语言的数学问题翻译成形式化语言(Lean 4),并创建了一个包含 164 万条形式化语句的数据集。

图片

Goedel-Prover 在 miniF2F 基准测试中达到了 57.6% 的成功率(Pass@32),在 PutnamBench 中成功解决了 7 个问题,生成了 29.7K 个 Lean Workbook 问题的形式化证明,几乎是之前工作的两倍。

图片


图:Goedel-Prover 表现:在 miniF2F 上,新模型的解题正确率比之前的最优模型(DeepSeek-Prover-V1.5-RL)提高了 7.6%。在 Pass@32、64 直至 25600 测试中,都始终优于 DeepSeek-Prover-V1.5-RL。在 Lean Workbook 数学题库中成功解决了 29.7K 道题目,这个成绩差不多是其他顶尖模型(InternLM2.5-StepProver 和 InternLMMath-Plus)的两倍。

图片


图:Goedel-Prover 表现:在 PutnamBench 上,解决了 7 个问题(Pass@512),位列排行榜第一。

欢迎各位关注我的微信公众号:HsuDan,我将分享更多自己的学习心得、避坑总结、面试经验、AI最新技术资讯。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值