
今天,Thinking Machines正式发布第二款重磅模型Inkling - Small。它仅用四分之一体量反超首个模型Inkling,且降低使用门槛,而此时公司核心人员却在不断流失。

半个月前首个开源975B Inkling登场引发关注,如今Inkling - Small发布。它是MoE架构模型,总参数2760亿,单次推理激活120亿,原生多模态且有100万token上下文。

Inkling - Small仅用四分之一体量实现对「万亿大哥」的性能反超。在ARC - AGI - 2上刷新开源SOTA,在多个基准测试中表现出色,多模态评测接近原版但代价低得多。

官方公开后训练细节,先以Inkling为老师做on - policy蒸馏出preview检查点,再进行两周智能体编码强化学习,跑通了反复出模型的产线。

原版Inkling使用门槛高,而Inkling - Small将门槛大幅降低。LMSYS称其参数配置是强化学习甜点位,中等规模团队也有机会定制模型。

Thinking Machines开局惊艳,但融资流产后核心人员加速流失,六个联创走了四个。然而,团队动荡下模型发布却在加速,形成鲜明对比。
编辑观点:Thinking Machines在人员流失困境下仍能快速推出高性能模型,显示其技术实力。但人员不稳定或成隐患,未来能否持续创新,值得关注。



被折叠的 条评论
为什么被折叠?



