Ilya左膀右臂被Claude团队挖走！奥特曼砍掉的超级对齐算力，Anthropic给了

原创

于 2024-05-29 11:54:50 发布 · 1k 阅读

8 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #chatgpt

衡宇发自凹非寺
量子位 | 公众号 QbitAI

刚从OpenAI愤而离职的RLHF发明者之一Jan Leike，宣布加入Anthropic。

就在十多天前，追随Ilya Sutskever的脚步，Jan也和他俩共同领导的超级对齐团队说了拜拜。

现在，Jan的去向落定，迅速加入Claude团队Anthropic。

至于职务嘛，与他在OpenAI超级对齐团队干的活类似：

我将在Anthropic继续执行超级对齐任务！
新团队将致力于可扩展监督、从弱到强的泛化和自动对齐研究。

有意思啊有意思，要知道，Anthropic创始团队也是当年从OpenAI“叛逃”出来的。

当年，曾任OpenAI研究副总裁的Dario Amodei等人，由于对OpenAI商业重点、与微软的关系远近、对安全的重视程度等存在分歧，毅然决然组团出走。

这才有了今日可以与OpenAI相抗衡的Anthropic，才有了打破GPT不可战胜神话的Claude 3。

Jan的官宣推特底下一片恭喜声，甚至有人形容Jan加入Anthropic带来的价值，“就像金门大桥为旧金山增加价值一样——他将帮助拨开AI安全研究的迷雾”。

当然也有人担心，过于注重AI安全会让模型实用性下降：

“恭喜恭喜！从今以后Claude就会变得平庸无奇没啥用了，毕竟GPT-4o发布之前（超级对齐两位领导人离职前）的ChatGPT就是这样。”

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

QbitAl

关注关注

18
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

参与评论您还未登录，请先登录后发表或查看评论

博客

黄仁勋做客美国第一播客：每天都在担心英伟达倒闭

12-04

然后你说“不，那是错的”，你需要把那个误差反向传播回去，调整这几十亿个开关的参数。我的两个孩子现在都在英伟达工作，所以我们在一起时，大家都在工作，都在聊公司的事情。我去见世嘉的CEO，我告诉他：“我没法完成合同了，我们的技术是错的。：我一直想弄懂这个基础问题，因为我也在玩游戏，我知道显卡是干嘛的。如果这能让我们获取知识更高效，哪怕是由AI合成的知识，只要它是基于第一性原理核实过的，那就没问题。当时行业的主流是用三角形来绘图，而我们却选择了一种叫“正向纹理映射”的技术，用的是四边形，甚至是曲面。

博客

“豆包手机”在二手市场价格都翻倍了……

12-04

当用户给助手指令，要求操作手机时，助手确实需要读取屏幕，否则无法完成用户任务，但屏幕和操作过程都不会在服务器端留下存储，且所有的相关内容也都不会进入模型训练。据了解，豆包手机助手官方最新向新浪科技表示，“合作的工程样机由豆包主导AI手机助手的产品定义与体验，中兴通讯旗下努比亚nubia主导硬件工程与技术研发”。，所有权限的使用在官网的隐私安全白皮书中都有明确的披露，并不存在一些谣言所说的“入侵”、“越权”等行为。另外，有传言称这款手机基本算是字节自己研发的，但是迫于压力说的合作，其实中兴只是代工。

博客

下周三！量子位的这件大事就要来了｜MEET2026

12-04

这几位大咖聚在一起，探讨的不仅是Agent的技术架构，更是如何让AI从陪聊进化为真正的超级助理。前者，是由量子位智库梳理总结出的2025年度AI代表进展，并且展望接下来能预见的技术趋势，覆盖从算法数据算力的技术底座，到产品解决方案，乃至行业应用的发展走向，总之关于AI的一切，都可以在这份报告一览而尽。而且现在大会的内容已经可以剧透，真就是光看嘉宾就知道有多重磅了，包括清华大学张亚勤、孙茂松、智源研究院王仲远等学术界的大咖，国内产业界有百度、小米、商汤等，国外有谷歌云、亚马逊云科技、高通等。

博客

嘉宾全阵容揭晓！张亚勤孙茂松，百度小米商汤谷歌都要来MEET2026

12-04

PPIO聚焦于AI云计算领域，推出高性能推理加速引擎，集成GPU容器实例、Serverless GPUs、Agent沙箱、大语言模型API、图像与视频生成模型API等产品，使开发者无需关注底层基础设施运维与模型接口开发，即可快速部署AIGC应用，聚焦应用创新与业务增长。刘凡平，毕业于中国科学技术大学，上海市科技专家库专家，曾出版人工智能领域著作4本，发表多篇人工智能领域论文，人工智能技术相关专利20余项，涵盖基础算法研究到大模型架构设计。主要研究兴趣包括：大模型、多模态、搜索推荐、具身智能、VR/AR等。

博客

Sora APP 30天留存率：1%

12-04

不幸的是，此时回过头看，Sora APP在阶段3的一些尝试无疑是失败的。潜台词就是，即使打造出了Sora APP这样一款强大的应用，一些后续运营对OpenAI来说仍是不小的挑战，何况这种短视频产品对运营的依赖更重。可以看到，OpenAI一边为Sora APP增加新功能新玩法，一边取消注册使用门槛，以此促进用户增长，但貌似用户并不买账。作为一名内容创作者，我放弃了它，因为它无法上传我自己的逼真头像。部分网友表示，Sora APP的推荐算法非常糟糕，总是推送同类型的视频，sam的脸总是高频出现。

博客

无需训练的3D生成加速新思路：西湖大学提出Fast3Dcache

12-04

它动态地分配每一部的“计算预算”——变化大的时候多算点，稳定的时候多存点，绝不浪费一度电，也绝不错过一个细节。当参数τ=8时，模型提速。下图所示，Fast3Dcache自身以及和其他方法结合在提高速度以及降低计算量的同时，仍然保持了高质量的几何特征。这种基于时空动力学的筛选机制，比传统的仅看数值相似度要靠谱得多，彻底解决了3D结构断裂的问题。：尾声，绝大多数体素已经定型，只剩下微小的细节修补，可以采用固定采样的激进加速方法。：生成初期，物体的大致轮廓正在形成，体素变化剧烈，这时候必须全力计算，不能偷懒。

博客

误入人均10个顶级offer的技术天团活动，顶尖AI人才的选择逻辑我悟了

12-04

208

再加上在他的判断下，电商+Agent是C端AI产品最天然的应用场景，尤其在京东这样的高频交易平台上，Agent不是个点状功能，而是能覆盖选品、搜索、比价、下单、售后的全链路智能体。——这点倒符合外界对京东一贯的评价，拥有完善自营体系的京东，依托多年沉淀的电商和供应链能力，沉淀了海量真实数据，数据链路闭环，为大模型训练提供了满满的“弹药库”。Daniel说，京东是一家以供应链为基础的技术与服务企业，自己在了解供应链业务后，识别到这背后的复杂度与挑战性，同时也意识到这其中巨大的机会和成长空间。

博客

又一高管弃库克而去！苹果UI设计负责人转投Meta

12-04

前谷歌AI主管约翰・詹南德里亚（John Giannandrea），2018年加盟苹果管AI，却因Siri升级慢、Apple Intelligence没起色，被劝退了——明年春天退休，结束7年的苹果生涯。现如今苹果的液态玻璃设计，据说就出自他的手笔。设计是苹果公司本质的核心，今天，我们拥有一支卓越的设计团队，正在打造历史上最具创新性的产品阵容。而更重要的AI方向上，苹果不仅老态龙钟步履蹒跚，关键人物也是劝退的劝退、跳槽的跳槽。之前已经被多次曝光的进展是，执掌苹果14年的蒂姆・库克（Tim Cook），

博客

理想首款AI眼镜，只卖1699元

12-04

可以连接车里的任何一块屏幕，在任何一个位置上，你可以让车里边或者手机里的声音直接连到你的眼镜里进行播放，尤其是高速的时候，跑长途，孩子看着动画片，你可以听书听导航，互不干扰又彼此开放，车里其他人说话你都能听得很清楚。第二点，前框极致轻薄，尼龙壁厚只有0.8毫米，同时没有使用固定式鼻托，使用了钛合金的调节鼻托，三块电池其中的两块电池配重到了镜腿的最后面，形成了一个三点的重量平衡，鼻子和两个耳朵这个受力非常的均衡。第三，整个的镜腿后部的弧度设计是学习运动眼镜向后环抱，戴上以后更有安全感，甚至跑步没有任何问题。

博客

马斯克脑机接口意念控制机械臂！演示者获得钢铁之吻，理论上可控制一切

12-03

针对首位患者因颅内气隙导致电极线松脱、信号减弱的情况，在针对第二位受试者Alex及后续患者的手术中，团队改进了手术方案，通过严格控制植入物与大脑表面的间隙（Gap Reduction），并优化了手术中的防脑组织位移策略。而为了玩视频游戏，他甚至找人在论坛上帮忙，将街机摇杆和Xbox手柄的零件焊接在一起，制作了一个适合他操作的特殊控制器。这些用户并没有将自己局限在医疗实验对象的角色中，而是通过将昂贵的植入物与廉价的摄像头、智能家居设备相连接，重新找回了观察世界和掌控生活的自主权。

博客

人形机器人控制新突破！敏捷稳定两不误，一个策略让人形机器人完成叶问蹲和跳舞｜港大&英伟达&清华

12-03

实验结果显示，基于合成平衡动作的训练，策略学会了在各种挑战性姿态中保持平衡，能够零样本跟踪训练集中未见过的极端平衡动作，如”叶问蹲”这样的功夫式单腿蹲动作，展现了良好的泛化能力。直接在机器人运动空间中采样，避免了动捕数据中的传感器噪声和运动学重定向误差，确保动作的物理合理性，如下图所示，展示了准确可控的足部接触状态和质心轨迹。：专注于实现敏捷、流畅的动态动作，如跳舞、跑步等。通过整合人类动捕数据和可控的合成平衡动作，AMS有效缓解了数据的长尾分布问题，为策略训练提供了更加丰富和多样化的参考动作数据。

博客

后生可畏！何恺明团队新成果发布，共一清华姚班大二在读

12-03

在ImageNet 256x256基准测试中，iMF-XL/2模型在 1-NFE（单步函数评估）中取得了1.72的FID成绩，相较于原始MF提升了50%，证明了从头开始训练的单步生成模型可以达到与多步扩散模型相媲美的结果。具体来说，iMF让用于计算复合预测函数V（代表对瞬时速度的预测）中，雅可比向量积（JVP）项所需的切向量输入不再是外部的e-x，而是由网络自身预测的边缘速度。最终，iMF 成功将训练流程转换成了一个稳定的、标准的回归问题，为平均速度的学习提供了坚实的优化基础。

博客

DeepSeek-V3.2被找出bug了：疯狂消耗token，答案还可能出错，研究人员：GRPO老问题没解决

12-03

技术报告中，DeepSeek研究人员坦承，token效率对于DeepSeek-V3.2而言，仍然是个挑战：通常情况下，本次上新的两个模型需要生成更长的轨迹，才能达到Gemini-3.0-Pro的输出质量。而DeepSeek-V3.2-Speciale本身，也是特意放宽了RL的长度限制，允许模型生成极长思维链，使得模型能够通过大量消耗token来进行深度的自我修正和探索。这项研究的核心作者Zichen Liu指出，DeepSeek-V3.2已经通过新的优势值计算方式，修正了“难度偏见”（如下图红框所示）。

博客

浙大系具身智能再闯港交所：主打工业场景，每天进账1000000元

12-03

他主导并推动了公司多项核心软件产品的开发，包括RoboKit操作系统、RoboShop、RDS调度系统、M4智能调度与管理系统、Meta系列可视化软件以及星云系统，构成了仙工智能完整的软件生态基础。此外，控制器还可通过多种接口连接传感器与执行器，实现灵活扩展；同时，通过其平台落地的机器人型号累计已超2000款，并已进入3C制造、汽车、新能源、半导体、生物医药、自动化设备、工程机械等20多个细分行业。简单来说，控制器就是机器人的「大脑」，装上它，机器人就能自己感知定位、思考决策、移动，不用工厂自己从头训练。

博客

云计算一哥10分钟发了25个新品！Kimi和MiniMax首次上桌

12-03

474

根据Garman介绍，Trainium4相较于上一代，将带来每个维度上的巨大飞跃：FP4计算性能提升6倍，内存带宽提升4倍，并拥有2倍于前代的高带宽内存容量，专为全球最大的模型训练需求而生。从Trainium的自研，到GPU超集群的运维，再到AI Factories的区域化复制，亚马逊云科技在算力供应链上的掌控力，的确已经逼近算力帝国的描述。Agent不可控、不可信、难构建？这三个Agent，覆盖了软件开发全生命周期，将开发者从重复、繁重、易错的体力劳动中解放出来，让他们能专注于更高价值的创造性工作。

博客

OpenAI首席研究员Mark Chen长访谈：小扎亲手端汤来公司挖人，气得我们端着汤去了Meta

12-03

一个最好的例子是，发布后三天，我见了一个物理学家朋友，他之前玩过模型，觉得它们可爱但没啥用，我让他用Pro模型更大胆地试，他把自己最新论文丢进去，模型想了30分钟，然后就把答案给出来了。但他们不总是变成，公司里最高层的技术领导或者最有名的工程师，有时候他们只是做自己想做的事情，这让我一直有个疑问：在竞赛中表现最顶尖的人，未必就是你能遇到的最强工程师。一路上，我得到很多很好的建议，我觉得管理的成长，本质上是靠“次数”累积，你要不断练习，没有比OpenAI更能给你练习机会的地方了，永远有新的挑战出现。

博客

GPT5.5代号“蒜你狠”曝光！OpenAI拉响红色警报加班赶制新模型，最快下周就发

12-03

但作为一家私营公司，OpenAI的命运与英伟达、微软和甲骨文等公司紧密相连，公司投资数据中心的数千亿美元承诺，让市场对其将这些投资转化为有意义收入的时间表产生了担忧。更要命的是，公司需要筹集约1000亿美元的资金来应对巨大的现金消耗。更让OpenAI紧张的是，谷歌刚刚发布的Gemini 3模型在行业基准测试中已经超越了OpenAI的模型，直接推动了谷歌市值的飙升。根据谷歌在10月份公布的数据，Gemini的月活跃用户已经达到6.5亿，而仅仅三个月前的7月份，这个数字还只是4.5亿。

博客

DeepSeekV3.2技术报告还是老外看得细

12-03

最后，DeepSeek-V3.2-Speciale版本为了探索推理能力的极限，特意放宽了RL的长度限制，允许模型生成极长的“思维链”，迫使模型通过大量的Token生成来进行深度的自我修正和探索。换句话说，如果说Gemini-3 靠“堆知识（预训练）”赢得了上半场，那么DeepSeek-V3.2-Speciale则通过“堆思考（长上下文RL）”赢回了下半场。其中，标准版DeepSeek-V3.2在推理测试中，达到了GPT-5的水平，仅略低于Gemini-3.0-Pro。

博客

米哈游蔡浩宇，发了个“游戏版ChatGPT”

12-02

模型建立，不仅能够遵循基本指令，而且集成了强大的推理能力，可以理解和完成长时间的复杂任务、文本语言或图像等多模态提示，还能理解不同的语言甚至标点符号。嘶，这种对话方式和AnuNeko异曲同工，夸张一点说，就像一对双胞胎，不过应用场景不同，一个定位是聊天软件，一个已经内嵌进游戏之中。整体基于LLM构建城市沙盒，玩家的每一次对话选择、行为决策都会直接影响接下来的剧情走向和城市关系网络，具备更高的自由度和不可预测性。All in all，老米这个聊天AI，消遣尚可，实用不足，不过情绪价值这块确实是拉满了。

博客

快手可灵也吃上了香蕉，一通离谱prompt测试，好好玩要爆了

12-02

一把复古金属浇水壶从画面右上角伸入，壶口倾斜，将水壶里的水流浇湿到明信片的土地上，照片里干裂的土地迅速变湿，颜色加深，湿润的土地从裂缝中冒出嫩绿春笋破土而出，迅速生长拔高，从明信片中长出来，3D效果。基于该视频生成下一个镜头：突然，一只手落在男人的肩上，视频里的男人一回头，发现是自己的特工搭档，搭档立刻捂住他的嘴让他别出声，两人神情紧绷地扫视四周。值得表扬的是，人物一致性保持的还不错，但是“落在肩上”和“回头”的动作被AI吞了，只保留了捂嘴的动作，看来这O1有点自己的想法？

Ilya左膀右臂被Claude团队挖走！奥特曼砍掉的超级对齐算力，Anthropic给了

衡宇 发自 凹非寺量子位 | 公众号 QbitAI

衡宇发自凹非寺
量子位 | 公众号 QbitAI