
Anthropic在Claude里发现了AGI
AI挖掘深似海,Anthropic在Claude里有惊人发现!在Claude中,有个叫J - space的区域,它掌控着Claude的思考和推理。一旦没了J - space,Claude就瞬间变成“人工智障”,只能回答幼儿园水平的问题。关键是,Anthropic从未给Claude设计过J - space,这完全是Claude在长年累月的训练中自己“长”出来的。
为此,Anthropic发表了一篇名为《语言模型中的全局工作空间》的论文。在论文里,Anthropic探讨了J - space对Claude的影响,还专门设计了一个工具来观察J - space。但到最后,也没研究明白J - space到底从何而来,就像人类细胞里的线粒体,虽大多数细胞靠它供能,可它的起源依旧是个谜。
就在Anthropic发表这篇文章的前几天,杨立昆刚在X上怼了现在的AGI,称“AGI里的‘G’是胡扯”。
要理解J - space,得先从人类自身说起。此刻读这句话的你,大脑同时在做调整坐姿、控制呼吸、识别文字等事,这些在后台自动运行,叫“无意识处理”。而像开会时把“机架”听成“鸡架”,然后感到肚子饿,这种能意识到的过程叫“可访问意识”。
Anthropic发现,Claude内部也有类似分界线。大部分Claude做的事,如流畅说话、查简单事实、用对语法,都是自动处理。但Claude内部有一小部分活动会集中到一个可被读出来的“概念空间”,Anthropic称其为J - space。J - space里的每个模式对应一个词,词亮起来不代表Claude在“说”这个词,而是“在它脑子里”。
比如问Claude能结网的动物有几条腿,它会答8条腿,而研究者先在J - space里看到“spider”(蜘蛛)这个词,然后Claude再据此回答。而且J - space是Claude在训练过程中自己长出来的,Anthropic用“Jacobian透镜”(简称J - lens)观察它。
Claude内部想法是数字,J - lens能把这些数字翻译成词。通过J - lens,研究员发现Claude读有bug的代码时,J - space会冒出“ERROR”;读蛋白质序列,J - space会出现蛋白质生物功能;读到搜索结果藏提示词注入攻击,J - space会亮起“injection”和“fake”。
最有说服力的实验是“偷梁换柱”。把J - space里的“spider”换成“ant”,Claude答案从8变成6;把“France”换成“China”,Claude关于法国的答案都换成中国的。这说明J - space参与了后续推理。
Anthropic总结了J - space的五个特征,对标人类认知科学里“意识可访问信息”的性质:1. Claude能报告J - space里的内容(问它在想什么,它会说出J - space里的词)。2. 它能在要求下主动调动J - space(让它默默心算,J - space里会出现算术过程和中间结果)。3. 它用J - space做内部推理。4. J - space里的一个概念能灵活服务于多种任务。5. J - space是有选择性的,大部分Claude做的事根本不经过它。
为研究J - space对Claude的影响,研究者把J - space暂时关掉,发现Claude能回答简单问题,但遇到需要多步思考的任务,表现大幅下降。这表明J - space很像Claude的“草稿纸”。
种种迹象显示,J - space和人类思考方式相似,且是Claude自发形成的。这很可能是Claude接近AGI的证明,过去判断模型是否为AGI主要看外部表现,而Claude“长”出J - space的自发性,或许才是AGI的关键。有了J - space,模型更可能把语言、知识和推理串成稳定的思考过程。
杨立昆在X上把AGI怼了个底朝天
巧的是,就在Anthropic发表J - space论文的前几天,图灵奖得主、深度学习三巨头之一的杨立昆,在X上把AGI概念怼了个底朝天。
时间线如下:2023年,杨立昆在巴黎的VivaTech科技大会上接受采访,称ChatGPT、Claude和Gemini“不是通向人类级智能或类人智能的道路,甚至连动物级智能都算不上,因为它们无法处理真实世界的数据,它们根本不是为此设计的”。今年6月的VivaTech,他又重复了这个论调。7月4日,他在X上表示“AGI里的‘G’是胡扯”。
杨立昆认为,会考试不等于有智能。硅谷认为模型通过律师考试、数学竞赛等就接近AGI,但他表示考试题是语言化、离散化、答案明确的任务,是大语言模型擅长的,而真正的智能还应有感知、物理直觉、因果理解等常识能力。他举例,拿起一支笔竖立在笔尖上,松手后小孩子知道笔会倒,但无法预测方向,而大语言模型会根据训练数据统计模式生成预测,几乎肯定是错的,因为它不是在推理物理现实,而是在做统计补全。
杨立昆认为,Agent应通过观察世界,学习世界变化,然后在内部做预测、规划,最后采取行动。大语言模型学到大量语言和知识模式,但在他看来,这不是在理解世界本身,只是一个交互界面。
杨立昆在2025年底离开Meta,创办了AMI Labs(Advanced Machine Intelligence Labs),总部在巴黎,2026年3月拿到10.3亿美元的种子轮融资,是欧洲历史上最大的种子轮,投资方包括英伟达和贝索斯。AMI Labs用JEPA架构,让AI系统从感知数据中学习因果和规划。
此外,杨立昆不认为继续scaling就会自动实现AGI。他觉得语言数据不够承载真实世界全部,纯自回归预测也不是高效的推理方法。最后,他更讨厌硅谷“AGI毁灭人类”的末日论,他经常给马斯克、辛顿、阿莫迪等人唱反调,认为当前系统离真正自主的智能还差很远,把今天的大语言模型描述成即将失控的AGI是严重给AI“抬咖”,还警告AI泡沫终究会彻底破裂。
30



被折叠的 条评论
为什么被折叠?



