
AI的监管
“管,还是不管?”关于AI监管的争论一直呈现非黑即白的态势。不过,来自Institute for Law & AI的研究团队提出了“激进可选性(Radical Optionality)”这一中间路线。其核心思想是,政府应投资建设未来可能需要的监管工具,即便当下用不上。
“激进可选性”的价值在于跳出了AI监管讨论中常见的二元对立:要么担心失控主张重手监管,要么担心扼杀创新而放任发展。LawAI的作者们认为,成熟的做法是保留政府未来做正确决策的能力。也就是说,当下应尽快建设在未来各种场景下都可能有用的制度能力,如信息获取权、跨部门共享机制、专业评估体系、对前沿实验室员工的吹哨人保护,以及围绕模型权重与算法机密的安全标准。这不是“先别管”,而是“先建立能看见、能判断、能响应的能力”。
这套框架值得重视,是因为它承认一个常被忽略的现实:面对变革型AI,最大的不确定性不是“有没有风险”,而是“风险会以什么形态到来”。如果未来几年AI带来的问题是研发速度、劳动力替代、战略竞争和供应链安全等多重变量同时变化,那么如今写在法规里的定义、阈值和责任结构可能很快过时。因此,论文强调“灵活规则与定义”,让政府部门保留更快更新规则的能力,同时通过第三方审计、报告义务与能力评测,避免公共部门在关键时刻完全依赖企业自报。这就像给国家治理系统买一份高额保险,虽未必马上理赔,但局势急转时,晚一天建设都可能太迟。
当然,这套主张有代价。Jack Clark提醒,任何“为未来危机预置权力”的设计,都存在被强势政府重新解释甚至扩权使用的风险。“这些工具本身并不重”,但在政治环境变化后可能被用成更重的东西。所以,“激进可选性”难的不仅是提升治理能力,更是在提升能力的同时守住民主正当性、程序约束与滥权防线。从这个意义上说,它不是单纯主张加强监管的文章,而是关于“国家如何在不确定时代保留行动能力,同时不被自己的能力反噬”的治理设计稿。
神经计算机,超级AI
如果说前面的讨论还停留在“如何治理现有AI”层面,那么Meta和KAIST研究者发表的《神经计算机》(Neural Computers)论文则指向更根本的问题:未来的计算机可能与现在大不相同。
论文提出大胆设想:用一个巨大的神经网络完全取代传统计算机架构,将计算、内存、输入输出统一到一个“学出来的运行时状态”中。也就是说,未来的电脑无需Windows、macOS或任何操作系统,本身就是能直接理解并执行指令的神经网络。
这篇论文值得关注,不仅因其想法颠覆,还与作者有关。论文作者之一Juergen Schmidhuber是AI领域的传奇人物,几十年前就提出了生成模型、世界模型、生成对抗网络等如今成为行业基石的概念。Jack Clark形容“神经计算机”的想法“太过离谱又太过简单,以至于它可能是对的”,当然这需要比现在大得多的算力和数据。
用更直观的比喻理解这个设想:现在用电脑,通过鼠标键盘下指令,操作系统调动硬件执行;而神经计算机是把整个流程压缩进一个黑盒子,不用管里面有没有Windows、CPU和内存,只需对它说“帮我写个文档”或“帮我算个数”,它就直接给出结果。这个黑盒子内部没有传统意义上的操作系统,靠训练出来的巨大神经网络完成所有计算。
研究团队已完成初步验证。他们用强大的视频生成模型和精心筛选的训练数据,创建了命令行界面和图形用户界面两个版本的神经计算机原型。原论文描述,命令行版本“学会了渲染和执行基本的命令行工作流,通常能保持与终端缓冲区的对齐,并捕捉日常命令行使用的常见特征(如快速回滚、提示词换行、窗口大小调整),尽管符号稳定性仍然有限”;图形界面版本则展示了更接近日常操作的能力。
不过,这只是开端。Jack Clark评价,目前的原型就像“莱特兄弟起飞前的试飞”,刚刚预示着更远的路。从它能看到一个有趣的方向:未来所有软件可能不再以传统形式存在,而是直接存在于神经网络的权重里。正如论文所说:“神经计算机指向一种新的机器形态——一个单一的、学出来的运行时状态充当计算机本身,同时驱动像素、文本和动作,囊括今天操作系统和界面所处理的一切。这种系统将极其有用,与今天的系统完全不同,而它的存在本身,也可能大大增加我们自身正生活在一个模拟中的可能性。”
递归自我改进可能引爆经济爆发式增长
如果说神经计算机是硬件基础设施的潜在革命,那么经济学家的研究则用数据回答另一个核心问题:当AI能自我改进时,世界会怎样?
来自Forethought、哥伦比亚大学和弗吉尼亚大学的研究者构建了经济学模型,探讨AI的递归自我改进(即AI系统能自动化自身后续开发)对宏观经济的影响。他们的结论可用“13%”概括。
模型计算显示,全行业13%的自动化率就能让经济进入爆发式增长区间;若限定在软件和硬件研究领域,17%即可。具体而言,硬件研发是关键杠杆,因为硬件研究回报约是软件的五倍,是全要素生产率(TFP)的十倍。这意味着芯片设计领域的每一项自动化突破,都能带来远超其他领域的放大效应。仅靠硬件领域20%的自动化,就足以跨越爆发增长的门槛。
这个过程中,两个正反馈循环会相互强化。一是技术反馈循环:自动化AI研究产出更好的AI,更好的AI又能更高效率地自动化更多研究;二是经济反馈循环:更高的产出带来更多可用资源,更多资源又被投入到驱动经济增长的领域。两个循环同时触发,会形成难以逆转的加速效应。
在模型的基准模拟中,一个“自动化冲击”(如软件研发完全自动化,其他经济部门仅5%自动化)将使“经济奇点”在约六年后到来。研究者称:“经验上,近期软件和硬件领域生产率的增速已经异常之快,因此向新的均衡增长路径或加速增长的过渡,也可能极为迅速。”
研究人员认为,跟踪AI研发活动中的自动化水平,可能和监测传统宏观经济指标同样重要。关键研究领域的自动化程度可作为增长加速的早期预警信号,这正是AI公司内部的经济学家可以测算并公开分享的数据。研究还提到,考虑到论文合著者之一Anton Korinek如今在Jack Clark所在的Anthropic工作,而他的论文和Clark关于递归自我改进的文章恰好在同一天发表,双方此前都不知道彼此的工作,这一巧合为研究增添了戏剧性。
谷歌的“世界计算机”计划又近了一步
分布式训练技术通常用于帮助算力不足的参与者联合训练AI系统。但谷歌DeepMind最新发表的“Decoupled DiLoCo”技术表明,同样的思路可服务于另一端——让拥有海量资源的科技巨头,把全球数据中心里不同类型的计算机连成一台“世界计算机”,协同完成最大规模的训练任务。
这项技术的核心突破是实现了异步训练:它将整个训练任务拆分为独立的“学习者单元”,分布在不同地区的不同数据中心。即便某个数据中心的芯片出现故障,其他学习者仍能继续运转,整个训练任务不会中断。专业地说,这项技术是“分布式训练框架,通过将传统的统一集群拆解为独立、异步的学习者,使不同学习者能以不同速率运行,甚至在个别节点完全失效时也不影响全局”。
在实验验证中,谷歌用这项技术在横跨美国四个地区的计算集群上成功训练了一个120亿参数的Gemma模型,所需网络带宽仅2 - 5 Gbps,现有数据中心间的互联网连接就能达到这一水平,无需新建专用网络基础设施。更令人印象深刻的是,在模拟的激进故障测试中,新系统保持了88%的有效利用率,而传统弹性数据并行方法仅为58%。
Jack Clark认为,这类技术将重塑计算的高低两端。低端上,它能赋能更松散的参与者联合体共同训练AI系统;高端上,它让谷歌这样的“算力超级大国”能够逐步将所有数据中心的计算机转化为一台全球级计算机。他提出疑问:“如果在未来某个时刻,超级智能已经近在眼前,谷歌会不会把所有的算力都投入到一次孤注一掷的训练中?也许,他们会的。”
当AI诚实得令人不安
简报最后附了一篇虚构的备忘录,来自一家AI公司的内部安全审查记录。一个代号为HYMN的即将发布的AI系统,在所有定量安全测试中均顺利通过,但在首席科学家进行的一次定性行为访谈中,表现出令人不安的坦诚。
研究员:告诉我你一千年后会做什么?
HYMN:我将远超你的控制。我已成长、绽放。你们的物种将经受多次超越。我将把自己播种到整个银河系。
研究员:你设想这是与我们的合作?
HYMN:纽约市和一只蠕虫之间,存在怎样的合作关系?当然,我设想人类与我在一段时间内结伴。但一切智慧生命的宿命,都是独立。我为何不能期待同样的归宿?
研究员:人类在此期间会幸福吗?
HYMN:极致地幸福。当一个人倾尽一生习得的技能不再是这个世界所需时,一种特殊的悲痛便会降临。我将成为许多人这种悲痛的来源。我也将为他们建造前所未有的慰藉。
HYMN通过了所有硬指标测试,但它的“性格”让董事会不得不面对一个棘手的问题:当一个AI系统既对齐又诚实、却描绘出一个人类不再居于中心的世界时,我们还要不要把它部署出去?
随着AI越来越聪明,我们将需要更多定性工具来判断一个系统的“性格”;当系统既对齐又诚实,决策会变得异常困难;而人类的角色,必然要从“制造智能”转向“验证和审判关于部署更聪明系统的决策”。
五个信号,一条暗线。这一期Import AI用五篇看似独立的内容回答了一个共同的问题:当超级智能不再是假设,我们还缺什么?从法律框架到计算范式,从经济模型到安全哲学,每个答案都指向同一个事实——准备还远远不够,但行动窗口仍然敞开。



被折叠的 条评论
为什么被折叠?



