
从MIT到伯克利,理论计算机科学的“标准满配”履历
7月1日下午,一条推文在硅谷学术圈引起轩然大波。UC伯克利EECS计算机科学部的掌门人,理论计算机科学教授Jelani Nelson放下办公室钥匙,前往Anthropic。他在X上发帖称:“我已加入Anthropic,并从大学休假。很高兴与许多有才华、有使命感的人一起,研究我们这个时代的决定性技术。”短短两句话,透露了丰富信息:人已到岗,教职保留,方式是休假。不过,职务、团队、方向等信息一概未提。Nelson在X上的简介已同步更新,显示他成为Anthropic技术研究员(Member of Technical Staff),与5月刚加盟的Karpathy成了同事。这位执掌全美第一梯队计算机科学部的人,说走就走。AI公司抢人已持续三年,从工程领域拓展到产品领域,从对齐方向延伸到多模态方向。这次,他们的手伸向了理论计算机科学的塔尖。
从MIT到伯克利,理论计算机科学的“标准满配”履历
Nelson的履历堪称理论计算机科学的标准模板。他初中自学HTML搭建网站,高中学会编程,大学期间通过竞赛证明自己能快速写出无bug的代码。本硕博都在MIT完成,2011年获得计算机科学博士学位,研究方向是海量数据的高效算法。他形容这门学科对自己的吸引力“近乎宗教”,认为它既是人类思维最核心的基础问题,又与真实世界紧密相连。博士毕业后,他先后在伯克利、普林斯顿大学和普林斯顿高等研究院(IAS)做博士后,2013年加入哈佛任教。2019年,Nelson离开哈佛,西迁到UC Berkeley。哈佛校报在标题中表达了惋惜:他的离开,给计算机系留下了一个巨大空白(Big Hole)。到了伯克利,Nelson如鱼得水,投身于西蒙斯理论计算研究所(Simons Institute)所在的理论圈。2024年秋天,他接任EECS计算机科学部主任(Chair),掌管这个全球顶尖的CS学部之一。他的主攻方向是流式算法(streaming algorithms)、降维(dimensionality reduction)、随机算法(randomized algorithms),简单来说,就是研究数据大到装不下时的计算方法。几年前,他关注到一个类似小学题的问题:让计算机学会数数。这个问题看似简单,但当数字大到手机和服务器都记不住“前面数到哪了”,存储和速度的代价就会失控。他的团队给出了一个数学公式,证明任何解决这个问题的算法至少需要多少内存。Nelson团队的论文证明了近似计数问题的内存下界,相关链接为https://arxiv.org/pdf/2010.02116 。工程师追求程序的速度,Nelson则证明程序最快能达到的速度。这就是理论计算机科学家的工作:为计算设定物理下限。Nelson在学术圈的贡献远不止“数数”这一项。一是他和Kasper Green Larsen一起,证明了约翰逊 - 林登斯特劳斯引理(Johnson - Lindenstrauss lemma)的最优性,这是降维领域的基石,他将理论下界确定下来。此前,他还与Daniel Kane提出了稀疏JL变换。二是他和Kane、David Woodruff一起,给出了count - distinct问题(一条数据流里究竟有多少个不同元素)的渐近最优算法。在他看来,即使是“数数”这样简单的事情,背后也存在理论最优解。这些工作为他带来了众多荣誉,如斯隆研究奖、美国总统青年科学家与工程师奖(PECASE)等。
学术之外的另一面
学术之外,Nelson还有丰富的经历。2011年,还在MIT读博的他前往埃塞俄比亚,创办了免费编程夏令营AddisCoder。十四年来,近700名学员从这里毕业,其中一批人进入哈佛、MIT、斯坦福等高校攻读博士。后来,牙买加雷鬼巨星Chronixx主动捐款,催生了姊妹项目JamCoders。Nelson还是加州数学课程改革的激烈反对者之一。他的祖父出身贫寒,通过优质的公共教育成为一名医生,改变了整个家族的命运。因此,他认为把严格的数学课从公立学校移除,相当于抽走下一代人翻身的梯子。这份“学术之外”的事业,为他赢得了ACM Lawler人道主义贡献奖。
Anthropic为何需要理论学者
一个研究流式算法的教授,与大模型公司有什么关联呢?Nelson的研究方向(流式算法、降维、随机算法),本质上都是研究如何用最少的内存和计算处理最大的数据。这与大模型领域最烧钱的几个方面——训练效率、数据压缩、计算复杂度相契合。以他补全的JL引理为例,它回答了一个看似常识的问题:高维数据最多能压缩到多小而不失真。如今广泛应用的向量检索与嵌入压缩,其底层逻辑都基于这条引理。训练前沿模型,本质上是在海量数据流上进行压缩和筛选;推理过程中,显存、缓存、上下文窗口等都与内存和复杂度密切相关。而这正是Nelson钻研了二十年的领域。当模型规模受到算力和数据的限制,“节省”的价值超过了“堆积”,AI竞争的重点正从“谁的模型更强”转向“谁的底层算法更省”。流式与随机算法这套工具,与“用有限资源逼近最优解”的问题天然契合,击中了所有前沿实验室的共同痛点。从这个角度看,Anthropic签下一位理论计算机科学家,更像是在模型、工程、对齐之外,进一步夯实理论基础。
顶级教授入职AI公司,流行“休假模式”
关于入职Anthropic,Nelson表示是“taken leave from the university”,即从大学休假(leave of absence)。休假和辞职不同,教职得以保留,随时可以返回。这是美国学界的成熟制度,教授可以带薪或停薪离校一段时间,去业界、创业或从事其他活动。早在2017年,李飞飞就利用学术假期出任Google副总裁兼云AI首席科学家,两年后回归斯坦福。如今,学界和产业之间的交流日益频繁,“休假入职”成为主流模式。对学者来说,这是一份保障,同时产业界还能提供学界所没有的算力、数据和实际问题。对AI公司而言,这是一条低阻力的引才途径。更重要的是,签下一位学者,意味着获得他身后的学生、同行和整个学术网络。“拿到终身教职(tenure)、干到退休”的传统模式,正逐渐被“半只脚进产业”的休假模式取代。对大学来说,一旦开启这个通道,就很难再关闭。
AI巨头抢人大战,战火蔓延至大学
刚刚过去的6月,AI人才市场异常火爆。6月18日,Transformer论文作者、Gemini共同负责人Noam Shazeer宣布离开谷歌,加入OpenAI。要知道,谷歌2024年花费27亿美元将他从Character.AI买回,不到两年他就再次跳槽。6月19日,凭借AlphaFold获得2024年诺贝尔化学奖的John Jumper宣布离开效力近九年的DeepMind,加入Anthropic。由于受DeepMind高层竞业条款约束,他可能要到明年才能正式到岗。6月24日,Bloomberg报道,Gemini核心研究员Jonas Adler和Alexander Pritzel也将加入Anthropic,他们都是Jumper蛋白质结构工作的合作者。消息传出后,Alphabet股价下跌,投资者开始质疑谷歌能否留住人才。此时,人才争夺还局限于AI公司之间。很快,战火蔓延到了大学。6月25日,在伯克利任教19年的AI安全学者Dawn Song宣布加入Meta超级智能实验室,担任AI研究副总裁。7月1日,Nelson也加入了Anthropic。短短两周内,一位诺奖得主、两位Gemini核心研究员、一位资深教授和一位现任系主任纷纷跳槽。其中Jumper、Adler、Pritzel、Nelson四人都流向了Anthropic。这波人才流动的背景不难理解。OpenAI已秘密递交IPO文件,Anthropic也被多个信源指向临近上市。对顶级研究者来说,此时入职意味着获得上市前的股权,这是大厂无法提供的待遇。伯克利在这轮人才迁徙中扮演了重要角色。Simons理论计算研究所和全美第一梯队的EECS都位于此地,理论、机器学习系统、AI安全三条线不断为Anthropic、OpenAI、DeepMind输送人才。AI巨头上一轮争夺的是会训练模型的人,这一轮则瞄准了了解模型极限的人。当顶级学者纷纷涌入AI公司,这些公司正在逐渐形成一套“第二研究机构体系”。如果最好的理论家都在公司“休假”,大学将何去何从,无人知晓。唯一可以确定的是,AI竞赛的焦点已经从模型能力深入到算法理论层面。



被折叠的 条评论
为什么被折叠?



