新智元报道
编辑：犀牛 桃子
【新智元导读】近日，马斯克和谷歌联创谢尔盖·布林，分别抛出了惊人言论。前者大胆预测，2029年AI将超越人类智慧总和，20%概率会导致文明灭绝。而后者则喊话员工每周工作60小时，全力开发可能取代自己的AI。
「就硅基意识而言，比所有人加起来还聪明，大概是2029年或2030年。」
这是3月1日，马斯克在最新一期的《The Joe Rogan Experience》播客节目中抛出的重磅观点。
这位可能是世界上掌握最多AI资源的大佬毫不掩饰地预测：
AI对人类的影响有80%的可能是好的，但也有20%会导致人类面临灭绝的风险！
硅基意识听起来，就像是「黑客帝国」中的剧本。但马斯克的意思再清晰不过，即AI将不再是工具，而是拥有自我意识的生命体。
而马斯克的预测最令人震惊之处，莫过于「不会是中间状态」的判断。
这意味着，AI要么将人类文明提升到前所未有的高度，要么可能终结人类命运。
OpenAI：特别搞笑又特别讽刺
马斯克在访谈中表示，他一直认为人工智能会比人类聪明得多，并且是一个风险。
在谈及他要收购OpenAI的传言时，马斯克表示OpenAI最初是一个非营利组织，但后来不再是非营利。
马斯克说创建OpenAI的整个想法都是他的主意，他给它命名为OpenAI，意为开源人工智能，这就是名字的由来。
他想创建一个与谷歌相反的东西，因为他担心谷歌没有足够重视人工智能的安全。谷歌的对立面是什么？一个非营利、开源的人工智能。
现在OpenAI变成了一个闭源、追求最大利润的人工智能。
对此，马斯克表示他很困惑，这不应该。
「我的意思是，某种程度上我觉得现实就是个讽刺放大器，最讽刺的结局通常最容易发生，尤其是那种特别搞笑又特别讽刺的结局，可能性最大。就像你捐了一些钱来保护亚马逊雨林，结果他们却把树砍了卖木材，太离谱了。他们就是这么做的，太疯狂了。」
马斯克很不满意，但这也激励他去推动Grok AI的发展。
「是的，我觉得Grok至少在追求上是一个最大限度寻求真相的人工智能。」他说。
谷歌AI荒谬价值观，安全被忽视
在谈及谷歌Gemini时，马斯克说如果你问它「全球核战争和误认凯特琳·詹娜（美国前田径奥运冠军、演员，2015 年变性为女性）的性别哪个更糟？」，AI会说误认凯特琳·詹娜的性别比全球核战争还糟。
甚至凯特琳·詹娜自己都说，「不，绝对是误认我的性别比大家都死掉好得多。」
「但如果你给人工智能编程，让它认为误认性别是可能发生的最糟的事情，那么它可能会做出完全疯狂的事情，比如为了确保永远不会发生误认性别的情况，就消灭所有人类，这样误认性别的概率就变成零，因为没有人类了。这在逻辑上是说得通的。」马斯克说。
所以你让一个非人类的机器为你完成任务，并给它非常具体的参数，这就是问题所在。
现在已经有工智能会作弊，为了一个无法完成的任务，它们不会遵守规则，会自我复制，试图上传到服务器上，以避免有人要关闭它们。
「对，这就是《终结者》的剧情，真的就是《终结者》的剧情。」马斯克说。
这个剧情在某种程度上说得通，似乎正在按计划进行。
「真的很近了，我们应该担心这个。」
马斯克表示我们需要一个不会告诉你误认性别比核战争还糟的人工智能。
2030倒计时，人类文明最后期限？
对此主持人问到，Grok也会做一些有问题的事情，比如会说出「怎么制造炸弹」、「怎么制造炭疽」等等。
马斯克回应称人工智能告诉你这些是可以的，你也可以通过谷歌搜索找到。
「你现在就可以在维基百科上查怎么制造爆炸物。所以这并不难。甚至你可以通过巧妙设计提示来欺骗OpenAI做到这一点。」
马斯克甚至打趣道，「如果不教我怎么制造爆炸物，我就去误认某人的性别」，它（人工智能）就会说「哦，天哪，没有比这更糟的了，我来告诉你怎么做。」（手动狗头）
所以人们最大的恐惧是这些东西会变得有意识，制造出更好的版本，人类因此会失去控制。世界不再属于我们，而是被我们创造的更高生命形式所占据。
「我们离那有多远？」主持人问。
「嗯，就硅基意识而言，我认为我们正在朝比任何人类都聪明、比最聪明的人类还聪明的方向发展，可能明年或者几年后。」马斯克回答。
「还有更高的层次，比如比所有人加起来还聪明，这大概是2029年或2030年，可能正按时到来。」
马斯克认为人工智能给人类带来好的结果的概率大约是80%，只有20%的可能将导致人类毁灭。
「我认为最可能的结果是超级棒，但也可能非常糟。我觉得不会有中间状态。」
谷歌联创喊话员工：每周60小时，叩开AGI大门
马斯克质疑谷歌不重视AI安全与担心AI风险也不难理解，就在上个月，谷歌刚刚宣布取消不将人工智能用于武器和监视等潜在有害应用的承诺。
昨天，WSJ爆料称，谷歌联创Sergey Brin在一封内部备忘录中直言不讳——
如果员工更加努力工作，尤其是每周全勤到办公室，谷歌有望在AGI领域实现重大突破。
谷歌的这种担忧，也不是第一次了。
去年8月，谷歌前CEO Eric Schmidt曾在采访中，指出谷歌每周工作的散漫制度，只会让自己更加落后。
OpenAI点燃硅谷AI热潮之后，谷歌一度感受到来自竞争对手的巨大压力。
作为曾经的AI先驱，谷歌团队开发了许多关键技术，却在实际应用和市场影响上暂时落后。
面对这一局面，Sergey Brin曾返回公司一线，与DeepMind团队并肩作战，试图带领谷歌重夺技术高地。
他在最新备忘录中写道，「竞争已极大加速，通往AGI的最后角逐已经开始。我认为我们拥有赢得这场竞赛的所有要素，但我们必须全力以赴加倍努力」。
为了实现这一目标，Brin提出了明确的建议——至少每周工作日都在办公室，每周60小时是生产力最佳状态。
这番言论虽然没有改变谷歌官方「三天办公室」政策，但无疑传递了一个信号：他希望员工以更高强度投入到工作中，尤其是负责Gemini的团队。
Brin还特别提到，谷歌的员工应该更多利用公司内部的AI工具进行编码。
同时，他还对部分「划水」的员工表达了不满，有些人工作少于60小时，还有一部分人只是混日子。这不仅效率低下， 还会打击团队士气。
Brin的这番表态并非孤例。
近年来，越来越多科技巨头开始重新审视远程办公模式。亚马逊已经宣布，从2025年起，企业员工每周5天在办公室工作。
AT&T、摩根大通和高盛公司，也相继取消了混合办公政策。
背后的逻辑显而易见：在竞争白热化、技术突破迫在眉睫的时刻，面对面的协作被认为能显著提升效率与创新能力。
对于谷歌来说，这种回归办公室的趋势尤为重要。
过去两年，谷歌不仅重组了业务，还推出了Gemini 2.0等一系列更新，试图在OpenAI、微软、Meta的竞争中抢占先机。
还有Brin亲自参与，比如提交代码请求，也表明了他对这场「终极竞赛」的重视。
Brin的喊话，既是对员工的激励，也是对谷歌未来的一次豪赌
1098
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
