10、人工智能：风险、争议与新势力的崛起

人工智能：风险、争议与新势力的崛起

在科技飞速发展的时代，人工智能（AI）成为了备受关注的焦点。许多科技界的领军人物对其发展既充满期待，又心怀担忧，其中埃隆·马斯克（Elon Musk）就是一个典型代表。

2014 年 11 月 14 日，马斯克在 Edge.org 网站上发布消息，指出像 DeepMind 这样的实验室里，人工智能正以惊人的速度发展。他认为，除非直接接触相关团队，否则很难想象其发展之快，危险可能在未来五到十年内降临。不过，这条消息在发布一小时后就消失了，但这与他此前几个月公开和私下表达的观点一致。

早在一年前，马斯克与《彭博商业周刊》记者阿什莉·万斯（Ashlee Vance）在硅谷共进晚餐时就表示，他担心拉里·佩奇（Larry Page）正在打造的人工智能机器人军队可能会毁灭人类。问题不在于佩奇心怀恶意，而是他认为谷歌所做的一切都会对世界有益，马斯克称其“可能会意外地制造出邪恶的东西”。此后，马斯克通过国家电视台和社交媒体多次表达类似观点，他在 CNBC 节目中提及《终结者》，在推特上称人工智能“可能比核武器更危险”，还推荐追随者阅读牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）的《超级智能：路径、危险与策略》。博斯特罗姆认为超级智能既能保障人类的未来，也可能将其毁灭，他担心科学家在设计系统时，可能未意识到其未来会造成无法阻止的破坏，就像一个旨在尽可能制造回形针的系统，可能会将地球和部分太空变成回形针制造工厂。

同年秋天，马斯克在纽约市的《名利场》会议上警告作家沃尔特·艾萨克森（Walter Isaacson），具有“递归自我改进”功能的人工智能存在危险。例如，一个旨在对抗电子邮件垃圾邮件的系统，可能会认为消除所有垃圾邮件的最佳方法是清除所有人。当被问及是