1、迈向安全“自我意识”超级智能系统的混合策略

迈向安全“自我意识”超级智能系统的混合策略

1. AI发展现状与AGI的崛起

自2011年苹果的Siri首次推出以来，狭义AI技术逐渐渗透到我们日常生活的方方面面。像谷歌助手、亚马逊的Alexa、微软的Cortana、iPhone X的人脸识别软件、自动驾驶车辆以及IBM Watson用于医学研究的文本阅读AI等，都在改变着我们的日常生活和工作方式。

随着狭义AI系统日益普及，人们的注意力开始转向包括通用人工智能（AGI）在内的下一代AI研究。2018年，麻省理工学院推出了AGI在线研究生课程，《福布斯》等杂志发表了关于通用AI系统未来潜力的文章，探索频道也在其节目《这就是AI》中介绍了AGI相关内容。2017年，人形机器人索菲亚成为首个机器人公民，同年成立的SingularityNET开始将AGI与区块链技术相结合。

尽管当前人们对AI充满热情，但相关技术不过是经典统计和机器学习的高级版本。然而，幕后在多个领域正取得突破，如无监督语言和语法学习、深度学习、生成对抗方法、视觉系统、强化学习、迁移学习、概率编程、区块链集成、因果网络等。

2. 2018年AGI会议概况

2018年8月22 - 25日，第11届AGI会议在捷克共和国的布拉格举行。这是AGI会议第二次作为更大规模的人类级智能联合多会议（HLAI）的一部分，与2018年生物启发认知架构年度国际会议（BICA 2018）和2018年神经符号学习与推理研讨会系列（NeSy 2018）同期举办。HLAI 2018还在主要会议之后安排了一整天的“AI的未来”讨论环节。

本次会议共收到52篇论文投稿，经两位或以上程序委员会成员评审，19篇长论文（接受率37%）获得口头