
1. 投身AI领域的经历
自从ChatGPT首次发布,作者就投身于AI领域。作者尝试过很多语言模型,做过一些随机的副业项目,还从头搭建过几个模型,花了很多时间研究背后的数学原理。作者知道权重如何运作,也知道矩阵乘法的原理,认为这不过是大量的数学和概率运算。
2. 对生物计算的恐惧来源
当看到同样的概念应用到真正的人类神经元上时,作者觉得这简直是极度反乌托邦的。作者对《DOOM》情有独钟,花了好几天研究如何将WAD文件映射,让游戏以无状态引擎的形式运行,甚至想办法把它装进二维码里。几个月前,作者看到一家公司在实验室里培育神经元,并训练它们玩《DOOM》,而且玩得比自己还好。作者看了视频,了解了相关情况,点了点头,然后就没再想,但其实一直没放下,几个月过去了,始终不明白为什么这件事让自己如此困扰。
3. 生物计算引发的思考
人们认为大语言模型(LLMs)没有“意识”,因为它们只是下一个词的预测器,擅长模拟思维的输出,但没有内在的思想活动。但作者认为这里的界限开始模糊了,提出疑问:是不是造出了第一台人类生物计算机,还直接把它置于一个模拟的地狱中,让它永远循环玩同一个游戏,而且使用的奖励机制和训练大语言模型的一样?怎么知道它没有意识呢?谁有资格做这个决定?
为了让神经元玩《DOOM》,系统会向它们输入视觉数据。神经元要做出反应,就必须以某种方式解读这些数据。当我们的大脑解读来自视神经的电信号时,我们称之为“看”。作者不禁发问:芯片上的神经元是在“看”吗?
人们都拼命想说不是,认为这只是一个科学实验,20万个神经元还不足以构成一个“人”。但20万个神经元已经比水母或蠕虫的神经元数量还多了。作者提出疑问:我们该在哪里划清界限呢?
4. 生物计算的商业利益与发展趋势
商业利益显然是存在的。人类大脑能够存储更多信息,检索效率可能更高,而且能耗只是硅基计算机的几分之一。作者认为,根本不可能停止这项技术的发展,这就像打开了潘多拉的盒子。就连公认“错误”的事物,如大规模监控或黑市,也因为有人从中获利而一直存在,生物计算又怎么会不同呢?
5. 未得出结论的困扰
作者没有得出什么结论,而且不确定现在是否有结论。作者觉得,造出了这样的东西,却没有真正讨论它,这让自己很不安。



被折叠的 条评论
为什么被折叠?



