编辑 | 计算机视觉Daily
点击下方卡片,关注“自动驾驶之心”公众号
ADAS巨卷干货,即可获取
本文只做学术分享,如有侵权,联系删文
【导读】Karpathy认为,AI智能体代表了AI的一种未来,它的发展需要从神经科学中汲取灵感,鼓励AI智能体领域的研究者再接再厉。
近日,OpenAI联合创始人,曾经Tesla AI总监,现在又重新返回OpenAI的Andrej Karpathy在一个开发者活动上,分享了自己对于AI智能体的看法。
7年前,研究AI智能体的时机还不成熟
他先聊到了自己早期在OpenAI工作时(2016年左右),当时的业界潮流就是研究如何用强化学习的方法来改进AI智能体。
很多项目都在基于类似雅达利游戏来制作AI玩家。
当时他本人想做的是一个适用范围更广泛的产品。
但是因为当时的技术所限,做出来的效果不好,于是他和OpenAI就改变了方向,开始做大语言模型了。
当然,这期间我被自动驾驶分了心。
但是5年之后的现在,AI智能体重新成为了一个非常有前途的方向。
因为现在有了全新的技术手段来研究AI智能体,情况和2016年完全不同了。
最简单的例子就是,现在没有人再像2016年那样用强化学习的方法来研究AI智能体了。
现在的研究方法和方向在当年是不可想象的。
AI智能体代表着一个疯狂的未来,虽然可能还有点远
因为在未来,如果AGI能够出现,将会充分发挥AI智能体的能力。
未来的AI智能体可能不是单独的个体,而是会出现非常多的AI智能体组织,甚至是AI智能体文明。
这可能是一个让人非常兴奋,甚至是疯狂的未来。
但同时大家也要保持清醒和冷静。
因为一些技术趋势方向可能很容易构想,展望出来,但是要做成产品落地却很难。
很多技术都属于这种类型,比如自动驾驶就是这样。
技术远景很容易设想出来,汽车在街区行驶的演示也很容易做出来,但是做出产品可能需要10年时间。
同样,VR也是这样的情况。
AI智能体可能也属于这一类技术,应用场景很容易想象,前景让人兴奋,但是需要长期的技术发展和积累。
AI智能体需要从神经科学中汲取灵感
就像深度学习早期的发展一样,AI智能体的发展可能会从神经科学中获得启发。
思考AI智能体和神经科学的关系是很有意思的。
尤其是现在很多人都把大语言模型作为AI智能体解决方案的一部分。
但是如何构建一个完整的,拥有人类所有认知能力的数字实体呢?
显然,我们都认为需要某种潜在的系统来规划、思考和反思我们在做的事情。
这可能就是神经科学能发挥作用的地方。
举个例子,海马体是大脑非常重要的部分。
但是AI智能体中什么东西发挥着海马体的作用,来存储记忆,实现标记和检索等等的这些功能呢?
我们大致已经了解如何构建视觉和听觉皮层,但还有许多的东西我们并不知道在AI智能体中到底意味着什么。
比如潜意识的所在地——丘脑在AI Agents中又相当于什么呢?
这些都是非常有趣的问题。
我专门带了一本神经科学方面的书,是有David Eagleman的《大脑与行为》,我发现这本书非常有趣,很有启发性。
就像早期AI研究在设计神经元时所做的那样,从神经科学中汲取有趣的灵感,也许是我们应该重新尝试的方向。
在座的大家就是行业的最前沿
可能大家不一定知道,但是今天到场的大家构建的AI智能体已经处于AI智能体能力的最前沿。
现在所有正在做大语言模型的机构,比如OpenAI等,我觉得都没有处于这个领域的最前沿。
最前沿的是在座的各位。
举个例子,OpenAI非常擅长训练Transformer语言模型。
如果某篇论文提出了一种不同的训练方法,那么我们OpenAI内部的Slack群组里大家会讨论说:
「这个办法我两年半前尝试过,没什么用。」
我们对训练模型的方法的来龙去脉是很清楚的。
但是对于AI智能体的论文出来的时候,我们所有人都会很感兴趣,会觉得很了不起。
因为我们的团队最近5年的时间花在了别的地方。
在这个领域内我们没有比你们懂得更多,我们和大家站在同一竞争的水平线上。
这就是我觉得在座的各位处于AI智能体最前沿的原因,这一点对于AI智能体的发展是非常重要的。
参考资料:
https://twitter.com/gptdaocn/status/1673781206121578498
① 全网独家视频课程
BEV感知、毫米波雷达视觉融合、多传感器标定、多传感器融合、3D目标检测、目标跟踪、Occupancy、cuda与TensorRT模型部署、协同感知、语义分割、自动驾驶仿真、传感器部署、决策规划、轨迹预测等多个方向学习视频(扫码免费学习)

② 国内首个自动驾驶学习社区
近2000人的交流社区,涉及30+自动驾驶技术栈学习路线,想要了解更多自动驾驶感知(2D检测、分割、2D/3D车道线、BEV感知、3D目标检测、Occupancy、多传感器融合、多传感器标定、目标跟踪、光流估计)、自动驾驶定位建图(SLAM、高精地图、局部在线地图)、自动驾驶规划控制/轨迹预测等领域技术方案、AI模型部署落地实战、行业动态、岗位发布,欢迎扫描下方二维码,加入自动驾驶之心知识星球,这是一个真正有干货的地方,与领域大佬交流入门、学习、工作、跳槽上的各类难题,日常分享论文+代码+视频,期待交流!

③【自动驾驶之心】技术交流群
自动驾驶之心是首个自动驾驶开发者社区,聚焦目标检测、语义分割、全景分割、实例分割、关键点检测、车道线、目标跟踪、3D目标检测、BEV感知、Occupancy、多传感器融合、大模型、SLAM、光流估计、深度估计、轨迹预测、高精地图、NeRF、规划控制、模型部署落地、自动驾驶仿真测试、产品经理、硬件配置、AI求职交流等方向。扫码添加汽车人助理微信邀请入群,备注:学校/公司+方向+昵称(快速入群方式)