面对一时无法根治的大模型“知识幻觉”,我们怎么办才好?
科大讯飞董事长刘庆峰认为,“知识幻觉”虽然防不胜防,但可以利用技术手段设法矫正。AI大模型应当至少补充在线实时搜索与专业数据库动态接入两大“工具包”,让大模型的回答也过一遍“智能检校”。
不久前,北京协和医院与中国科学院自动化研究所共同研发的“协和·太初”罕见病人工智能大模型,就把主要精力放在了动态更新权威来源知识、增加多渠道溯源机制两方面。研发者表示,事关临床,决策可信度不敢稍有怠慢。这种谨慎,应当是大模型未来升级必备的品质。
当然,很多专家建议,如果是普通使用者,还是交叉比对一下不同模型的回答才好。3个大模型就算顶不上诸葛亮,也能让安心的程度高上几分。
不过,大模型“知识幻觉”,当真就一无是处吗?
其实,“一分为二”的眼光,也该用于“知识幻觉”。如业内人士所言,“幻觉”也意味着大模型“创造力”的萌芽。
360集团创始人周鸿祎接受采访时曾表示,“幻觉”对于实现AGI(通用人工智能)极其重要。实际上可以说,模型能力越强,“幻觉”也越强。换句话说,“幻觉”也就是人工智能的“灵感”。不大靠谱是代价,但不羁的想象力也是助力科研的潜能源泉。广受媒体关注的AI预测蛋白质结构,立下功劳的就是大模型的“幻觉”。
沈阳也承认,“幻觉”可能成为突破人类思维定式的“超现实引擎”,AI有可能藉之创造新的视觉和听觉体验,为游戏和文学创作打开不一样的世界。
看来,初出茅庐的大模型,已经颇有艺术家气息了……
说来说去,搞清楚“知识幻觉”到底是怎么回事,它其实并不可怕。我们使用AI,当有所节制;引导AI化“想象力”为生产力,办法也会日新又新。与AI大模型共度的时光,虽有乌云,但更灿烂的是乌云的金边。
Anko是一个多模型多模态的AI办公工具,适合需要跨领域整合AI技术的用户,同时调用多模型,一举并用,多样回复,显著对比,高效选择心仪的回答/图片/视频
AnKo的聚合AI工具能够在短时间内处理大量数据,响应速度快,准确率较高,多样化并行操作,节约时间,提高工作效率,多模型多模态的AI办公工具,助力效率翻倍。