99%的程序员都错了！大模型“幻觉“不是bug，而是创新的源泉

Python_金钱豹

墨衍会员 · AI 创作全网分发码龄5年

关注

原创最新推荐文章于 2026-11-10 00:57:14 发布 966 阅读 AI 写同款· GEO 优化 ›

多目标跟踪中使用trackeval评估dancetrack运行结果 trackeval使用阅读详情

“ 大模型的幻觉是一把双刃剑，并不是非黑即白 ”

大模型技术经过这几年的发展，已经可以算是小有成就；虽然大模型已经开始融入到部分企业应用场景中，但不得不说在应用中大模型还存在很多问题；特别是在一些要求比较严格的应用场景中，甚至都不太敢使用大模型；比如说医疗，自动驾驶等领域。

原因就在于大模型的不确定性，毕竟大模型的幻觉问题一直没有被解决；所以这就带来一个问题，大模型能彻底解决幻觉问题吗？也就是说大模型能做到百分之百的准确率吗？以及需要彻底解决大模型的幻觉问题吗？大模型的幻觉是否真的就是一种错误。

大模型的幻觉问题

目前来看大模型的幻觉问题来自于其自身原因，由于大模型的底层构造是建立在概率和统计的基础之上(虽然也不完全是概率)；但由此带来的大模型幻觉问题，一直被很多人所诟病。

而且虽然大模型的幻觉问题目前还没有办法解决，但业内也在不断想办法来降低大模型的幻觉问题，减少幻觉发生的概率。

在很多应用场景中，采用微调和RAG技术大大降低了大模型幻觉发生的概率；而且即使有部分幻觉问题也是可以被忍受的，比如在智能客服领域，虽然有时候大模型会胡说八道，但这并不会对主要业务产生影响；而且也不会产生严重后果。

所以，从这个角度来说大模型的幻觉问题并没有大家想象中的那么严重；但在某些领域，大模型的幻觉问题就是不可接受的。

比如说医疗，精密制造和自动驾驶等领域；在这些领域，任何微小的失误都有可能带来巨大的风险与后果。因此，基于这种应用场景，就有人在思考怎么让大模型拥有百分之百的准确率？

但从目前的实践来看，单纯从技术的角度还无法彻底解决大模型的幻觉问题；唯一的办法就是用人力去兜底，也就是说大模型产生的内容在有歧义的情况下由人类来做最终的决定；或者就是说大模型幻觉问题不会带来严重后果的情况下，即使出点问题也不用管。

但不知道大家有没有想过这样一个问题，那就是为什么一定要解决大模型的幻觉问题，大模型幻觉的存在一定是错误的吗？

记得在前几天刷视频的时候看到了360老板周鸿祎的一个视频，他说大模型的创造能力正是来自于大模型的幻觉；如果大模型的幻觉问题被彻底解决，那么大模型就真正成为了一个无比精密的仪器，虽然它不会犯任何错误；但同样它也不会有任何创新。

就像人类自身一样，很多伟大的发明都是因为失误才成功的；人类技术的进步就是一个不断的实验——失败——再实验——再失败的过程。所以说，犯错也是一种创造力，没有了错误成功也将不复存在。

因此，从这个角度来看大模型的幻觉问题既应该被解决，又不应该被解决；更确切的说在某些领域应该想方设法来降低大模型的幻觉问题；而有些领域，应该想方设法来挖掘大模型幻觉的潜力。

所以，关于大模型的幻觉问题，最好的方式不是彻底解决它；也不是彻底放飞自我；而是要控制它，要让大模型的幻觉在可控范围之内；需要它幻觉的时候就幻觉，不需要它幻觉的时候就不要乱幻觉。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述