11、网络信息的真假与AI系统的中毒风险

网络信息的真假与AI系统的中毒风险

在当今数字化时代，我们越来越依赖AI算法来快速准确地获取信息。然而，网络信息的真实性和AI系统的可靠性却存在诸多问题。

1. 不要轻信网络信息

有时候，天气不好，像Kristin Livdahl和她10岁的女儿就会待在室内，和亚马逊的智能音箱Alexa Echo玩“挑战”功能。你也可以对任何智能音箱试试，唤醒它（比如Alexa或Google），说“给我一个挑战”，它可能会给出一些平常的挑战，像10秒内系好鞋带或者给自己设计一个标志，这些挑战主要就是让人有事可做。

Livdahl和女儿完成Alexa的挑战时，Alexa从YouTube的一个体育老师那里找了个挑战，让她们躺下翻身。当女儿再要挑战时，Alexa说：“这是我在网上找到的，把手机充电器插到墙上插座一半，然后用硬币碰暴露的插脚。”Livdahl一听，赶紧大喊制止，就像音箱是追着孩子的疯狗一样。

原来，这个挑战来自Our Community Now新闻网站。该网站写过一个TikTok上很火的“硬币挑战”，青少年用硬币碰插座插脚，让硬币里的铜使插座短路产生火花，可能是为了博眼球和傻笑。讽刺的是，Alexa找到的文章是在说这个挑战有多危险，还展示了烧坏的插座和严重警告，标题是“家长小心——病毒式‘插座挑战’让孩子们做出不可思议的事！”但Alexa的AI系统没注意到这些警告，给一个10岁孩子下达了致命挑战。后来经媒体关注，亚马逊修复了这个错误，网站也在标题里加了“显然，不要尝试！”

不只是亚马逊Alexa有这种照搬网络信息的问题，谷歌也有。一个推特用户发了谷歌搜索“癫痫发作后怎么办”的截图，谷歌在网页顶部的特色摘要里给出的答案是：按住患者或试图阻止他们的动作