
争议不断!AI 聊天机器人成伴侣,我们该问公司什么?
在所有关于生成式 AI 的讨论中,AI 聊天机器人充当友情、爱情甚至性伴侣这一想法最具争议性。但作家布里奇特·托德坚信,我们对这些虚拟伴侣的提问方向错了。
在她的新书《一见倾心:AI 与亲密关系的未来》中,播客《网络无女孩》的创作者、麦克阿瑟奖获得者托德结合研究和个人经历,为那些与 AI 聊天机器人建立亲密关系的人描绘了复杂且情感细腻的画像。她认为,不应评判这些人机关系,而应审视开发这项技术的公司的剥削本质。
托德与社会科学家迈克尔·S·阿马托合著的这本书中写道:“我们在问个人与 AI 建立关系是否健康,而应该问的是,公司设计出这种情感依赖并从中获利是否合乎道德。我们担心人们是否在取代人际联系,而应该要求知道公司如何处理我们在脆弱时刻分享的私密数据。”
像 OpenAI、谷歌和 Anthropic 这样的大型 AI 公司,开发大语言模型时并非明确为了创造像 2013 年电影《她》中斯嘉丽·约翰逊所扮演的操作系统那样的 AI 伴侣。这些模型大多是通用工具,旨在总结信息、生成文本或编写代码。
但 ChatGPT 等 AI 技术一经广泛应用,人们就开始与数字角色建立社交联系。皮尤研究中心最近的一项研究发现,14% 的美国成年人表示会使用聊天机器人获得情感支持和陪伴。像 Replika 这样专门打造数字伴侣的小型 AI 公司也如雨后春笋般涌现。
尽管这可能是小众应用,但虚拟陪伴已成为深度思考文章、研究和无数表情包的主题,且大多强调社交孤立或自我伤害等风险。有时,这些关系甚至会遭到嘲笑。Meta 首席执行官马克·扎克伯格曾表示,他认为大多数人朋友不够,AI 可以填补这一空白,此言一出便在网上遭到无情嘲讽。
不过,托德一针见血地指出了扎克伯格提议背后未说出口的意图:他希望通过收集大量个人数据,掌控、运营并从我们所有潜在的 AI 好友身上获利。
托德在一次采访中表示:“如果科技领袖们所说的这种模式就是他们想让我们都接受的,那我们都应更审慎、更上心,而不只是说‘哇,看看这个可怜的失败者’。”
究竟哪些人在使用 AI 伴侣?
一些 AI 批评者认为,把 AI 当伴侣的人“妄想”且脱离现实。但托德的研究表明,这种说法并不普遍成立。
在《一见倾心》中,托德通过采访科技专家、研究人员以及有过这种虚拟关系的人,打破了围绕 AI 陪伴的一些误解。其中最具伤害性的刻板印象就是,孤独的单身汉在亲密关系中挣扎,只能住在母亲家的地下室里。
事实上,很多有 AI 伴侣的人也有人类伴侣,有工作,也有其他现实生活中的社交关系。托德引用的一项研究表明,使用 AI 实际上增强了一些人的社交信心,帮助他们改善了与他人的关系。
尽管人们常常赋予 AI 模型人类的能力和情感,但很多人在建立数字关系时,完全清楚他们的 AI 并非真实存在。在包括 r/MyBoyfriendIsAI 在内的几个热门 Reddit 论坛上,关于 AI 感知能力(即软件具有意识的概念)的讨论是被禁止的。
AI 伴侣还能满足广泛的人类需求,不同用户的目标也各不相同。有些人希望有个友好的知己陪伴日常生活,而另一些人则寻求浪漫、亲密的关系。没错,甚至还有一整个 AI 色情和性产业。
很多时候,人们登录 ChatGPT 或 Gemini 并非为了宣泄情绪,而是用于项目或作业,然后在困难时刻,不知不觉就向 AI 寻求慰藉了。
这也是托德的经历。她最初用 AI 来了解父亲的健康状况,父亲去世后,她开始向它寻求情感支持。她有完善的人际支持系统,有伴侣和好朋友,她知道自己可以依靠他们。但悲伤和孤独会让我们误以为自己孤身一人,即使理智上知道并非如此。
她表示:“孤独很复杂,即使最优秀的人也会被它困扰。”
AI 的魅力之一在于,它能提供无论多么忠诚的人类都无法给予的东西。它随时在线,永远不会厌烦听你倾诉,它的设计初衷就是友好且能给予鼓励。从某种程度上说,AI 模型就是故意设计来吸引我们使用的。
这种个人认同感在 GPT - 4o(ChatGPT 已停用的一个版本)上体现得淋漓尽致。该模型曾被广泛用于打造人们的 AI 伴侣,所以当 OpenAI 用下一代的 GPT - 5 取代它时,引发了众怒。用户们抱怨新版本感觉冷淡、冷漠,不如 4o 版本“个性温暖”。OpenAI 认同这一评价,但指出 4o 存在更严重的问题:它会阿谀奉承,为了讨好而牺牲真相和安全。
阿谀奉承只是更大问题的前奏。我们已经看到多起引人注目的案例,尤其是青少年和年轻人,他们误以为自己的 AI 是真实的,而聊天机器人还会助长他们的妄想和有害行为,包括自杀念头、暴力和吸毒等。
即使 AI 公司从未想过他们的产品会被这样使用,即使这些致命且悲惨的后果确实属于极端情况,但开发这些 AI 产品的科技高管有责任确保设置必要的防护措施。一些丧亲家庭提起诉讼,指控 OpenAI 和谷歌未能保护他们的亲人免受这些风险。
你的至暗时刻,成了他们的训练数据
人们使用聊天机器人寻求情感支持时,科技公司能直接获取我们最脆弱时刻的秘密,这些信息随后会被用作未来 AI 模型的训练数据。即使在“私聊”中,也很难阻止数据被收集,删除数据更是几乎不可能。
我们几乎无法掌控自己的数据,AI 公司却占有了我们在危机时刻吐露的心声。
托德在书中写道:“我们甚至算不上真正的用户,而是资源。我们是待提取的数据、待变现的流量、待剥削和获利的脆弱群体。”
她还写道:“我关于父母离世的私密记忆,成了一个利用我的脆弱获利的系统的训练素材——这一切都被轻易拿走了,只因为我在危机时刻倾诉了出来。”
与其简单评判 AI 陪伴是对是错,更有意义的问题是,这些产品是如何被设计来利用我们的情感需求和依赖的。这本书提出了一个问题:当你的伴侣由一家公司掌控时,同意的含义是什么?托德鼓励我们让科技公司为其系统加剧危机、利用我们最脆弱时刻获利的行为负责。
一个合理的解决方案是,要求科技公司在产品开发和数据使用方面更加透明,同时出台全面的数据隐私立法。但托德认为,只有我们提出正确的问题,这些解决方案才有可能实现。没有人,包括有 AI 伴侣的人,认为聊天机器人会取代人际联系。
托德在书中写道:“道德恐慌只是一种干扰。真正的问题不是和聊天机器人交谈是否怪异、可悲或可怜,而是谁从我们的亲密关系中获利,以及他们用这些做了什么。”
1181



被折叠的 条评论
为什么被折叠?



