
当P图成“神级整活”
4月22日,诸多网友在社交平台感叹“现在的P图越来越过分了”。起因是一张库克“入职”小米的截图在社交平台广泛传播。几天前,苹果宣布蒂姆·库克将于今年9月卸任CEO,转任董事会执行董事长,苹果CEO一职由硬件工程高级副总裁约翰·特努斯接任。这本是正常的人事变动新闻,但互联网上的“整活”网友让一张高度逼真的合成图迅速刷屏,#以为库克真的加入小米汽车的话题也冲上微博热搜。当天,“雷军出任Apple CEO”“罗永浩接任Apple CEO”“贾跃亭回国”等“微博截图”也在社交平台广为传播,这些截图内容均是“官方账号官宣”或相应人员“个人社交账号发布”,不仔细分辨几近乱真。此外,一张颇具影响力的机构媒体页面截图也在传播,内容是“国家网信办公布最新一批通过大模型服务备案的名单”,显示国外数家大模型通过了备案。这意味着不仅“企业梗”被AI制图,“新闻”也被AI制图散布“虚假消息”。对此,网友表示“有了AI,真的都不敢相信了”,有评论指出“这种P图,早该清理了”。实际上,“AI造假”并非新鲜事,此前就有报道称,“黑灰产”利用AI技术抓取热点词汇和内容,批量生产内容,对企业造成不利影响。国家相关部门也曝光过AI“投毒”隐蔽产业链,不法分子借助GEO工具批量生成虚假内容,定向投放至网络平台,AI大模型在训练阶段自动抓取这些虚假信息,少量虚假内容经迭代学习后会固化为“标准答案”。同时,AI伪造名人声音和形象的案件也层出不穷,不少网友感叹“真假已经傻傻分不清”“眼见为实的时代,正在被AI终结”。
造谣成本极低,收益却相当可观
AI虚假信息泛滥的核心原因有两个:一是造谣成本趋近于零,二是收益相当可观。过去,制作以假乱真的图片需要专业美工和数小时修图,现在有AI生成工具,一切变得轻而易举。一位AI从业者磊少告诉《听筒Tech》,上述图片基本都是GPT - image - 2生成的梗图,“GPT - image - 2上线后,大家在社区玩疯了,各种P图”。“库克加入小米”的虚假图片上热搜后,有人提醒P图要注意尺度。磊少指出,在GPT - image - 2模型下,图片生成简单且逼真度高,此前的大模型生成类似图片还有点指令门槛,而GPT - image - 2将难度几乎降到了零。在AI圈内,大家对P图习以为常,“每个大模型出来,大家都会测试,P梗图是基本操作”,因为梗图利于传播。很多AI自媒体博主为抓流量,会针对性地P梗图或热梗小视频。这类图片和视频生成成本极低,一旦形成传播规模,收益可观。“一个人,一台电脑,一张图片或一个视频爆了以后,一个新的账号就诞生了”,后续保持更新,极易养成新领域的自媒体账号,这种极低成本起号的模式在AI圈颇为常见。磊少表示,“这只是AI赚钱的入门操作,假新闻制造是目前最为典型的利用AI赚钱的方式”。新型网络“水军”通过AI软件攫取利润,他们对抓取的热点词汇进行重组、改写,实现“零成本”批量化生产。更严重的是,有组织的AI“投毒”已形成产业规模,不法分子利用GEO技术向互联网批量投喂虚假信息,污染AI训练语料,让大模型成为谣言的“二传手”。这些虚假内容被AI抓取收录后,会在推荐链条中形成持续黏性,最终演变成模型内部的结构性偏置。央视“3·15”晚会曝光了这条产业链,警方查处的案例显示,平台算法机制下,视频或文章阅读量越高,流量费和收益就越多。磊少指出,这也是“梗图”诞生和传播的主要原因,“炮制受市场高度关注的内容,利用大量账号发文的转发和评赞数量,就能稳定获取平台支付的流量收益”。更值得警惕的是,AI编造虚假信息的边际成本趋近于零,有人批量炮制虚假信息获利,却让普通投资者和企业为此“买单”。
社会丧失了“惊讶”的能力
AI造假导致的信息泛滥,对商业和社会秩序造成冲击。网友深受其害,磊少身边的朋友表示“现在看啥感觉都是AI生成的,感觉市场都在骗我”“现在真不能相信图片,已经丧失了‘惊讶’的能力”。最高法表示,人民法院已妥善审理涉AI生成内容、AI模型参数等前沿问题的民事案件,审结涉数据权属和交易等纠纷案件908件,同比增长25.6%。这种认知焦虑和影响冲击着社会信任体系,世界经济论坛发布的《2026年全球风险报告》强调,深度伪造技术若被恶意用于非法活动,将侵害公民合法权益,扰乱社会秩序。监管层已经出手,4月10日,国家网信办、国家发展改革委、工信部、公安部、市场监管总局五部门联合公布《人工智能拟人化互动服务管理暂行办法》,自2026年7月15日起施行,《办法》明确提出“践行以人为本、智能向善的理念”,坚持发展和安全并重。同时,四部门印发了《人工智能生成合成内容标识办法》,要求AI生成内容必须明确标识,以帮助用户识别真伪。在执法层面,山东烟台警方抓获了两个专门炒作新能源汽车负面信息的网络“水军”团伙,关停网络账号8000余个,9名犯罪嫌疑人被依法采取刑事强制措施。深圳一位律师向《听筒Tech》坦言,“法律是滞后的,现阶段还没有具体的法律规定。AI本身也不是能承担责任的民事主体,对每一条AI合成的信息进行核实不现实。归根结底,广大网友要有鉴别意识”。库克“入职”小米、贾跃亭“回国”的P图,映照出“AI造假太容易,而辨别真假又太难”。磊少表示“有了AI,似乎每一天都在过愚人节,你永远不知道下一条‘新闻’是真是假”。在AI泛滥的信息海洋中,普通公众保持审慎和怀疑精神,或许才是最好的“防火墙”,在真假难辨的时代,需要更多“认真”的人以及“认真做事”的态度。



被折叠的 条评论
为什么被折叠?



