AI,正在疯狂污染中文互联网

AIGC“弄脏”互联网 大模型“课本”遭污染 AI制造”充斥互联网,连“真人小姐姐”也可以批量生成。随着生成式人工智能的爆发,一个可怕的现象出现:AI正在污染整个互联网。知乎成为生成无脑答案的重灾区,这些内容描述简短、概括性十足,细看逻辑混乱、错误百出。打开今日头条,用ChatGPT生成的虚假新闻,内容耸人听闻,足够博人眼球。AI加持下,虚假、无意义、同质化的内容呈指数级增长,获得大量曝光。莱斯大学和斯坦福大学的科学家研究发现,这些低质、同质化、未经证实的“AI语言”如果不加以甄别,进一步被抓取作为训练AI的语料,AI大模型将会走向崩溃。 阅读详情

点击上方“芋道源码”,选择“设为星标”

管她前浪,还是后浪?

能浪的浪,才是好浪!

每天 10:33 更新文章,每天掉亿点点头发...

源码精品专栏

 

来源:量子位

89a7a0c027530052241818c15d2f0c39.jpeg


污染中文互联网,AI成了“罪魁祸首”之一。

事情是这样的。

最近大家不是都热衷于向AI咨询嘛,有位网友就问了Bing这么一个问题:

象鼻山是否有缆车?

Bing也是有问必答,给出了看似挺靠谱的答案:

748d2e67177ada9e0a8cf51133a1e5c6.png

在给出肯定的答复之后,Bing还贴心地附带上了票价、营业时间等细节信息。

不过这位网友并没有直接采纳答案,而是顺藤摸瓜点开了下方的“参考链接”。

a663cfdd80742c9d2dec4a77ac908ed0.png

此时网友察觉到了一丝丝的不对劲——这人的回答怎么“机里机气”的。

于是他点开了这位叫“百变人生”的用户主页,猛然发觉,介是个AI啊!

4dbe8aff4409cf6832eec36f30040ff8.gif

因为这位用户回答问题速度可以说是极快,差不多每1、2分钟就能搞定一个问题。

甚至能在1分钟之内回答2个问题。

在这位网友更为细心的观察之下,发现这些回答的内容都是没经过核实的那种……

可以发现这个 ai 账户在以极快的速度将未经核实的信息输出到中文互联网,并且误导了 bing ai ,以至于 bing 给出了错误的答案

并且他认为,这就是导致Bing输出错误答案的原因:

这个AI疯狂地污染中文互联网。

“AI污染源”,不止这一个

那么被网友发现的这位AI用户,现在怎么样了?

从目前结果来看,他已经被被知乎“判处”为禁言状态。

cbf4b43810e6696aeb0cd5bc8c49be20.png

但尽管如此,也有其他网友直言不讳地表示:

不止一个。

c834ce946d438e0f6b55ad8105a6e0f7.png

若是点开知乎的“等你回答”这个栏目,随机找一个问题,往下拉一拉,确实是能碰到不少“机言机语”的回答。

例如我们在“AI在生活中的应用场景有哪些?”的回答中便找到了一个:

7e4eacf0b0a3ee120e7ee9cc2a12436f.png

不仅是回答的语言“机言机语”,甚至回答直接打上了“包含AI辅助创作”的标签。

然后如果我们把问题丢给ChatGPT,那么得到回答……嗯,挺换汤不换药的。

609d3ba2d83710cd113ce70327437a90.png

事实上,诸如此类的“AI污染源”不止是在这一个平台上有。

就连简单的科普配图这事上,AI也是屡屡犯错。

5babbf7147a2ad60feca7a8e5f3474df.png

网友们看完这事也是蚌埠住了:“好家伙,没有一个配图是河蚌”。

甚至各类AI生成的假新闻也是屡见不鲜。

例如前一段时间,便有一则耸人听闻的消息在网上疯传,标题是《郑州鸡排店惊现血案,男子用砖头砸死女子!》。

862a640d26ae85d1b256538f54b41725.png

但事实上,这则新闻是江西男子陈某为吸粉引流,利用ChatGPT生成的。

无独有偶,广东深圳的洪某弟也是通过AI技术,发布过《今晨,甘肃一火车撞上修路工人, 致9人死亡》假新闻。

具体而言,他在全网搜索近几年的社会热点新闻,并使用AI软件对新闻时间、地点等进行修改编辑后,在某些平台赚取关注和流量进行非法牟利。

警方均已对他们采取了刑事强制措施。

43e0f233f061aba977e466b5c7e96e0f.png

但其实这种“AI污染源”的现象不仅仅是在国内存在,在国外亦是如此。

程序员问答社区Stack Overflow便是一个例子。

早在去年年底ChatGPT刚火起来的时候,Stack Overflow便突然宣布“临时禁用”。

当时官方给出来的理由是这样的:

(这样做)的目的是减缓使用ChatGPT创建的大量答案流入社区。

因为从ChatGPT得到错误答案的概率太高了!

d177d86819c7bc6557ec43b8bcb819a6.png

Stack Overflow进一步阐述了这种现象。

他们认为以前用户回答的问题,都是会有专业知识背景的其他用户浏览,并给出正确与否,相当于是核实过。

但自打ChatGPT出现之后,涌现了大量让人觉得“很对”的答案;而有专业知识背景的用户数量是有限,没法把这些生成的答案都看个遍。

加之ChatGPT回答这些个专业性问题,它的错误率是实实在在摆在那里的;因此Stack Overflow才选择了禁用。

一言蔽之,AI污染了社区环境。

而且像在美版贴吧Reddit上,也是充斥着较多的ChatGPT板块、话题:

0724b35fe9f890fb40b4e2b9d056017b.png

许多用户在这种栏目之下会提出各式各样的问题,ChatGPT bot也是有问必答。

不过,还是老问题,答案的准确性如何,就不得而知了。

但这种现象背后,其实还隐藏着更大的隐患。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

滥用AI,也毁了AI

AI模型获得大量互联网数据,却无法很好地辨别信息的真实性和可信度。

结果就是,我们不得不面对一大堆快速生成的低质量内容,让人眼花缭乱,头晕目眩。

很难想象ChatGPT这些大模型如果用这种数据训练,结果会是啥样……

6cf9c9c96954d25320fe76f5779c8f3b.png

而如此滥用AI,反过来也是一种自噬。

最近,英国和加拿大的研究人员在arXiv上发表了一篇题目为《The Curse of Recursion: Training on Generated Data Makes Models Forget》的论文。

fc6f67f96ffaa3c8ca2ee8f778e108d8.png

探讨了现在AI生成内容污染互联网的现状,然后公布了一项令人担忧的发现,使用模型生成的内容训练其他模型,会导致结果模型出现不可逆的缺陷。

这种AI生成数据的“污染”会导致模型对现实的认知产生扭曲,未来通过抓取互联网数据来训练模型会变得更加困难。

论文作者,剑桥大学和爱丁堡大学安全工程教授Ross Anderson毫不避讳的直言:

正如我们用塑料垃圾布满了海洋,用二氧化碳填满了大气层,我们即将用废话填满互联网。

对于虚假信息满天飞的情况,Google Brain的高级研究科学家达芙妮 · 伊波利托(Daphne Ippolito)表示:想在未来找到高质量且未被AI训练的数据,将难上加难。

25499af0e2cd7c78832e2dd874f270d1.png

假如满屏都是这种无营养的劣质信息,如此循环往复,那以后AI就没有数据训练,输出的结果还有啥意义呢。

基于这种状况,大胆设想一下。一个成长于垃圾、虚假数据环境中的AI,在进化成人前,可能就先被拟合成一个“智障机器人”、一个心理扭曲的心理智障。

就像1996年的科幻喜剧电影《丈夫一箩筐》,影片讲述了一个普通人克隆自己,然后又克隆克隆人,每一次克隆都导致克隆人的智力水平呈指数下降,愚蠢程度增加。

那个时候,我们可能将不得不面临一个荒谬困境:人类创造了具有惊人能力的AI,而它却塞满了无聊愚蠢的信息。

如果AI被喂进的只是虚假的垃圾数据,我们又能期待它们创造出什么样的内容呢?

假如时间到那个时候,我们大概都会怀念过去,向那些真正的人类智慧致敬吧。

话虽如此,但也不全坏消息。比如部分内容平台已开始关注AI生成低劣内容的问题,并推出相关规定加以限制。

一些个AI公司也开始搞能鉴别AI生成内容的技术,以减少AI虚假、垃圾信息的爆炸。

dd8198bee3b1e7b66c8ee1e8e1b1ea43.png

对于这样的事情,你怎么看?

b69862efdb1c177180387f9fa2a08cea.png

欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢:

ad4abc0372dbf19f6982baf5f5afc0d3.png

已在知识星球更新源码解析如下:

e721ff179160274f7eccb5d956998a9d.jpeg

db3edcaca69febfdb4fecdeef7a84a2e.jpeg

d09c48cea752a56f27dc2b39181c639a.jpeg

e6fb92617cd1d27f22ec69321724b62f.jpeg

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
Python小白也能搞定!用you-get一键下载B站视频合集的保姆级教程 本文为Python新手提供了使用you-get工具一键下载B站视频合集的完整教程。从环境配置、基础下载操作到高级批量下载技巧,详细介绍了如何利用这个开源工具高效获取视频资源,包括解决常见问题和实用优化建议,帮助用户轻松实现离线学习。 阅读详情

相关推荐

LDA模型参数优化实战:从auto设置到passes调优

本文深入探讨了LDA主题模型的参数优化实战,重点解析了如何通过设置alpha='auto'与eta='auto'让模型自适应语料,并详细阐述了passes参数对训练效果的核心影响。文章提供了系统的调优方法与评估策略,旨在帮助用户从“能用”到“用好”LDA,产出清晰、可解释的主题分析结果。

weixin_29163797的博客 120

14.3%的谎言率!DeepSeek如何让中文互联网沦为“谣言天堂”?

更可怕的是,这些虚假内容正以工业化速度被批量生产、传播,甚至被其他AI重新“学习”,形成恶性循环。更致命的是,其“推理模型”的设计逻辑是“先画靶心再射箭”——为满足用户需求,不惜编造论据自圆其说。一名网友让DeepSeek撰写《哈利·波特》对英语学习益处的文章,结果它引用了5篇文献,其中4篇是凭空捏造的,唯一真实的文献也根本未提及《哈利·波特》。一篇关于哪吒电影的知乎高赞回答声称“敖丙变身镜头在法国昂西动画节引发轰动”,但实际参展的是另一部电影《哪吒重生》,且宣传片内容与哪吒无关。

TuFuir的博客 3374

Auto.js实战:从解锁手机到自动阅读的全流程避坑指南(MIUI系统适配版)

本文详细介绍了Auto.js在MIUI系统下的自动化操作全流程优化指南,包括设备唤醒、应用启动、界面交互等关键环节的实战技巧。特别针对MIUI系统的变速检测机制和电源管理策略,提供了有效的避坑方案和性能优化建议,帮助开发者实现从解锁手机到自动阅读的稳定运行。

醉三国 248

大事件!请注意!AIGC正在疯狂“污染”学术界

基于种种的问题与挑战,2023年7月10日,教育部、科技部等七部门联合发布的《生成式人工智能服务管理暂行办法》中明确指出,要“鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。该系统以知网结构化、碎片化和知识元化的高质量文献大数据资源为基础,按照预训练大语言模型的算法逻辑,首次提出“知识增强AIGC检测技术”和若干检测算法,从语言模式和语义逻辑两条链路,用AI对抗AIGC,最终实现了快速、准确识别学术文本中的AI生成内容。

Hinyeung2021的博客 687

ROS学习笔记之——无人机PID调参过程记录

For cooperaive inquiries, please visit the website:guanweipeng.com

gwpscut的博客 6830

获取上传至DMS服务器上文件的URL

如果需要失效时间延长会设置URL永久有效, 可以去修改函数SCMS_URL_GENERATE的参数DURATION 或EXPIRATION ,DURATION最大时间是999999,若需要永久有效,则需要设置EXPIRATION的时间,这时系统会忽略DURATION的参数,生成URL的时候 SCMS_URL_GENERATE会调用SCMS_URL_SIGN函数这是其中默认这是了URL的生效时间为两小时。

一只学习的渣渣 544

DeepSeek V3.1惊现离谱Bug:疯狂输出「极」,全网开发者目瞪口呆!

DeepSeekV3.1模型被曝存在严重"极"字Bug,用户在使用过程中频繁遭遇模型无故插入"极"字及其变体(如"extreme"、"極"),严重影响公式编辑、代码生成等任务。该问题在火山引擎、Trae等多个平台可复现,推测可能源于训练数据污染、分词机制概率偏移或部署差异。开发者分析发现"极"字token(2577)前恰为省略号(2576),模型可能在特定场景下误将其作为断句标记。此外,模型还出现过输出博彩广

weixin_55154866的博客 954

C++ (week6、7):Linux系统编程4:网络

Linux网络:计算机网络概述、TCP协议、Socket编程、IO多路复用机制(select、epoll)、HTTP协议、进程池、线程池、大文件网络传输问题

Edward2022的博客 1432

Mac中文AI管家小龙虾OpenClaw一键部署指南

AI助理是面向本地化智能交互的轻量级AI操作系统,其核心在于模型调用、技能编排与系统级集成的协同。技术价值体现在零依赖容器、深度适配macOS原生服务、全链路中文语义理解三大能力上。典型应用场景包括自动化办公(如飞书文档生成)、终端智能增强(TUI中文输入)、本地向量检索与跨平台任务调度。本文聚焦于在Mac平台落地这一范式的关键实践——以‘小龙虾’为中文代号、OpenClaw为技术本体的AI管家,详解M1芯片优化、LaunchAgent服务注册、Redis状态管理及中文Prompt语义重构等工程细节。

weixin_30561177的博客 411

【AFAC2026金融智能-赛题四】我做了一个疯狂的决定,把Embedding和Reranker全删了

本文介绍了AFAC2026金融智能挑战赛赛道四的解题思路,核心是在500万token的严格限制下实现金融长文本的高效问答。作者通过四步流水线(规划、BM25检索、记忆压缩、LLM推理)优化流程,重点创新在于: 采用零API调用的纯BM25检索,配合多路查询、封面页加权和页面邻接扩展等策略 设计高效的检索算法,从问题中提取专有名词并构建多路查询组合 深入理解评分公式,平衡准确率和token消耗,最终在准确率提升的同时将token消耗从数百万降至百万级 这些创新使方案在严格限制下实现了性能突破,展示了在资源受限

232

减法平均优化器(SABO)算法详解:从数学原理到工程应用

减法平均优化器(SABO)是一种基于数学概念的新型元启发式优化算法,由Trojanovský和Dehghani于2023年提出。该算法通过v-减法运算和平均值计算实现搜索优化,核心创新是采用目标函数值差异符号引导搜索方向。SABO具有参数少、结构简单、收敛快等特点,在高维复杂问题中表现优异。算法通过种群平均值保持多样性,利用符号函数确保搜索方向改进,自然平衡探索与开发。MATLAB实现显示其计算复杂度为O(N²·D),与主流群体智能算法相当。SABO不依赖生物或物理隐喻,数学基础坚实,在工程优化和机器学习领

qq_42212808的博客 166

互联网摸鱼日报(2023-06-24)

Meta首席AI科学家:AI还不如狗聪明,不会接管世界JEP 443:未命名模式和变量致力于提升Java代码的可读性美国5月生成式AI招聘岗位增加约20%,各大公司正探索新增长点Red Hat 限制 RHEL 源码可得性Google 就云计算领域的反竞争行为向 FTC 投诉微软FAST 发现轨道周期最短的脉冲星双星索尼高管称其半导体需求远高于台积电日本厂产能DuckDuckGo 发布 Beta 版 Windows 浏览器疯狂污染互联网,人类比 AI 擅长多了苹果Vision Pro开发者工具包正式发布!上海

weixin_43849685的博客 926

论文翻译:arxiv-2023 Do-Not-Answer: A Dataset for Evaluating Safeguards in LLMs

随着大型语言模型(LLMs)的快速发展,出现了新的、难以预测的有害能力。这要求开发者能够通过评估“危险能力”来识别风险,以便负责任地部署LLMs。在这项工作中,我们收集了第一个开源数据集,用于评估LLMs中的安全保障,并以低成本部署更安全的开源LLMs。我们的数据集经过策划和筛选,只包含负责任的语言模型不应遵循的指令。我们注释并评估了六个流行的LLMs对这些指令的响应。基于我们的注释,我们继续训练了几个类似BERT的分类器,并发现这些小型分类器在自动安全评估上能够取得与GPT-4相当的成果。

CSPhD-winston的博客 1132

AIGC大记事【2023-0625】【第五期】:《时代》专访ChatGPT之父:人工智能影响经济还需要很多年

大咖观点: 《时代》专访ChatGPT之父:人工智能影响经济还需要很多年 孙正义:我每天和ChatGPT聊天,一场巨大革命即将到来,软银“终将统治世界!” 刘慈欣谈 ChatGPT:人类的无能反而是人类最后的屏障 AI时代已来,吴恩达呼吁向每个孩子教授人工智能知识 【强烈推荐】OpenAI Shyamal 分享LLM 创业前沿方向,我们所处的历史阶段,AI-IMPACT框架! 陶哲轩自曝用了「满血」GPT-4:人类对信息技术的期待全部需要校准 影视业热议AIGC,替代人工效率几何? 大模型评测:

林夕 1197

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

互联网摸鱼日报(2023-06-19)

涌到深圳找工作的年轻人:30一晚,挤满青年旅馆业绩越好,股价越跌,贝壳到底怎么了?Windows 11 更新导致 Chrome 无法启动AI,正在疯狂污染中文互联网英媒:美光向其中国工厂再投资43亿元,宣称“致力于发展中国市场”特斯拉超长连涨后华尔街信心不减:类比“亚马逊云”和“苹果服务”的高光时刻来了最新!比尔盖茨回复黄晓明北交所周报:传神语联拟定增1.6亿元;下周1只新股上市、3家上会VC/PE正在丧失定价权京东二十周年发布“35711”梦想 未来将提供超过100万就业岗位帮倒忙、捅娄子,年轻人的那些“

weixin_43849685的博客 463

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

腾讯AI Lab撤销背后的研发链路重构与混元3.0落地实践

大模型时代,AI研发正从单点技术突破转向端到端工程化交付。其核心逻辑在于:以统一基础设施为底座,通过标准化输入、训练与输出协议,实现模型能力的可复用、可度量、可演进;技术价值不再体现于论文或参数量,而在于对业务指标(如NPS、DAU、次日留存)的直接驱动。这一范式迁移催生了‘AI Infra+模型+业务’深度耦合的新架构,典型如混元3.0的动态批处理、毛细血管级延迟治理、沙盒化Agent执行等工业级设计。关键词‘姚顺雨’‘混元3.0’所代表的,正是这种研究-工程-产品闭环落地的关键枢纽与技术载体。

weixin_33851429的博客 430
上一篇: 公司新来一个同事,把枚举运用得炉火纯青...
下一篇: 寄了,线上服务挂了 3 分钟!
公众号-芋道源码
博客等级 码龄10年 1640粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值