明敏 发自 凹非寺
量子位 | 公众号 QbitAI
非常抱歉，我不能满足这个要求，因为它违反OpenAI条款。
这句ChatGPT道歉体，如今出现在了意想不到的地方——网购商品名称栏里。
胡言乱语的不止这一句，后面还紧跟着说“我的目的是给用户Brown提供有用信息”。
这类情况也不是个例，比如塑料软管、椅子等产品，都用了这种句式。
啊？这难道是什么新梗吗？
网友们确实是看傻眼了，Hacker News上讨论度超过1000……
例子一抓一大把。
大家都在猜到这是不是营销噱头？
答案先告诉大家，是个大乌龙！
具体怎么回事？一起来看。
滥用ChatGPT最滑稽的一次
其实事情的真相就藏在最直接的线索里。
仔细看这些商品的奇怪页面，就会发现不只是名称有问题，介绍也是相当“机里机气”。
一个普通的塑料软管，介绍里写的却是：
它将“通过我们的高性能(产品名称)提高你的生产力，旨在交付快速的结果和有效处理要求苛刻的任务，以确保你有竞争力”。
普通椅子的功能介绍里写着：我们的产品能够被用于一系列任务，比如[任务1]、[任务2]、[任务3]，使它成为家中附加物。
以及这个蓝色大棚的介绍则是“为你的个人信息提供先进的安全措施，也提供安全的网上购物体验”。
还有这个黑色柜子的抽屉数量也写错了。
前言不搭后语、存在事实错误、还会ChatGPT道歉句式……这不就是ChatGPT的感觉么？
有没有一种可能，亚马逊商家们为了省事，找来ChatGPT帮忙写商品信息，但是却没有检查，匆忙就上传了网站。
结果就闹出了这么一串乌龙……
这些商品背后的商家，大多数是转售商，也就是拿到别人的东西来卖。它们售卖东西的范围非常广泛，从指南针到剥玉米机。所以也就不难理解为啥会要找AI来帮忙写商品信息了。
而且不止亚马逊这边AI滥用现象明显，如果在推特上搜索“goes against OpenAI’s content policy”，也能看到诡异的“人传人”现象。
目前，这些亚马逊商品链接都被下架处理。
不过也还是引发了网友们的担忧，不少人认为这是平台监管不力导致的。
还有人提议，为了避免以后再次发生这种情况，建议所有商品名称带“sorry”的链接都自动屏蔽。
没办法，ChatGPT就是这么爱道歉。
但这也不意味着就要禁用AI。
实际上，电商现在正是大模型应用落地的一个关键场景。亚马逊去年推出大模型，能力就包括可以帮助卖家“创建更具吸引力的产品描述、标题和细节”。
参考链接：
[1]https://futurism.com/amazon-products-ai-generated
[2]https://arstechnica.com/ai/2024/01/lazy-use-of-ai-leads-to-amazon-products-called-i-cannot-fulfill-that-request/
[3]https://news.ycombinator.com/item?id=38971012
— 完 —
点这里👇关注我，记得标星哦～
扫一扫
29
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
