

举报人向BBC透露,TikTok凭借极具吸引力的短视频推荐算法颠覆社交媒体行业后,引发了算法竞赛。Meta和TikTok在对自家算法进行内部研究后发现,愤怒情绪能推动用户参与度,于是做出了一些决策,导致用户信息流中出现了更多有害内容。
Meta的一名工程师称,高层管理人员曾要求他在用户信息流中允许更多“擦边”有害内容,以与TikTok竞争。而一名TikTok员工则展示了公司内部的用户投诉仪表盘,显示员工曾被指示优先处理涉及政治人物的多起案件,而忽视了一系列涉及儿童的有害帖子报告。

青少年们告诉BBC,用户用来表示不想看到有问题内容的系统不起作用,他们在主流社交媒体平台上仍然会被推荐暴力和仇恨性内容。一名19岁的青少年卡勒姆称,他从14岁起就“被算法极端化”,算法向他展示的内容让他愤怒,导致他产生了种族主义和厌女观点。
英国反恐警察专家也表示,近几个月来,他们发现反犹、种族主义、暴力和极右翼帖子变得“常态化”,人们对现实世界的暴力变得更加麻木,并且不怕表达自己的观点。

2020年,Instagram推出Reels以应对TikTok的竞争,算法竞赛愈演愈烈。Meta资深研究员马特·莫蒂尔表示,Meta推出Instagram Reels时缺乏足够的安全保障措施。内部研究显示,Reels上的评论中,欺凌、骚扰、仇恨言论、暴力或煽动性内容的比例明显高于Instagram其他板块。
另一位Meta前高级员工称,公司为发展Reels投入了700名员工,但安全团队申请两名处理儿童保护的专业人员和10名协助选举公正性的人员时却遭到拒绝。Meta的一名前工程师也表示,为了与TikTok竞争,公司允许更多“擦边”有害内容出现在平台上。

这些举报内容引发了公众对Meta和TikTok的信任危机。TikTok信任与安全团队的一名成员尼克建议使用TikTok的孩子的家长“卸载它,让孩子尽可能远离这个应用”。而Meta也面临着用户对其平台安全性的质疑。
同时,这也可能会引发监管部门的关注和压力。社交媒体平台上的有害内容问题一直是监管的重点,此次举报可能会促使监管部门加强对Meta和TikTok的监管力度。

对于Meta和TikTok来说,未来需要在保障用户安全和实现商业利益之间找到平衡。一方面,它们需要加强内容审核和安全保障措施,减少有害内容的传播;另一方面,它们也需要继续优化算法,提高用户参与度和平台的商业价值。
在商业化方面,Meta和TikTok都依赖广告收入。如果不能解决有害内容问题,可能会影响广告主的投放意愿,从而对其商业收入造成影响。因此,如何在保障用户安全的前提下,实现商业利益的最大化,将是它们未来面临的重要挑战。
编辑观点:Meta和TikTok在算法竞赛中为追求用户参与度而放任有害内容,引发诸多问题。未来需平衡安全与商业利益,否则将面临信任危机和监管重压,影响商业前景。
1331



被折叠的 条评论
为什么被折叠?



