
01 碎了一地的“老铁信任”与合规“水分”
在AI带来的技术冲击中,快手率先陷入困境。早年,快手凭借“老铁文化”在下沉市场建立了坚固的护城河。那时,一声“老铁”能让陌生人迅速熟络。基于这种信任,快手构建了“信任电商”生态。然而,AI黑产冲击下,这种信任正在崩溃。AI换脸的“靳东”深情表白,AI生成的宗教人物在直播间敛财。这种低成本、高仿真的骗局,把快手的“信任资产”——老铁们,变成了提款机。
面对这种情况,快手采取了整治措施。在最新社区治理报告中,快手公布数据:针对短视频领域利用AI仿冒名人明星带货、虚假人设情感绑架等违规行为,平台屏蔽相关电商短视频5000多条,封禁清退商家700余人次。
在宏观合规层面,快手在ESG报告中称,完成了《生成式人工智能服务安全基本要求》的自评估试点与安全能力备案,其AI开发平台还获得了国际权威的ISO 42001人工智能管理体系认证。
表面上,这是一份漂亮的“成绩单”,但实际体验快手的内容生态,会发现报告存在“水分”和割裂感。现在在快手上仍能搜到用AI高度还原李亚鹏肖像和声音的商品导购账号。
从平台对ESG核心议题的态度也能看出问题。在快手最新的ESG重大性议题矩阵中,“信息安全与隐私保护”“内容治理”被列为重要议题,而“AI安全与治理”却被划到“低度重要”区间。
这种对AI治理的降调,可能源于快手“网络安全”与“短期业务利益”的矛盾。财务上,网络安全、生态治理部门被视为“不产生直接经济效益”的成本中心。
根据快手近年财报及媒体报道,平台战略聚焦盈利和核心AI技术研发时,除AI之外的通用研发和安全保障人员投入收紧。所以,快手裁减人工审核、用AI代替后,审核系统面对黑灰产团伙时不堪一击。
只有违规内容大面积爆发、产生恶劣社会影响,甚至触发约谈时,平台才会发布公告。这种“火烧到眉毛才补救”的方式,戳破了ESG报告的专业形象,早年的“老铁级信任”也在安全预算收紧、技术防线松弛中被消磨。
02 真诚遭遇降维打击:小红书的“黑产泥潭”与两难抉择
如果说快手的治理难题在于预算和决心不足,小红书面临的问题则更严峻,它遭遇了信任危机,这可能动摇其商业根基。
小红书的核心是真实,用户看重普通人的真实消费体验,这使小红书成为“种草”圣地。然而,AI时代让“伪造真实”变得零成本且暴利。
以“郑州帮”打法为例,黑灰产团伙利用AI工具,输入关键词就能虚构海量消费图文。面对这种危机,小红书过去一年展开了社区“保卫战”。
根据小红书官方账号“薯管家”5月15号的公告,26年以来,小红书累积处置AI不良行为超百万例,其中AI托管账号超过80w个、AI造假笔记近15w篇,配合相关机构对18款利用AI涉嫌侵权的主体采取法律维权行动。专项治理后,外部小程序等AI发文量下降约35%。
这组数据并非源于平台的道德自律,而是小红书在黑灰产侵蚀与广告收益之间的两难选择。
对小红书而言,完全拒绝AI创作是自寻死路。因为AI技术能降低用户创作门槛,是维持平台日活和内容生产效率的关键。很多品牌方和MCN机构批量生产内容也依赖AI工具。
这是小红书的利益死结:治理尺度宽松,AI同质化内容会稀释平台的真诚属性;风控算法激进,会误伤创作者、减少平台内容体量,损害品牌方利益,影响广告收益。
因此,小红书采取“一边堵,一边疏”的策略:高调反对利用AI从事黑灰产、虚构亲测体验的行为,同时在规则中为合规的优质AI内容留出通道,给予公域流量倾斜。这是一场巧妙的阳谋,小红书试图用公域流量引导黑灰产合规,重新掌控“信任资产”的定价权。
03 洞察与破局:平台AI治理必须遵循的两大原则
了解快手与小红书在AI治理上的困境,会发现以前“头疼医头、脚疼医脚”的措施和应付合规的做法在AI时代已失效。国内大厂的“形式对齐”和文字游戏,在技术黑产面前不堪一击。
为维护自身“信用评级”,大厂在未来的AI治理中需遵循两条规则:
首先,将创意主导权交回真人,让AI回归辅助工具的角色。不可否认,AI能提高内容生产效率,但平台规则应明确创意由真人主导,AI仅作辅助。因为人类的独特创意、主观审美和真诚分享是AI无法复制的核心价值。无论是短视频还是图文种草,率先建立真人创意驱动的内容护城河,才能在行业洗牌中不被淘汰。
第二,针对认知能力较弱的群体,平台需提供强制性的“AI预警干预”。目前快手与小红书对AI生成内容的标记,多是在画面边缘或评论区上方放置极小的淡灰色提示。这种做法将内容辨伪责任推给用户,对认知能力弱的群体无效。
比如快手下沉市场有大量对AI缺乏了解的中老年用户。即使快手在ESG报告中称牵头编制了相关行业标准,但当这些银发族看到AI合成的“明星儿子”“孝顺女儿”或“名医专家”时,画面边缘的提示无法唤醒他们的理智。
因此,平台的AI治理要超越“仅提供提示标签”的阶段,针对高风险群体和高危违规行为,建立更具约束力的“AI预警干预”系统,如弹窗风险阻断、支付端增强人脸核验等,保护弱势群体,这才是ESG报告应有的社会责任行动。
2万+



被折叠的 条评论
为什么被折叠?



