

在AI内容浓度越来越高的6·18购物节,各类AI造假层出不穷。所谓的“权威专家”“明星”可能是AI换脸合成或生成的,“工厂老板”也可能是数字人。近日,中央网信办全面部署推进短视频内容规范标注工作,在12家平台先行先试基础上,将内容标注设为硬性前置流程,明确6类“必选标签”,发布者必须选择一项才能发布,存量视频也要补标。

今年上半年,AI换脸诈骗案同比大幅上升,造假成本趋近于零,福建一位企业主10分钟被AI换脸的“好友”骗走430万元。5月上旬,全国首例AI代写“种草笔记”案宣判,运营者构成不正当竞争,判赔10万元。

对于创作者和平台来说,标注已成为义务,但网上“AI去水印”“无痕除标识”生意红火,平台标注随手可破。同时,用户对AI内容存在本能抵触,标注为“AI生成”的内容,用户行为参与度会大幅下跌。而且,“AI生成”的边界在实际操作中并不清晰,平台审核算法判断也不一定准确,可能出现“误伤”情况。

“AI生成”标签似乎只防君子,不防小人,拦不住蓄意诈骗和AI内容总量增长。其真正价值在于为用户争取思考时间,让用户主动甄别内容。不过,也有人认为问题根源在企业端,应倒逼源头,让平台与商家承担连带赔偿责任,制度才是真正的防线。编辑观点:中央网信办的标注政策是应对AI造假的重要举措,但实施中面临诸多挑战。需个体增强辨别能力,制度完善责任界定,共同应对AI时代的信息安全问题。
27



被折叠的 条评论
为什么被折叠?



