网络中有害信息的出现，最早可以追溯到十多年前博客、论坛刚刚流行的时候，网民可以随意发表评论，其中不乏低俗、色情、暴力等有害信息。当时内容审核运用的还是传统的“三审制”，随着互联网产品愈发多样化，企业每天要发布几十万甚至上百万帖子，内容审核的任务量每日剧增，如何高效、安全地进行内容审核，成了互联网行业最紧迫的命题。
据统计，识别互联网平台有害内容的整体技术处于国际先进水平，仅2020年全年就检测数据4116亿，识别有害信息425亿，新提炼有害信息特征12亿，反作弊累计检测量百亿次，反作弊累计沉淀黑灰产用户画像亿级，反作弊恶意行为识别准确率在99%以上。目前已累计服务上万家企事业单位。
内容审核服务的企业涉及各行各业：包括娱乐社交、金融、游戏、电商、教育、广电等。研究表明，企业与第三方服务商合作后效果显著，通过共同努力，互联网平台上的违法违规不良信息可以得到及时高效的筛查和有效控制，这是最直观的成果，让企事业单位可以将精力专注聚焦于自身主营业务的创新。
在业务不断精进的过程中,内容安全服务着眼于客户实际问题,通过打造更精细、更灵活、更先进的技术能力,尽心为客户创造真实业务价值。
与黑灰产对抗的初始阶段，大量垃圾信息长期占据着各个游戏APP和互联网平台热门区域，如代刷粉、办假证、网络兼职等，像牛皮癣一样难以清除，给用户带来极差的体验感，也给产品自身带来极大的安全风险。他们定向研发了垃圾广告模型、二维码检测模型、面向UGC场景的OCR模型等多种技术能力来识别各类垃圾数据，初见成效。很快，对方“变本加厉”，将广告素材进行形变、扭曲、涂抹等处理，增大了计算机的识别难度。谛听安全团队通过多特征融合、可形变卷积、主动学习等新技术的应用，抗住了“进攻”。
————————————————
版权声明：本文为优快云博主「谛听安全」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.youkuaiyun.com/Diting2020/article/details/126870780
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
