- 博客(22)
- 收藏
- 关注
RSS订阅原创 游戏内容安全：运营如何筛查和辨别黑灰产
近年来，保护游戏的安全性能在不断更新迭代，开发出许多新的措施确保游戏的公平性。 但作弊率和工作室的数量仍然居高不下。流行游戏寄生带来的高额回报，使得黑灰产业的群体能够在新的作弊工具和技术上不断地进化。游戏作弊，可以是“在游戏中开挂”，也可以是“在沙盒生存发展类的游戏中用一个控制台调出无限的资源”，或是“在射击游戏中对于穿墙、透视、自动瞄头”，这些在操作的心理产生快感的背后，自始至终笼罩着黑灰产的影子。...
2022-08-03 16:49:35
5513
12
原创 小程序游戏中存在的内容安全风险
小游戏可以满足用户打发碎片时间的需求，也可以反哺产品的社交关系。在商业企业变现能力可观的背景下，原创小游戏被很多不怀好意的不法分子盯上，或被友商窃取了一个部分主要代码实现资源，或被插入进行一些网络广告恶意链接。本文将解答小游戏的风险藏在哪里，如何有效开展具有针对性的治理，以及确保小游戏的底层信息安全。...
2022-08-03 11:45:36
1808
12
原创 黑产侵蚀游戏生态体系应该怎么防护？
随着《恋与制作人》、《王者荣耀》、《江南百景图》、《闪耀暖暖》等游戏新品的火爆，游戏市场的红利也随之被被市场制作人们蚕食，并涌现出一部分灰黑产。本文对游戏灰产进行总结，并提出了防控措施。...
2022-07-27 10:50:48
494
1
原创 用户画像在内容风控实战中的应用
风险内容的攻防，不是对单一用户的攻防，而是对群体的攻防和管控，而群体中的用户表现，往往是具有相似度的。简略来讲画像就是一个人的“维基百科”，在这个百科中，介绍了用户的来历、身份、做了什么事情、在某些业务场景下的成就或者比较“有名”的事情。而在制造标签这个方向上，对于风控团队而言，除了需求增强本身的挖掘技能以外，还需要供应一套规范的、快速的验证标签的产物流程。从技术的角度举例解释，就是分析占库存场景，让平台能够检查下单率超越必定阈值用户的占比，再与以前的失常占比进行比拟，来获取到制定的规则是不是正在生效。..
2022-07-25 13:51:04
404
原创 UGC内容平台的全栈式内容风控
随着互联网行业的发展，灰黑产已经发展为一个成熟的产业链，UGC平台最大的关注点已经不再是流量，而是法规遵从性和内容风险，人工智能技术的加入为内容风控战略提供支持。
2022-07-20 09:37:05
221
2
原创 业务治理流程的风控方法-安全运营心得
在针对黑产的风险控制中，如何找到有效的风险控制方法一直是个难题，笔者通过产品和运营管理的视角，分享了多年与黑产对抗的经验，希望利用这篇文章在安全行业建立沟通桥梁，为互联网安全做出贡献，推进“世界上没有小偷”的愿景。............
2022-07-19 09:43:55
158
2
原创 网络流量蜜糖还是陷阱-内容安全的重要性
网络流量在飞速发展的同时，也承受着巨大的内容监管压力，本文就内容安全管理特征进行总结，并提出了应对方法。
2022-07-18 11:31:58
1068
3
原创 敏感词运营如何进行快速搭建-谛听安全
敏感词的风控策略是游戏行业中的风控法律系统中最基本，也是最复杂的。内容虽然简单但非常琐碎，系统主要涉及从用户信息发布、用户举报、命中策略到审核数据处理、用户画像到AI识别等方方面面。本文系统性的整理总结了工作时间以来在敏感词运营管理系统进行搭建一个方面的经验和想法，作为一种自我分析总结回顾的同时，也希望通过分享出来避免其他同学在敏感词运营能力方面少走弯路。敏感词系统是搜索和内容产品的基本风险控制系统。该系统可过滤基本文本敏感内容，灵活掌握敏感词过滤方法，结合业务条线，灵活掌握用户触摸敏感词。过滤的方法一般可
2022-07-13 10:19:35
641
3
原创 谛听安全｜内容审核系统的搭建设计思路
对于信息产品和内容产品，内容评审是必不可少的环节之一。审核既是产品风险的控制手段，又是维护网络生态环境的重要环节。本文阐述了构建内容审核系统的设计思路和程序，希望能对大家有所帮助。如果运营同学通过简单的流程梳理，不难发现所涉及的对象包括发送用户、接收用户和内容审核（管理员等）。在设计时有两个方向：一方面简单地考虑对象的处理机制。 在另一方面，考虑关联对象被连接以说明产品设计。用户的信息可以分类为年龄，性别，地理位置，设备，IP地址，使用时间，交易信息，用户发布等。以上信息均属于用户的数据，用户数据是用户分析
2022-07-12 14:30:02
870
1
原创 智能内容安全平台的运营维护与分享
随着智能媒体时代的到来，在线内容平台的运营也同样出现了新的问题，包括大数据的收集和应用能力是否满足了发展的需要、如何处理5G环境下知识服务产品的边际成本、如何避免信息茧房的出现以及如何处理内容价值的持续分化等等…5g时代到来，这些问题将不可避免。对于内容制作机构来说，内容制作和管理能力的提高将长期成为内容运营平台自身发展的重要命题。以下三种方法可以在不同的角度出发，提出在当下市面上部分问题的解决方案，可以有效帮助互联网企业降低内容安全方面的维护成本。基于用户肖像和内容肖像匹配用户和内容是互联网公司常用的手段
2022-07-11 14:12:23
507
2
原创 智能审核NLP技术对数字媒体和游戏的应用
人工智能技术的快速发展使得自然语言处理、语音转写、图像识别等技术成熟地应用于大多数的网络社交平台，特别是数字媒体和游戏生产平台的内容审计领域。
2022-07-07 14:27:28
1205
1
原创 游戏论坛利用AI审核的高效应用
与传统的社交渠道相比，网络游戏社交平台的媒体内容制作模式、沟通模式和组织合作模式有很大的不同，最明显的区别是信息制作和信息传播的分离。目前，主流聚合平台主要负责信息的传播和运营。游戏论坛上的内容种类繁多，内容质量参差不齐，一切混淆视听的负面评论同样也会带来内容风险，也有可能影响游戏子文化的生产。因而上传的论坛内容必须经过审核才能传播，平台的功能内容审计团队对人工智能算法也因此有很大的需求。人工智能审计可以通过机器人文本识别技术标记论坛帖子与评论中可疑的非法内容。结合过滤、召回和删除的手段去除一些明显的错误内
2022-06-29 09:56:22
203
1
原创 内容安全的主要场景有哪些呢？
在当下环境中，互联网运营者有时会不知如何管理内容安全。聊天信息、短信、文章和直播视频充满了内容安全风险，因此在市场上发展出了多家内容审核的企业，为有需求的公司提供内容安全的核心能力。以下是AI识别业务中的常见场景：场景一：UGC内容智能审核UGC内容主要分为几类。首先是会员区，在互联网场景中，需要管理会员区的许多内容（会员头像、会员名称、会员屏幕切割）。由于某些平台管理是不可以擅自更改会员信息，因此必须管理会员区域。其次就是其他互动类别，如市面上常见的游戏世界频道可能存在的不良言论需要被管控时，AI审核可以
2022-06-28 14:59:55
994
1
原创 游戏AI”鉴劣师”智能内容审核方案
当今社会除了广泛应用于自动驾驶、智能对话、智能金融等领域外，人工智能技术在游戏和社交平台的内容审计领域也发挥着巨大的价值。游戏和社交网络平台的信息传播具有快速分散的特点，因此网络上的一些低俗内容更容易获得流量。但这一现象也在逐步地污染平台内容环境，因此是一个网络大环境问题。近年来，随着游戏、直播和短视频的爆发，网络不良内容泛滥，国家对内容审计的要求越来越严格，监管政策不断收紧，要求主流的网络平台和游戏运营不断提高信息内容的识别和过滤能力。面对网络数据的爆发，依靠人力完成审计无疑是一个疯狂的想法。通过对人工智
2022-06-27 09:41:36
319
4
原创 如何防治游戏内的灰黑产拉人？
近些年，随着游戏买量成本越来越高，拉人公会的黑产也开始在游戏行业滋生。早期的拉人公会寄生在端游和页游之中，近几年随着智能手机成为主流，手游行业的“拉人”也已经形成了一个完整链条的黑产行业。游戏拉人具体指在游戏内利用任何能自定义内容的区域（公屏/私聊/公会/朋友圈/个性签名/昵称/留言板），以固定内容广告/推荐/交好友/带领玩游戏/给福利等方式，引导玩家到指定的游戏进行登录+消费的行为。同时随着技术发展，此类广告在话术样式上更是层出不穷，通过使用各种同音异形字、象形文字等文字游戏，在你看不到的地方，例如私聊、
2022-06-23 14:41:10
239
原创 内容安全服务的选择标准-谛听运营心得
作为一名产品经理或者运营人员，你需要对自身所负责的业务有所洞察，进而根据具体的业务需求、用户需求来做好产品架构设计。每个产品设计完成后都需要进行内容审核，一些非本领域的公司，如果要审核自己的内容，往往会对接一些成熟的第三方产品。目前市面上有很多非常成熟的内容审核的服务产品，比如阿里云、谛听安全服务等。这里简单讲一下一些基本的入门了解以及内容审核的流程。1.文本审核对于文本的处理，人工智能主要是采用了NLP（自然语言处理）技术，将语句通过语法分析、情感分析、词向量分析等技术进行识别和归类，再与平台本身的素材库
2022-06-22 11:38:02
174
原创 游戏里敏感词过滤的常见方式有哪些
随着互联网的发展，“敏感词过滤”这一需求也在市场中不断增加。敏感词过滤是一种阻止网络不良信息扩散和灰黑产扩张的技术手段，对可能存在不合规的关键词进行有针对性的筛查和屏蔽。通过这样的一种技术手段，很多时候游戏厂商或是平台能够防患于未然，把后果严重的消极影响扼杀于萌芽之中。互联网社区和游戏平台应用的不断发展和变化，敏感词过滤系统（尤其是针对传奇、SLG类型的游戏黑产广告话术）也经历了以下多种过滤方法：1.敏感词替换敏感词替换是较早出现的一种敏感词过滤方式。即系统不会在用户端进行敏感词过滤和校验，而是把这个工作放
2022-06-21 09:40:32
681
1
原创 内容安全的审核体系怎么建立
对于资讯类产品和内容产品来说，内容审核是必不可少的环节之一。平台如何搭建审核体系？ 毫无疑问，我们在网上创建和发布的任何信息都将被审查，包括实名信息、昵称头像、个人自拍，甚至是我们自己的私人动态。在大多数情况下，只要我们遵纪守法，我们就不会觉得我们被审查了，但审查不仅决定了演讲是否会被封锁，而且还决定了我们是否能发送它，以及我们获得了多少曝光率。后两者往往不会被注意到。用户发布的内容不受平台控制，而部分内容会给平台造成风险，审核是阻断内容风险的主要方式。风险一般表现为不可接受的内容：没有人能触及红线内容，审
2022-06-20 18:40:03
349
原创 游戏灰黑产离我们有多近
在游戏蓬勃发展之际，很多优秀的游戏在好评度和收益方面都取得了耀眼的成绩。但是，另外一股暗流也在飞速发展，他们偷偷侵蚀着游戏的经济生态，并且给游戏造成了巨大的经济损失和口碑滑落。他们利用各种手段获取游戏的资源，进而低价出售给玩家，在很多时候玩家群体自身也受到波及。而这，就是“游戏灰黑产”。
2022-06-01 11:22:49
312
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人