- 博客(9)
- 收藏
- 关注
RSS订阅转载 谛听安全｜内容审核系统的搭建设计思路
国内优质人工智能数据服务平台谛听安全，凭借数十年的产品内容经验，积累了更全面的审计维度，从平台的内容安全与运营角度出发，为不同行业的用户提高平台环境与运营活跃度，并且具有行业领先的非法过滤能力，从而为用户提供更可靠、更高质量的服务质量与速度。例如，在检测到用户发布非法内容后，则将与评分值解耦，定义为高风险用户，该用户将被多次放入手动审计机制中。用户的信息可以分类为年龄，性别，地理位置，设备，IP地址，使用时间，交易信息，用户发布等。设置阈值是指设置一定的数量，如果检测到超过一定次数，就会进行相应的处理。..
2022-07-18 10:16:57
297
转载 敏感词运营如何进行快速搭建-谛听安全
在叙词表的基础上，根据敏感词的重要性将敏感词分为红线类、敏感词类和危险词类，不同的类别结合了用户和地域的维度。敏感词的风控策略是游戏行业中的风控法律系统中最基本，也是最复杂的。场景二B产品被用户信息反馈有低俗色情文化内容，但敏感词明明自己已经可以添加过了，经检查发现该敏感词只管控了甲业务，新上的业务发展没有进行添加管控而被用户通过投诉；场景一A产品上线需要进行小规模的内部测试，产品中的评论功能需要与最基本的敏感词进行关联，以控制风险，但无法在操作叙词表中找到哪些是“基本”敏感词；...
2022-07-18 10:14:54
204
转载 AI审核员-人力内容审核的替代者
在当下网络环境中，部分企业面对大量的待审核内容和日益严格的监管条例，内容审核的需求日益增长。因此谛听安全推出了内容审计平台，可以帮助游戏、直播、UCG等行业的公司，通过提供全栈式人工智能技术和方案，让各行业减轻压力，并降低内容审计的劳动力成本。 内容审核痛点 对于网络平台来说，面对大量的文字、图片、音频和短视频内容，最简单的应对方式显而易见的是招聘更多的审计人员以及时处理新政策法规，但其缺点也很明显：首先，随着平台的扩张和用户视频的增加，审计成本也会不断地累积，纯人工审计将导致审计效率低下。同时，市场内容
2022-07-07 15:43:50
167
转载 游戏社交如何建立内容审核机制？
国内的游戏行业在过去的数十年里飞速发展。渐渐地，关于游戏中传播的内容管控也逐渐严格，行业内的内容管控需求日益增长。如果一款游戏社交平台想要呈现合格的内容，首先要规范平台，根据内容来源去区分和梳理平台内容；其次还需要制定平台内容获取标准，避免影响账号用户的体验感。最后，可以通过第三方服务商的帮助，进一步明确相关游戏舆论平台的内容获取范围和使用行为，熟悉快速的信息确认机制和平台内容验证机制，通过智能内容审计系统加强行业自律与处理能力。1.区分不同来源的平台内容游戏的玩家群体在使用平台内容进行传播时，审计者需要
2022-07-07 15:41:38
139
转载 游戏论坛利用AI审核的高效应用
与传统的社交渠道相比，网络游戏社交平台的媒体内容制作模式、沟通模式和组织合作模式有很大的不同，最明显的区别是信息制作和信息传播的分离。目前，主流聚合平台主要负责信息的传播和运营。游戏论坛上的内容种类繁多，内容质量参差不齐，一切混淆视听的负面评论同样也会带来内容风险，也有可能影响游戏子文化的生产。因而上传的论坛内容必须经过审核才能传播，平台的功能内容审计团队对人工智能算法也因此有很大的需求。人工智能审计可以通过机器人文本识别技术标记论坛帖子与评论中可疑的非法内容。结合过滤、召回和删除的手段去除一些明显的错误内
2022-07-01 15:35:44
84
转载 游戏AI”鉴劣师”智能内容审核方案
当今社会除了广泛应用于自动驾驶、智能对话、智能金融等领域外，人工智能技术在游戏和社交平台的内容审计领域也发挥着巨大的价值。游戏和社交网络平台的信息传播具有快速分散的特点，因此网络上的一些低俗内容更容易获得流量。但这一现象也在逐步地污染平台内容环境，因此是一个网络大环境问题。近年来，随着游戏、直播和短视频的爆发，网络不良内容泛滥，国家对内容审计的要求越来越严格，监管政策不断收紧，要求主流的网络平台和游戏运营不断提高信息内容的识别和过滤能力。面对网络数据的爆发，依靠人力完成审计无疑是一个疯狂的想法。通过对人工智
2022-06-28 16:16:51
199
转载 如何高效过滤游戏中的敏感词？
敏感词不仅出现在传奇游戏、SLG游戏的社区论坛、聊天等内部评论或上传信息区，还隐藏在头像、昵称、签名等需要全面识别的地方。不同场合的屏蔽时效性各有不同，屏蔽方法分为同步过滤和异步召回，由于涉及到技术层面的知识，在这里不展开详细解释。但综合来说，技术屏蔽手段主要通过特征库、语义分析、机器学习等方法。运营的同学则主要通过以下两种方式进行日常维护与审查： 1. 用户举报：主要是指用户在体验游戏的过程中遇到不良信息，于是进行投诉。为了保证投诉的效果，我们需要在其便利性、曝光度和奖励机制上下功夫。同时，我们还需要建立
2022-06-24 11:15:11
259
原创 怎样打击游戏中违法交易的灰黑产业链
近年来，随着互联的发展，网络用户在不同程度的需求如井喷态势暴涨，少部分的商业投机者从中看到了不正当的资本利益，使得违规交易的灰黑产开始在游戏领域里滋生。4月25日，《穿越火线》游戏发布了一则打击违法犯罪交易行为的公告，其中提到了部分玩家关于对不法分子利用游戏平台违规售卖游戏内虚拟道具从而盗号、诈骗等违法行为的控诉，那么值得我们深思的是这一灰黑产业链是如何快速传播的呢？随着网络多样化的发展，信息开始借助文本、图片、音频乃至视频、链接、广告等媒介形式传播，游戏中违规交易的灰黑产现象也借助这些手段开始扩散开来，具
2022-06-01 15:55:11
414
原创 Django 三种模型继承
一 抽象类继承父类继承来自model.Model, 但不会在底层数据库生成相应的数据表,父类的属性列存储在其子类的数据表中作用: 多个表若有相同的字段时,可以将这些字段统一定义在抽象类中要求:class BaseModel(models.Model): creat_time = models.DateTimeField(auto_now_add=True,...
2018-11-27 18:51:50
530
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人