- 博客(25)
- 收藏
- 关注
RSS订阅转载 舆情监控究竟是什么？怎么运作的？
全面监控实时社会舆情，同时实现对网络讯息的搜集和整理需求，可以有助于早起快速发现与自身有关的信息，并做出舆情风险防控。1. 全网精准搜寻和调查：当网络舆情信息量很大，但需要快速准确的找到社会舆论信息，企业可以通过表达关键词或语法，使用行者AI谛听的社会舆情监测系统，第一时间告知运营人员相关数据；在监测社会舆论时，民营企业也可以借助行者AI谛听收集到的信息，预测更多潜在的采用群体，增加企业的关注度，并抢占市场，为企业经济发展决策提供科学信息和积极支持。2、网络舆情经济发展的及时处理和预测。
2022-11-18 14:01:33
277
转载 什么是合规性测试？如何进行合规性测试？
产品开发所有的功能都应该按照预期的那样工作，应该提供产品的文档和用户手册，以帮助理解和重新检查合规性。而在线支持和文档，，应该始终保持最新版本，功能和集成测试应该是完整的，并且应该满足退出标准。升级矩阵应该与开发、测试和管理团队的联系点一起提供，所有的许可证都应该是最新的。为开发生命周期的每个阶段创建并记录了一组标准和程序，必须将每个阶段的可交付成果与标准进行比较，以确定潜在的差距。关于合规性测试，它是一种非功能性测试方法，用于确定构建的系统是否满足组织的既定标准，又被称为*“一致性测试”。
2022-11-18 13:57:35
809
转载 内容安全是什么？（如何严控内容安全）
那么什么是垃圾违规内容呢？顾名思义，就是不符合产品定位的信息可以称为违规信息，就包含一些无意义的刷屏，广告，非法信息，例如一些违法犯罪的词汇，而这些内容如果没有审查好，都将受到监管部门的惩罚。对于普通公司而言，自建内容审核平台以及持续的技术投资，都会增加企业的压力，因此可以将内容保护功能对接到谛听,在减少成本的同时增强网络净化能力。其实对于靠内容输出的平台，就要有一个意识，那就是内容安全是企业的命脉，所以一定要提高内容审查方面的水平。违规内容多种多样，这对于一些平台来说，打击垃圾内容是一个巨大的挑战。
2022-10-28 17:29:51
312
转载 广告词检测对运营的应用场景
如果单单是违反了广告法的违禁字，可能会受到行政处罚和相应的罚款，一般而言罚款金额在于程度的计算，而不是统一的金额，如果单单违反了广告法文字，被举报，几万块钱是可以了事的，如果对于大量用户造成了资金上的损害，可能面临的金额就会较多，10万-20万-100万，不同处罚依照不同程度而决定。5、与“时间”有关，限时活动就必须标明具体时间、今日、今天、倒计时、仅限、周年庆、品牌团等，严禁使用随时结束、随时涨价、马上降价等无真实依据的用语。广告法，用意是针对一些营销推广的企业，为了避免厂商把产品夸大其词。
2022-10-28 17:28:02
289
转载 谛听安全互联网广告内容审核——人机联动
通常机器审核和人工审核的量级约为9:1，对于日均量级上亿的内容产品上，人审日均量级也达到百万级，同时满足时效性要求和审核质量无疑是很困难的。因此在实际业务中，根据不同产品的形态，建立不同的人机联动审核机制，才能最大化满足审核诉求。通过这样动态分配的方式，保证审核员有充足的任务，避免任务积压。第二步：根据审核组长或管理人员配置的权重，自动分发相应比重的任务，进入审核员任务列表，审核员可以开始审核；在审核业务中，先审后发和先发后审两种机制也通常组合运作，灵活调配，以最小的成本实现风险控制，满足审核时效要求。
2022-09-29 17:07:13
219
转载 谛听安全如何从5W模式入手，助力内容审核
无论内容、形式、平台如何发展变化，传播的5W模式都是通用的，对内容的审核可以围绕着5个要素展开。所谓内容审核，也不仅仅是对内容本身进行识别，尤其是在目前机器识别无法达到100%的准确、内容数量本身及其庞大的情况下，通过对各个传播要素的“监控”，也是完善机器审核的数据维度、提升审核效率的有效途径。内容审核的重点还是在对内容本身的识别方面，从提升机器审核的召回率和准确率，到提升人工审核的效率，再到搭建完整的流转机制，从其他要素着手也主要是为优化这三个环节来服务。1. Who：谁——内容的生产者；
2022-09-29 17:03:02
207
转载 人工智能在内容安全的应用实践
通过事先收录的拼音库、形近字库、拆字库、符号库等字典，找出有变种嫌疑的内容，再结合上下文语境信息，使用Machine Learning技术判断是否变种并进行修正。通过算法计算汉字的相似度，快速找出所有的形近字，再进行人工确认，保证精准度。实时图像处理的背后是这样的一个技术架构在支撑：下载集群和并行计算，然后再经过色情模型、暴恐模型、涉政模型、广告模型等判断处理，最后给出结果处理。然而，传统的内容技术已难以满足企业日益增长的安全需求，就拿图像来说，传统的色情识别技术为例，就经常会存在误判、错判、漏判等情况。
2022-09-29 17:00:00
221
1
转载 文本内容安全领域-谛听安全深度学习的常见应用方法
LSTM和GRU是RNN的两种改良版本，它们通过门的机制对RNN中信息的传播进行控制，缓解了RNN的梯度消失问题（RNN梯度爆炸问题可以通过gradient clipping技术进行解决）。与全连接或卷积网络不同，RNN内部不同词对应的隐藏层相互之间是有联系的：当前词的隐藏层的输入除了输入层的输出，还包括前一个词的隐藏层的输出。深度学习是近几年来的热门方向，学术界和工业界的研究人员提出了很多有价值的方法，本文所分享的方法只是其中少数代表性的工作，仅供读者参考。
2022-09-29 16:56:29
154
1
转载 社交媒体时代，如何有效中断内容伤害？
内容审核，顾名思义就是对内容进行审核。审核内容包含内容质量、风险、暴力敏感、谣言、涉黄、垃圾、违法、个人隐私、赌博、网络舆论、非法程序、毒品、网络诈骗、邪教、侵犯公民、非法售卖、 严重搞笑错别字等。近年来，随着互联网的高速发展，多媒体内容爆发带来了海量信息，但同时，裹挟大量色情、违禁、暴恐等不良内容的有害信息频繁出现在网络中。在互联网飞速发展的今天，网络黑灰产及违法违规内容也日新月异，这就要求我们网络安全人掌握更多的专业知识，善于学习和总结，同时具备创新能力，在网络攻防战中发挥更大的作用。
2022-09-29 16:44:26
178
1
转载 在内容合规上，如何建立内容审核体系？
1. 先审后发：所有内容审核通过后才可以提交，适用于对自身定位很强，对内容质量要求很高，信息量不是很大的平台，比如人人都是产品经理，以新闻为主的资讯平台，比如一点资讯等。这些内容出现的概率很低，但任何平台都不惜任何成本去来规避这类内容的出现，代价包括建立庞大的人工审核团队，牺牲一定用户体验，禁止发布任何沾边的内容——哪怕你不是这个意思，这是不得已而为之。大多数情况下，只要我们遵纪守法，不会感知到自己被审核，但是审核不止决定发言会不会被封，还决定能不能发出去，获得多少曝光，后两种情况很多时候是不会察觉到的。
2022-09-29 16:38:53
457
转载 谛听安全内容审核干货！分享内容审核中容易疏漏的点
22、未紧跟监管规则，被监管部门打时间差，比如英烈保护法发布后查出暴走漫画、今日头条侮辱英烈；10、没有多维度拦截监控有害信息，昵称、头像、评论或者注册行为IP、设备ID、手机号等；13、特定圈子的特定名词（耽美、BL、SM、幼齿、慕残等）；1、图片中与背景色相似的水印（微信、联系方式等），未察觉；6、涉政、色情、违禁的网络用语或者黑话（419、上车等）；18、旗帜、地图、产地等易被疏忽的细节涉及分裂国家；8、隐晦的推广行为（非明确的联系方式、广告词）；15、联系方式变形（阿拉伯、字母、繁体字）；
2022-09-23 18:50:36
374
转载 深度学习图像算法在内容安全领域的应用实践和优化
内容安全领域是一个相对特殊的场景，我们面对的问题往往目标定义不明确，数据种类繁杂多变、图像质量差距大，还会经常面临对抗攻击，这一场景对算法能力的要求较高。学习图像算法近年来在学术领域经历了爆发式的发展，目前已经在工业界多个实际场景取得了较完整的应用落地，例如安防、营销、娱乐、金融等场景。深度学习算法已经成为图像算法中的重要组成部分，深度学习相关公开资源已经非常丰富，针对图像任务创建一个简单模型是十分容易上手的，这里将会展示如何快速搭建一个深度学习图像分类服务。
2022-09-23 18:46:15
301
1
转载 数据敏感度-谛听安全运营心得
懂业务、懂客户，但不懂数据的人，就好比一个人很有故事，内心早已百转千回，把自己感动哭了，但就是讲不出来，或者讲出来了，也没有说服力。而懂数据，但不懂业务、不懂客户的人，就好像手里拿着最权威、最专业、满满精华的朗文英汉大字典，可那只是字典，不是文学史籍，不是诗词歌赋，也不是重大科学研究发现。1. 看到数据后，能一眼判断数据靠不靠谱，因为很多数据本身不靠谱，有指标口径问题、有数据质量问题，也有可能搞数据的人真的不理解业务，放了个风马牛不相及的数据。对于懂业务和客户，但不懂数据的人，需要的是从业务走向数据。
2022-09-23 18:39:27
129
转载 用户画像在内容风控实战中的应用
风险内容的攻防，不是对单一用户的攻防，而是对群体的攻防和管控，而群体中的用户表现，往往是具有相似度的。简略来讲画像就是一个人的“维基百科”，在这个百科中，介绍了用户的来历、身份、做了什么事情、在某些业务场景下的成就或者比较“有名”的事情。而在制造标签这个方向上，对于风控团队而言，除了需求增强本身的挖掘技能以外，还需要供应一套规范的、快速的验证标签的产物流程。从技术的角度举例解释，就是分析占库存场景，让平台能够检查下单率超越必定阈值用户的占比，再与以前的失常占比进行比拟，来获取到制定的规则是不是正在生效。..
2022-07-29 10:39:43
131
转载 UGC内容平台的全栈式内容风控
谛听安全作为第三方服务的优质伙伴，可以为不同行业的用户提高网络环境与运营日活，从内容安全与长期的战略性发展出发，提供优良的服务与质量，让净化网络环境的成本不再高昂。当然，除了大平台，小平台也一样，内容风控是当下中国互联网金融业务能力发展最急迫需求也是最棘手的问题。针对内容平台，无论是游戏、资讯、社交或视频，都非常轻松地赢得网民的支持(流量激增)，但随之而来的是频繁的规管检讨和违规行为，例如访问、纠正和关闭。如果将这一现象反过来思考，经济繁荣的表象下，是深深的泡沫，内容产业的繁荣下，是混乱。...
2022-07-22 16:17:06
178
转载 业务治理流程的风控方法-安全运营心得
如果我们只考虑一个具体的风险控制业务场景，我们最好的方法是通过不断提高每个治理环节的效率来提高风险控制的整体效率，从而提高风险控制的效率。如果针对处于风控稳定期的业务，那么其目的可能是让产品变得更加稳定可控，那么基于治理流程的思维方法则可以是帮助业务进一步提升风控能力，让产品的每一步动作都会产生价值沉淀，每一步沉淀都会让风控更加得心应手。黑色生产遍布互联网的各个领域，无论一个平台提供什么样的产品，只要这个产品能够带来收入转换的可能性，这个平台就会成为黑色生产攻击的目标。...
2022-07-22 16:15:54
168
转载 网络流量蜜糖还是陷阱-内容安全的重要性
同时，我们也会发现在信息社会各种不同场景下出现的违规种类和变种形式也非常多，从最初简单的敏感词，到现在有字体的拆分、特殊文化符号的混淆，图片内嵌入违规文字运用信息，以及学生语音里夹杂着不良内容等等。在彩色流信息产业的趋势出现后，人们发现文本垃圾开始变成图片垃圾，而更为隐秘的是，不良的文本并没有消失，而是缓慢地出现并结合在图片中。随着短视频和现场直播的广泛发展，越来越多的网络信息内容产生，紧随其后的是巨大的内容监管压力，但互联网并不违法，违法的是那些部分的阴暗角落里不道德、不守法的行为。...
2022-07-22 16:13:57
86
转载 敏感词运营如何进行快速搭建-谛听安全
敏感词的风控策略是游戏行业中的风控法律系统中最基本，也是最复杂的。内容虽然简单但非常琐碎，系统主要涉及从用户信息发布、用户举报、命中策略到审核数据处理、用户画像到AI识别等方方面面。 本文系统性的整理总结了工作时间以来在敏感词运营管理系统进行搭建一个方面的经验和想法，作为一种自我分析总结回顾的同时，也希望通过分享出来避免其他同学在敏感词运营能力方面少走弯路。敏感词系统是搜索和内容产品的基本风险控制系统。该系统可过滤基本文本敏感内容，灵活掌握敏感词过滤方法，结合业务条线，灵活掌握用户触摸敏感词。过滤的方法一般
2022-07-14 18:28:56
168
转载 谛听安全｜内容审核系统的搭建设计思路
对于信息产品和内容产品，内容评审是必不可少的环节之一。审核既是产品风险的控制手段，又是维护网络生态环境的重要环节。本文阐述了构建内容审核系统的设计思路和程序，希望能对大家有所帮助。如果运营同学通过简单的流程梳理，不难发现所涉及的对象包括发送用户、接收用户和内容审核（管理员等）。在设计时有两个方向：一方面简单地考虑对象的处理机制。 在另一方面，考虑关联对象被连接以说明产品设计。用户的信息可以分类为年龄，性别，地理位置，设备，IP地址，使用时间，交易信息，用户发布等。以上信息均属于用户的数据，用户数据是用户分析
2022-07-14 18:27:46
316
转载 智能内容安全平台的运营维护与分享
随着智能媒体时代的到来，在线内容平台的运营也同样出现了新的问题，包括大数据的收集和应用能力是否满足了发展的需要、如何处理5G环境下知识服务产品的边际成本、如何避免信息茧房的出现以及如何处理内容价值的持续分化等等…5g时代到来，这些问题将不可避免。对于内容制作机构来说，内容制作和管理能力的提高将长期成为内容运营平台自身发展的重要命题。以下三种方法可以在不同的角度出发，提出在当下市面上部分问题的解决方案，可以有效帮助互联网企业降低内容安全方面的维护成本。 1. 内容精准营销基于用户肖像和内容肖像匹配用户和内容
2022-07-14 18:26:14
105
转载 智能审核NLP技术对数字媒体和游戏的应用
人工智能技术的快速发展使得自然语言处理、语音转写、图像识别等技术成熟地应用于大多数的网络社交平台，特别是数字媒体和游戏生产平台的内容审计领域。本文将继续从专业的角度分析主要技术之一：自然语言理解技术。发展自然语言理解技术自然语言理解是人工智能的主要研究内容之一。其目标是学习计算机功能，理解和生成人语言，达到智能处理的效果。随着移动互联网技术、机器学习和深度学习技术的发展，以及数据资源的积累和并行计算能力的提高，自然语言处理的研究方法也发生了巨大的变化，在语音和图像识别领域取得了显著的成果。根据人工智能的发
2022-07-08 10:37:21
90
转载 AI审核员-人力内容审核的替代者
在当下网络环境中，部分企业面对大量的待审核内容和日益严格的监管条例，内容审核的需求日益增长。因此谛听安全推出了内容审计平台，可以帮助游戏、直播、UCG等行业的公司，通过提供全栈式人工智能技术和方案，让各行业减轻压力，并降低内容审计的劳动力成本。内容审核痛点 对于网络平台来说，面对大量的文字、图片、音频和短视频内容，最简单的应对方式显而易见的是招聘更多的审计人员以及时处理新政策法规，但其缺点也很明显：首先，随着平台的扩张和用户视频的增加，审计成本也会不断地累积，纯人工审计将导致审计效率低下。同时，市场内容
2022-07-08 10:26:48
214
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人