- 博客(133)
- 收藏
- 关注
RSS订阅原创 安全围栏的顶层设计，是大模型合规与应用安全的关键
数美科技CTO 梁堃指出，大模型安全防护需突破 “被动堵漏” 思维，建立覆盖规划、训练、运营的全流程“安全围栏”，通过体系化设计将安全要求嵌入技术架构。
2025-05-28 21:54:40
596
原创 信通院《大模型一体机安全要求与评估办法》启动试评估，助力行业安全规范落地
数美科技受邀参与中国信息通信研究院牵头制定的《大模型一体机安全要求与评估办法》技术规范研制工作，为推动大模型一体机安全标准的落地实施贡献专业力量。
2025-05-26 17:39:23
808
原创 大模型的安全挑战：从环境到应用的全生命周期风险解析
企业在规划AI战略前，亟需构建全面的风险评估体系，在充分认知潜在威胁的基础上，制定前瞻性安全架构与应对预案
2025-05-21 17:26:07
1284
原创 当黑产“吸血”鞋服业，AI风控如何为企业止损提效？
鞋服企业在面对低速增长的新常态时，经营思路从增量争夺转向存量精细化运营，然而，在品牌面向用户的营销运营活动中，黑产趁虚而入“吸血”，蚕食企业营销资源，扰乱用户运营效果。
2025-05-16 10:57:02
783
原创 AIGC时代内容审核：风险标签体系建设的重要性
在风险内容的管理方面，由于内容较为复杂，且不同平台不同场景对于内容的审核要求不尽相同，目前还难以形成一套标准化的审核规范。
2025-05-08 15:39:12
714
原创 儿童智能产品AIGC化，“安全锁”装好了吗？
儿童智能产品AIGC化，“安全锁”装好了吗？"CPDD”“养火"“扩列”……从未成年的黑话暗语到价值观误导内容，读得懂内容安全才能防得住！
2025-04-28 17:43:31
586
原创 像DeepSeek一样爆火的平台，会遇到这些麻烦！
从年初DeepSeek的爆火到近期电商平台的走红，中国App接连迎来泼天的流量。成为顶流的表象下，黑产刺客、违规内容等潜藏的风险正在破坏平台生态……
2025-04-23 11:33:09
701
原创 国内第一，全球第二，「AiPPT.cn」是如何在AI办公行业“狂飙”的？| 数美科技案例分享
面向企业用户的AIGC内容中台，由于涉及文档类文字、上传的图片及视频等多模态内容场景，内容敏感度较高，潜在风险复杂，可根据企业用户对内容的严格要求，开启"强审核模式"，通过实时检测内容中的敏感信息，并在发现风险时明确标注风险类型（如政治敏感、色情暴力元素等），将详细的风险提示信息推送至企业管理员。用户上传的文本、图片以及视频等多模态内容，可能涉及敏感词、暴力色情元素等复杂风险，而在输出端，AI生成的文本及自动匹配的图片不可控，尽管模型可以通过清洗训练数据和强化学习来减少模型输出有害内容的风险，但。
2025-04-16 10:45:36
585
原创 数美科技 | 用AI让每一次流量触碰都有价值，为企业数字营销降本增效
中国品牌广告市场每年因异常流量造成的损失高达百亿以上！在企业殚精竭虑找增长的同时，流量造假行为正在不知不觉中带来巨大的损失。
2025-04-10 17:28:39
851
原创 DeepSeek开源时代：2025年大模型与算法备案全攻略
DeepSeek开启了大模型开源新时代，企业在享受技术普惠红利的同时，合规性始终是业务落地的第一道关卡。针对大模型应用合规的备案体系以及企业接入DeepSeek开源大模型的具体场景，数美带来2025年备案全攻略!
2025-04-02 16:39:34
1608
1
原创 全球Top10的AI社交工具，凭啥让200万人敢玩又安全？| 数美科技客户案例
安全与自由并非对立的两极，而是需要智慧平衡的艺术。真正的全球化内容风控，不是用单一刻度定义世界，而是为每种表达找到属于它的安全边界。数美特别分享行业标杆案例——解密全球Top10 AI社交应用SpicyChat·AI的“自由与安全”密码。
2025-04-02 16:33:26
777
原创 数美科技CTO梁堃：DeepSeek规模化落地，内容安全是场“持久战”
当DeepSeek走向千行百业，企业是否能应对随之而来的“AI安全攻防战”?数美科技CTO梁堃对大模型安全问题进行干货解析，并基于100+AIGC企业的实战经验给出自己的专业见解。
2025-03-21 18:24:27
747
原创 护航AI内容合规，数美科技助力行业拥抱《人工智能生成合成内容标识办法》
针对《人工智能生成合成内容标识办法》的最新规定，数美科技在原有内容风险识别能力的基础上，进一步强化了对AI生成内容的甄别能力，通过对生成环节及传播环节的双重识别，对AI生成内容及内容本身风险问题高效识别，助力企业高效执行相关政策的要求。
2025-03-17 20:13:10
538
原创 数美发布【智能安全代答】产品，让大模型对敏感问题“应答尽答智答”
针对AI幻觉以及敏感问题等高风险场景，数美科技基于大模型内容安全领域的实际场景核海量真实互联网用户的对话习惯与特征，推出【智能安全代答】产品，300万+组QA对让大模型对敏感问题“应答尽答智答”，兼顾安全与用户体验！
2025-03-13 17:57:27
588
原创 《互联网广告管理办法》施行下，如何做好内容合规？| 政策解读
除法律、行政法规禁止发布或者变相发布广告的情形外，通过知识介绍、体验分享、消费测评等形式推销商品或者服务，并附加购物链接等购买方式的，广告发布者应当显著标明“广告”。行业形势虽向好发展，广告乱象在其中尤为突出，由于游戏平台的营收往往来自于广告，一些平台为了追求更高的收益，不顾用户体验，直播营销人员以自己的名义或者形象对商品、服务作推荐、 证明，构成广告代言的，应当依法承担广告代言人的责任和义务。，实践中，弹窗广告、欺骗误导用户点击浏览广告的情形层出不穷，影响大量的互联网用户使用网络的体验。
2023-06-14 15:41:37
374
原创 AI诈骗肆虐，平台如何做好AIGC风险管理？
数美风控审核使用诈骗识别模型，联系用户提问的上下文，识别潜在犯罪分子利用AI进行诈骗的套路和话术，并进行拦截。在审核环节，可以采用人机协同的方式，先用敏感词、模型等方式尽可能把有风险的内容识别出来，将风险内容交由人工二次复审，对于最终判定无风险的内容进行发布。由于AIGC生成的内容是自动化的，在前期对模型进行训练时，就需要对可能生成敏感、违禁类的词汇进行审核和过滤，降低AI输出内容的风险。此外，还需要建立完备的人工审核机制，提升审核人员的专业素质，保证审核流程的规范化，来确保审核的准确性。
2023-06-14 15:29:45
364
原创 《反网暴法》拟出台，网络毒瘤需平台、法律、公众联合拔除 | 数美解读
在“三人成虎”的互联网时代，谎言经过一万次的发酵、流动、传播，也就成了“真相”。刚经历丧子之痛承受不住谩骂的武汉母亲、在医院陪护被造黄谣的粉色头发女孩......在遭遇网络暴力之后，选择离开。每一场网络暴力的背后，或是众多无名施暴者的狂欢，亦或是营利性机构操控的舆论引导行为。如论是哪一种，都如何遏制网络暴力，成为了维护清朗网络空间的重要议题之一。澎湃新闻调研工厂在两会期间，针对全国3591名受访者进行的一项《有关网络暴力认知态度网络调查问卷》。
2023-06-14 15:12:45
311
原创 “4S”设备指纹，一招解决渠道流量作弊
移动互联网时代，广告主体和载体都变得更加丰富。手机应用成为了传统的商品和服务之外新的广告主体，“下载手机APP”成为用户更深层次消费的起始阶段，也成为移动互联网时代的广告目标。相应地，广告载体也变得更加丰富，我们既能看到网站和APP广告登上电视，也能发现它们的广告出现在网页角落。除了传统的平面广告、电视电影广告，网页广告、APP植入广告、网赚APP成为手机应用的新广告载体。广告的投放目标，从“用户购买”转向了“完成下载”；广告的投放考量，从“信息曝光”转向了“用户转化”；广告的投放重心，从“
2022-05-17 07:00:00
317
原创 内容审核行业研究：深度解析内容审核的困境与未来
一、“紧”与“松”不是对抗，而是共生“紧”与“松”的问题，其实是对内容监管趋势以及内容平台生态建设的一个总结。“紧”可以分为两个方向，一是监管要求，另一个是监管力度。在监管上，从2019年开始，随着数字经济蓬勃发展，以及疫情加速的线上娱乐迅猛攀升，涉黄、涉政、涉嫌违禁的内容日益受到监管重视，并且也细分出隐晦色情整治、电信诈骗内容整治、包括对未成年人的保护等具体要求。这些要求正在逐步弥补各类平台“野蛮生长”时期的规范空缺，对各类风险内容以及过往忽视的新发风险予以关注，实际上也在树立内容生态发展的相关规
2022-05-16 07:00:00
1952
原创 对话晋江文学城：关于审核、分年龄、出海和网文的当下与未来
网文还火吗？网剧《开端》开年大爆，其原著就是连载在晋江上的热门网络小说。尽管互联网娱乐早已步入视频时代，但网文发端二十余年，积累了一大批优质作品和忠实读者，诞生于2003年的晋江就是其中代表。一些数据能解释这种变化。CNNIC发布的《第47次中国互联网络发展状况统计报告》显示，截至2020年12月，我国网络文学用户规模达4.6亿，较2020年3月增长475万，占网民整体的46.5%，而网络视频受众占比已经达到93.7%。相较于更丰富的音视频媒体形式，文本自然是枯燥的，受众也更窄。在视频媒体冲击下
2022-05-15 07:00:00
7783
原创 杀猪盘、杀鸟盘、杀鱼盘...网络诈骗为何如此难以防范？
社交平台，特别是婚恋平台上，常有打着婚恋、兼职、信贷名义的诈骗行为。信息审核缺失，婚恋网站可能需要承担违约责任；报警溯源，平台也可能产生下架风险。本文从Netflix近期爆款剧《Tinder诈骗王（the Tinder Swindler）》聊起，聊聊杀猪盘、杀鸡盘、杀鸟盘等诈骗行为如何运作，平台应如何防范。当一个社交软件上的陌生人，声称自己是钻石富商，请求你借他信用卡，给他2.5万美元以度过人身安全危机，尽管他有完美人设，你多半也会觉得他是个骗子。但当钻石富商和你见过面，温柔体贴带你线下体验他的.
2022-05-14 18:59:12
765
原创 如何“看懂”图片？谈出海企业的视觉识别体系搭建
对于出海企业，尤其是音视频行业出海企业，视觉识别能力已经成为必不可少的云服务基础建设。一方面，出海企业要面临出海国家各具特色的监管要求，需要通过视觉识别建立足够强大的风控系统；另一方面，视觉识别也是实现智能推荐、检索匹配的必要基础。“视觉识别”确实是一个宏大的技术主题，从中可以衍生出算法研发、模型训练、策略调优等等研究方向，每个方向都值得展开细致的技术探讨。本篇文章暂不讨论具体的技术细节和实现，将更多的关注点放在视觉识别应该解决哪些识别目标的宏观问题上，即“机器面对未知图片，应该具备哪些组成部分的识.
2022-05-13 07:00:00
612
原创 图文情感分析模型降低80%人审核成本，怎么做到的？
案例一：某婚恋社交软件上，嘉宾资料页显示“市政府工作”，头像右下角有“国旗小贴纸”，和匹配对象聊天时透露“我在政府机关……”案例二：冬奥会期间，中国健儿勇夺金牌，身披国旗，引起热议。某社交平台网友也受到感染，踊跃进行图片创作，表达自己的爱国情感，其中，有少量损毁国旗的图片也混入其中……这是音视频社交行业的一个常见场景，其中，用户资料、发布内容、私信对话都可能引发风险。通常情况下，平台采用高召回策略，人工进行审核。这样做的好处是准确率高，但从用户体验和人力成本角度来说，这并不是一个好的选择，尤其是有大
2022-05-11 15:38:49
704
原创 出海欧洲《通用数据保护条例》解读，附GDPR白皮书下载
2018年被称为“世界数据治理元年”。在这一年的5月25日，《通用数据保护条例》（GDPR）在经过两年的缓冲期后正式步入执法阶段。作为全球首部全面的个人数据保护法，它的出台极大地影响了欧洲乃至全世界的数据保护立法进程。出海欧洲的中国企业队伍日益壮大，而另一方面，入局欧洲的准入门槛也越来越高。随着GDPR的执法模式日益成熟，企业也迫切需要提升自身的数据保护合规水平，以应对更加制度化的监管。此前已围绕GDPR的适用范围、数据主体权利、数据跨境传输、数据处理原则以及企业义务五个主题展开详细解读。一、适
2022-05-07 20:02:30
765
原创 《加州消费者隐私法案》解读合集，CCPA手册发布，助力企业出海合规
2021年，越来越多的中国企业开始展现出强大的国际竞争力，鼓舞着万千中国互联网企业进军海外。另一方面，随着各国开始制定各自的隐私保护、数据安全、数据合规法律，出海企业也面临着运营合规的难题。数美科技致力于为企业线上业务提供全方位的数字风控服务。数美数字风控研究院汇聚专业力量，洞悉行业趋势，为助企业驾驭出海合规风险，特推出“出海企业合规指南”，CCPA为出海系列的第一册。文末点击链接，即可免费获取独家完整版CCPA合规指南，另附CCPA英文原文PDF，供数字风控从业人员研究参考。CCPA是美国首部
2022-05-06 11:35:25
729
原创 对话触漫：漫画App如何做好社区治理？
《2021年中国二次元产业研究报告》显示，中国的二次元产业已经步入爆发期。2020年整体市场规模达达一千亿，年增速达到32.7%，其中细分的形态，如漫画、动画、游戏、衍生品等，也各有想象空间。在此背景下，我们和触漫业务负责人聊了聊，这家00后用户占比超90%，从工具切入逐步成长为UGC漫画内容社区，从内容延伸到素材商城的漫画App，如何圈住年轻人，又如何保护年轻人。触漫简介：触漫是一个以UGC漫画创作为主的泛二次元社区，从工具切入，通过低门槛编辑器和丰富的素材模板，帮助没有绘画基础的用户在手
2022-04-28 19:00:00
3691
原创 《加州消费者隐私法案》（CCPA）解读四：违反CCPA,企业会面临什么处罚？
CCPA自2020年1月开始正式实施以来，尚未传出过天价罚单的新闻。与之形成鲜明对比的是高调而严苛的GDPR。据Atlas VPN统计，2021年，共有412家企业因违反GDPR被罚，其中不乏亚马逊、WhatsApp等互联网巨头，罚款总额更是高达10亿欧元。CCPA的处罚标准似乎比GDPR更为温和，事实果真如此吗？01 罚款标准CCPA第1798.155条规定，“对每一次违法行为处以最高2,500美元的行政处罚，对每一次故意的违法行为和每一次涉及未成年消费者个人信息的违法行为处以最高7,500美元的
2022-04-28 07:00:00
1303
原创 《加州消费者隐私法案》（CCPA）解读三：出海企业被施加的三项义务
2020年1月1日，《加州消费者隐私法案》（CCPA）正式生效。经过六个月的合规宽限期，CCPA从当年7月1日开始步入执法阶段，加州司法部长有权就不合规的企业提起诉讼、征收罚款。政府监管倒逼企业加大隐私保护投入。另一方面，随着CCPA逐渐为大众所熟悉，消费者的数据保护意识也在不断强化，企业陆续收到来自消费者的数据请求。据DataGrail发布的CCPA Trends 2021 Report显示，自CCPA实施以来，2020年B2C企业平均每月收到11份来自用户的数据处理请求/百万用户，其中又以2020年1.
2022-04-27 07:00:00
630
原创 《加州消费者隐私法案》（CCPA）解读二：CCPA赋予消费者六大权力
《加州消费者隐私法案》(CCPA)是美国首部关于消费者隐私保护和数据安全的全面立法，其重要性不亚于欧盟的GDPR。根据CCPA的规定，消费者主要拥有知情权、访问权、删除权、选择权、公平交易权、个人诉讼权六大权利。知情权消费者有权要求企业告知其收集的个人信息类型、信息来源、具体内容、用途以及第三方处理机构等。企业应在其隐私条款中明确告知消费者以上信息，否则其收集消费者个人信息的行为便视为不合规。微软隐私政策中关于知情权的条款来源：微软官网访问权消费者有权要求企业免费提供其收集、处理过
2022-04-26 07:00:00
2132
原创 《加州消费者隐私法案》（CCPA）解读一：美国最严隐私法CCPA适用范围有哪些？
一、CCPA——美国版GDPR《加州消费者隐私法案》（CCPA）是继欧盟《一般数据保护条例》（GDPR）颁布后又一部数据隐私领域的重要法律。它于2018年6月28日正式颁布，在随后的两年内又陆续做了多次修订，2020年7月1日开始正式执行。CCPA是美国首部关于数据隐私的全面立法。美国目前并没有GDPR一类的通用数据保护法律，只在一些特殊行业或领域立法里，有关于隐私保护的内容散落在其中。例如，《健康保险流通与责任法案》（HIPAA）中提到如何保护患者隐私信息，《儿童在线隐私保护法案》（COPPA）则
2022-04-25 19:00:00
4224
原创 《通用数据保护条例》(GDPR)系列解读五：出海欧洲，企业必须做好四大义务
01 采取数据保护措施两大原则GDPR规定，数据控制者有义务采取适当的技术和组织措施来保护数据主体权利，确保数据处理原则得到贯彻执行，这也是控制者的核心义务。GDPR并没有要求企业必须实行某项具体的“技术和组织措施”，而是要求这些措施必须是根据数据保护原则而制定，即数据保护设计（data protection by design）和默认数据保护（data protection by default）。原则一：数据保护设计GDPR第25（1）条规定，“考虑到国家的技术发展水平、实施成本和处理行为的
2022-04-25 08:00:00
816
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人