构造AI防火墙！清华初创团队推出AI安全平台，强势修复算法漏洞“新型病毒”

大数据文摘出品

 

在人工智能盛行的今天，AI早已融入了生活中的多个场景，然而，一些主流应用场景的背后，往往也藏着由技术性缺陷导致的算法安全风险。

 

例如，在一些训练数据无法覆盖到的极端场景中，自动驾驶汽车可能出现匪夷所思的决策，导致乘车人安全风险。从2016年至今，Tesla、Uber等企业的辅助驾驶和自动驾驶系统就都曾出现过类似致人死亡的严重事故。

 

并且这类极端情形也可能被恶意制造并利用，发起“对抗样本攻击”，去年7月，百度等研究机构就曾经通过3D打印能让自动驾驶“无视”的障碍物，使车辆有发生撞击的风险，同样威胁行驶安全。

 

从安全评测到防御升级，RealSafe让AI更加安全可控

 

为了解决以上痛点，近日，清华大学AI研究院孵化企业RealAI（瑞莱智慧）正式推出首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台——RealSafe人工智能安全平台。

 

据了解，该平台内置领先的AI对抗攻防算法，提供从安全测评到防御加固整体解决方案，目前可用于发现包括人脸比对等在内的常用AI算法可能出错的极端情形，也能预防潜在的对抗攻击。

 

RealAI表示，就如网络安全时代，网络攻击的大规模渗透诞生出杀毒软件，发现计算机潜在病毒威胁，提供一键系统优化、清理垃圾跟漏洞修复等功能，RealSafe研发团队希望通过RealSafe平台打造出人工智能时代的“杀毒软件”，为构建人工智能系统防火墙提供支持，帮助企业有效应对人工智能时代下算法漏洞孕育出的“新型病毒”。