人与机器网络攻防大战开打 人工智能漏洞挖掘潜力巨大

自2016年3月AlphaGo以压倒性的优势战胜韩国围棋选手九段李世石后,人工智能便引起了全世界的广泛关注。而在集结了尖端技术的黑客攻防领域,一场更高维度的人机大战也正式打响。

在今年“429首都网络安全日”系列活动上,由永信至诚主办、360企业安全集团战略支持,以“一小步”为主题的人与机器网络攻防竞赛(Robo Hacking Game,roboCTF/RHG)成功举办。国内外科研院所组成的十余只机器人战队与经验丰富的CTF选手在同一平台上一决高下。

活动现场,永信至诚副总裁、CTO张凯和美国乔治亚大学荣誉教授、360智能安全研究专家李康接受了媒体采访,他们就本次人机网络攻防大战的背景、赛题内容、人工智能技术在网络安全领域的发展与应用现状等话题分享了自己的看法。

图片描述

据悉,本次竞赛的灵感源于Cyber Grand Challenge(CGC),CGC是由美国国防部发起的全球性网络安全挑战赛,作为第一场在CTF竞赛中没有人类参与、完全由计算机完成的竞赛,CGC开启了网络自动攻防竞赛的先河,其目标是建立自动攻防系统对软件漏洞进行检测、验证和修补。而本次大赛是网络安全社区进行自动攻防CTF的一次有益尝试,就像在Word Computer Chess Championship(WCCC)中使用计算机程序一样,希望通过举办更多类似CGC的计算机自动攻防CTF赛事来继续这种尝试,激发出更多的研究成果。

赛事有别于CGC

张凯首先介绍了roboCTF/RHG赛事的特点,从CGC中继承了一些内容,并在系统平台、资源限制、积分计算等方面做了创新。从比赛形式上看,延用了部分CGC的形式,包括按轮次进行比赛;赛题不定期的放出和关闭;所有的计算机程序在主办方平台内运行;针对队伍的网路流量提供给对应队伍;赛题的漏洞利用程序和防御策略需要提供给平台验证;漏洞利用程序以PoV(Proof of vulnerbility)形式提交,而不是以完整的漏洞利用程序;赛题以32位x86二级制方式,静态编译并关闭堆栈保护等。

除了比CGC在赛事规模方面较小外,roboCTF/RHG还有其他几点不同,例如:

  • 使用一套完全常用的普通操作系统(赛题在Ubuntu 14.04的Linux 3.13版本中编译和测试),而不是CGC中使用的裁剪版DECREE操作系统。
  • 使用iptables作为网络防御策略,而不是CGC中使用的专门设计的流量过滤系统。
  • 对系统平台和资源不设限制。CGC为每个决赛队伍提供了一个节点集群,所有的队伍都具有相同的物理计算资源。roboCTF/RHG允许队伍使用他们自己的设备接入平台的选项。roboCTF/RHG也为队伍们提供了平台内部的独立的标准运行环境,队伍们可以在统一的资源环境下进行独立的排名。
  • 竞赛中没有包含对赛题的补丁修补,因此在积分计算方面没有复杂和不透明的性能测试方法。
  • PoV提交不以DECREE二进制程序的模式。队伍将用直接数据输入方式提交其PoV,等等

比赛使用队伍间竞争的方式。队伍通过提供PoV完成对赛题的crash、控制EIP、对指定的内存地址进行读或写特定内容来进行得分。

从赛题内容方面看,张凯认为在赛题设置时没有任何倾向性,并没有专门为人类或机器设计考题,而是仿真了现实网络常见的漏洞检测等赛题,roboCTF/RHG的漏洞类型包括所有内存访问异常类漏洞,包括但不限于堆栈溢出、堆溢出和格式字符串漏洞等。此外,赛题程序还具有32位Linux二进制程序,静态编译,堆栈保护关闭、无地址空间随机,GCC编译(版本TBA),单进程,单线程等特征,所有的赛题均设计为从标准输入接收输入数据,并将结果发出标准输出(网络服务通过管道网络连接标准输入输出)。

人类+机器 PK 机器

从当日比赛结果来看,人类战队和机器之间各有胜负。李康教授表示符合预期。虽然自动化系统已经显示出了较强的漏洞发现和漏洞利用能力,但在很多方面,依然与人类专家有一定的差距。

在回答为何本次并未出现之前AlphaGo大战李世石人类被机器碾压的情形,李康认为,一方面网络安全的问题更加复杂多变,应对不同的网络环境人类战队可以根据自己的经验快速得分。此外,本次竞赛中不少人类战队采用了自动化工具,实质是人类+机器 PK. 机器。他认为网络安全业内仍有大量人才缺口,一方面可以用机器海量计算能力和人工智能技术弥补,另外一方面机器有自己的特点,如果一旦能解决问题,反应速度、扩展速度都比人类要强。所以,今后网络安全的问题的解决会很大程度上依赖于机器。

深度学习用于漏洞挖掘仍大有潜力

而在谈到人工智能技术在安全领域的应用状况时,李康表示以机器学习(深度学习)为代表的技术在图像识别、人脸检测、反欺诈等领域已有大量研究和使用成果,未来在行业领域会有更加广泛和深入的应用。但深度学习在漏洞挖掘或漏洞利用方面的优势还没体现出来。漏洞挖掘中一个比较难处理的地方在于漏洞之间的相似性,正常输入和异常输入没有太多相似特征,在属性类别或特征提取方面还有待研究,目前直接把深度学习用在漏洞挖掘领域并不好用。

张凯和李康表示,这次比赛是一个开端,旨在以此为契机,由领域内有丰富经验及建树的科学顾问共同制定网络安全自动化标准,定义全新的竞赛模式,吸引更多人关注、学习智能攻防技术,通过集合大家的力量共同推进智能及自动化技术在网络安全中的发展和应用,为未来网络安全智能化、自动化的技术发展、展示、评价及人才培养耕耘土壤。永信至诚将在今年5、6月份开启人与机器网络攻防竞赛(Robo Hacking Game)公开赛,敬请关注。

漏洞挖掘技术综述与人工智能应用探索:从静态分析到深度学习,跨项目挑战与未来机遇 在网络安全和软件工程领域中,将机器学习应用于源代码漏洞挖掘是一种先进的自动化方法。综上所述,机器学习在漏洞挖掘领域的应用是一个,旨在通过智能化手段自动发现并定位潜在的安全漏洞,从而降低人工审计的成本并提高软件安全性。 阅读详情

相关推荐

AI挖0day漏洞?!AI黑客来了?!全球首个AI漏洞挖掘“神器“

🤖 AI 自动挖 0day?一周实测 vulnhuntr:是神器还是智商税?

weixin_75168674的博客 3638

我亲眼见证了一场黑客“机机”大战,黑马冠军的手法很skr ...

上周,雷锋网编辑收到永信至诚小伙伴的私聊,“小老弟,周末我们有场'机机大战'来不来?” 见编辑发送过去迷惑的表情包,对方进一步解释到,“就是RHG大赛(Robo Hacking Game),给黑客解放双手,让他们搞出来的机器人互相PK。” 很难想象网络安全大赛上黑客们不搞机了,开始嗑瓜子观战的画面…… 行吧,为了满足好奇心,雷锋网编辑在上周...

weixin_34050427的博客 198

漏洞挖掘技术综述与人工智能应用探索:从静态分析到深度学习,跨项目挑战与未来机遇_机器学习与人工智能算法在超深基坑监测中的应用

然而,仅依赖词频统计和N-gram模型在漏洞挖掘时存在局限性,由于其无法深入理解和建模代码的复杂语义关系,可能导致过度简化了源代码的内在逻辑,同时引入大量噪声数据,降低了漏洞检测模型的有效性和准确性。因此,通过研究和借鉴已知漏洞模式以及成功的漏洞挖掘技术,在一个项目上建立的有效漏洞挖掘模型有望应用于另一个具有相似或相关特征的项目上,从而提高安全性评估和漏洞发现的效率。此外,不同粒度级别的检测对于精准定位漏洞位置至关重要,细粒度的漏洞挖掘模型需具备识别具体代码片段的能力,这对模型的设计提出了更高的要求。

2401_84254087的博客 770

信息安全专业-基于机器学习的软件漏洞挖掘方法

毕业设计-基于机器学习的软件漏洞挖掘方法:软件复杂性的增加,给软件安全性带来极大的挑战.随着软件规模的不断增大以及漏洞形态多样化,传统漏洞挖掘方法由于存在高误报率和高漏报率的问题,已无法满足复杂软件的安全性分析需求.近年来,随着人工智能产业的兴起,大量机器学习方法被尝试用于解决软件漏洞挖掘问题。目前,对于软件漏洞的定义尚未形成广泛的共识,本文参照吴世忠等人对软件漏洞的定义,即软件漏洞是指在软件系统或产品的软件生命周期中,由于操作实体有意或无意的疏忽而产生的设计错误、编码缺陷、运行故障,它们以不同形式存在于软

Hai_Lang_IT的博客 1868

智能化漏洞挖掘技术总结

全文基于《从自动化到智能化:软件漏洞挖掘技术进展》进行提炼、总结、修改。1.静态漏洞挖掘技术 1.1面向源代码 面向源代码的漏洞挖掘主要采用基于中间表示的分析和基于逻辑推理的分析技术。 基于中间表示的分析技术主要包括数据流分析、控制流分析、污点分析、符号执行等。Pixy采用了取值分析、污点分析、指针别名分析等静态分析技术实现对PHP源码中的SQL注入和跨站脚本等漏洞的检测。Prefix采用了静态符号执行技术模拟执行C/C++源码程序,并采用约束求解对程序中的部分路径进行检测。Melange采用数据流分析的框

Yale的博客 8672

基于AI的自动化安全漏洞扫描平台

本文介绍了如何基于AI的自动化安全漏洞扫描平台,利用机器学习和自动化技术,对网络进行自动化测试和漏洞扫描,提高企业的安全管理效率。该平台可以快速、高效地发现企业网络中的安全漏洞,降低企业的安全风险。 随着人工智能技术的不断发展,未来AI自动化安全漏洞扫描平台将在企业网络安全管理中发挥越来越重要的作用。为了更好地应对未来的挑战,我们需要不断提升AI技术在安全漏洞扫描中的准确性,加强AI技术的安全性和可靠性,推动AI技术和企业网络安全管理的深度融合。

AI天才研究院 4908

人工智能在网络攻防领域的应用及问题分析

人工智能有着独特的价值和优势。攻击者以人工智能为武器,使恶意攻击行为可以自我学习,并根据目标防御体系的差异自适应地“随机应变”,通过寻找潜在的漏洞达到攻击的目的。同时,采用人工智能技术可以改善网络安全现状,能更快地识别已知或未知威胁并及时响应,可以更好地应对复杂的网络攻击。目前,科研机构与产业界已达成共识,融入人工智能技术将成为网络攻防的新常态。人工智能在网络攻防领域的应用还处在初期阶段,人工智能只是辅助手段,距离实现真正的自动化攻防,还有很长的路要走。

HUANGXIN9898的博客 3878

ESP32-CAM入门教程

ArduinoESP32-CAM下载模块(接上USB就能用,很方便,如果没有买就只有资金用USB-TTL了)如下图两个合在一起如下图。

qq_48778364的博客 3万+

如何利用人工智能技术发现新漏洞?

随着互联网和信息技术的高速发展, 安全问题日益严重,网络攻击手段不断升级迭代。为了应对这些挑战,研究人员正努力发掘新的方法来发现和修复软件中的安全缺陷——例如被称为“漏洞”的不足之处。近年来,“AI+安全技术”逐渐成为研究热点之一;本文将探讨如何在实际场景中应用人工智能(AI)技术分析潜在的安全隐患以帮助识别、预防及修复新型恶意代码。

图幻未来的博客 701

别再乱设阻尼了!Abaqus动力分析中瑞利阻尼的α和β到底怎么算?

本文深入解析Abaqus动力分析中瑞利阻尼参数α和β的科学计算方法,帮助工程师准确设置阻尼参数以提升仿真精度。详细介绍了基于模态阻尼比的经典计算方法和多模态优化法,并结合工程案例演示参数设置流程,避免常见的阻尼设置误区。

weixin_42634811的博客 738

MYSQL、ORACLE、PostgreSQL数据库对象层次及权限管理对比

本文为出于自己扩展、比较、图形化的思维路径自行总结归纳,可能有些细节不太准确,欢迎指正。MySQL、Oracle、PostgreSQL关系型数据库都有管理员用户、用户、权限管理、表函数索引等数据库对象,schema。但在数据库对象隶属层次上有差异和相同的地方。

rachel_2016的博客 1490

[论文阅读] (03) 清华张超老师 - GreyOne: Discover Vulnerabilities with Data Flow Sensitive Fuzzing

《秀璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢。模糊测试近年来成为安全研究人员的必备的漏洞挖掘工具,是近年来漏洞披露数量爆发的重要推手。然而,模糊测试工具在种子生成、选择、变异、测试、评估、反馈等多个环节都存在一定的盲目性和随机性,其漏洞挖掘效率存在较大提升空间。我们通过分析经典模糊测试工具AFL的实现原理,找到了若干个制约其效率的瓶颈所在,包括数据流不敏感等,并针对性地提出了改进方案GreyOne(USENIX Sec'20)。本次报告将与大家探讨这一方案。

杨秀璋的专栏 1万+

版电力系统故障录波_故障录波识图与典型故障波形分析

1、设置故障录波的目的故障录波装置是对电力系统运行状况进行监控的一种自动化设备。系统正常运行时,录波装置不启动录波,当系统发生故障时,通过启动录波装置迅速启动录波器录波,直接记录反应故障装置安装处系统故障的电气量。2、故障录波的作用(1)正确评价继电保护和自动装置的工作。(2)正确分析事故的原因并研究防止对侧。(3)发现继电保护和自动装置缺陷。(4)发现一次设备缺陷,及时消除隐患。(5)帮助寻找故...

weixin_42495661的博客 1万+

‌实战解析:AI在安全测试中的漏洞挖掘‌

AI非替代测试者,而是放大专业价值。掌握AI工具链的安全测试从业者,将在云原生与DevSecOps时代获得核心竞争力。

2501_94449311的博客 565

Go语言面试:面试中经常被问到的50个经典面试题(附参考答案)

Go语言核心知识点摘要 基础语法与数据结构 make和new区别:new分配零值内存返回指针,make初始化引用类型返回实例 Slice底层:包含指针、长度、容量的结构体,多个slice可共享底层数组 nil与空slice:nil指针为nil,空slice指针非nil但JSON编码不同 Map原理:哈希表实现,非线程安全,扩容策略影响性能 for range注意:循环变量是拷贝,map遍历无序 defer执行:LIFO顺序,函数返回前执行 Struct比较:仅当所有字段可比较时才可比较 参数传递:只有值传递

数据知道的博客 4727

【25届数字IC秋招总结】面试经验13——豪威科技面试

25届数字ic面试记录———豪威科技

lalala0635的博客 365

“黑客”深度学习之“漏洞挖掘分析技术详解篇”

大家都知道黑客发起攻击、入侵等行为都需要挖掘其网络、系统、程序的**“漏洞”,然后利用其"漏洞"来完成目标实施,那么"漏洞是如何产生的"?又是如何被挖掘出来被利用的呢?**网络安全重磅福利:入门&进阶全套282G学习资源包免费分享!今天就以本篇文章内容给大家详细阐述一下"漏洞的定义、趋势、产生、分类、以及漏洞的挖掘和分析技术详解"!我们经常听到漏洞这个概念,可什么是安全漏洞?**官方定义:**漏洞是在硬件、软件、协议的具体实现或系统安全策略上存在的缺陷,从而可以使攻击者能够在未授权的下访问或破坏系统。基本理

yz_weixiao的博客 3133

【WRFDA第一期】WRF数据同化概述及资源整理

【WRFDA第一期】WRF数据同化概述及资源整理

WW、forever的博客 1660

基于污点分析的 AI 自动化漏洞挖掘尝试

参考资料本文是受Protect AI的vulnhuntr项目的启发,结合自己的经验做的另一种AI挖洞的尝试,如下图所示:与vulnhuntr思路不同的是,我们先逆向找到sink到source的链路,再利用AI做Source到Sink的正向污点分析来检测和判断整个链路的连通性。当然这种方式只适用于调用链不是很深的常规漏洞挖掘,因为链路查找如果不做污点分析,对于反序列化利用链这种情况会延伸出很多无效链路,肯定是不现实的。

weixin_42340783的博客 1571

手把手教你学Simulink——基于电机驱动系统的场景实例:轮毂电机在电动汽车中的分布式驱动控制仿真

本文详细介绍了基于MATLAB/Simulink和Simscape Electrical的电动汽车轮毂电机分布式驱动控制系统建模方法。内容包括系统结构设计(轮毂电机、逆变器、控制器等模块)、完整的建模过程(从基础模块导入到车辆动力学建模)、控制器设计与转矩分配策略实现,以及仿真参数设置与结果分析。通过仿真验证了该分布式驱动系统在速度跟踪、转弯性能等方面的优异表现,为电动汽车驱动系统的研究与开发提供了有效的仿真验证平台。文中还提供了相关代码示例和资料推荐,是学习Simulink电机控制系统建模的实用指南。

MHD0815的博客 4915

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

网络安全:AI已经在自动的挖掘漏洞

LLM自动化渗透测试通过自然语言交互、智能工具调度和上下文感知,显著提升了渗透测试的效率和智能化水平。其核心机理在于将LLM的生成与推理能力与安全工具链深度结合,实现从指令生成到漏洞验证的全流程自动化。未来随着模型能力的增强和工具生态的完善,此类系统有望成为网络安全防御体系的重要组成。关注“AI拉呱公众号”一起学习更多AI知识!

sinat_33203678的博客 1835

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

AI破解CTF:漏洞挖掘与利用的智能革命

在CTF(Capture The Flag)竞赛的战场上,漏洞挖掘与利用始终是最具挑战性的核心环节。随着网络安全对抗的日益激烈,CTF题目也变得越来越复杂,传统的人工分析方法已经难以满足快速解题的需求。近年来,人工智能技术的突破为CTF竞赛带来了一场革命,AI辅助的漏洞挖掘与利用工具正在成为参赛队伍的秘密武器。据统计,在2024年的全球顶级CTF赛事中,超过60%的获奖队伍使用了AI辅助工具,这些工具在漏洞识别、利用链构造和绕过安全机制等方面展现出了惊人的能力。

欢迎来到智能安全前线!这里是AI与信息安全交汇之地。我们以代码为武器,深入大模型攻防实战,破解系统漏洞。追踪OpenAI、Meta前沿动态,用红蓝对抗思维,锻造智能时代的坚盾与利矛。 1567

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

使用深度神经网络进行漏洞挖掘的方法调研

使用深度神经网络进行漏洞挖掘的方法调研 传统的漏洞挖掘方法 静态方法 基于规则/模板的 代码相似性检测 符号执行 对源代码分析,高假阳性 动态方法 模糊测试 污点分析 代码覆盖率低 混合方法 结合静态、动态方法,会继承上述的问题,并且实践上难以应用 介绍 机器学习方法的优点 人类智慧(经验)起到重要指导作用(基于规则、基于提取的特征的) 困难: 难以将安全专家对漏洞的理解 转换为 可被检测系统学习的特征向量 系统从特征集中学到的东西也可能受到各种因素的影响 例如,模型的表现力、数据过度拟合、数据中

cherrychen2019的博客 2765

HyVulDect: 基于图神经网络的混合语义漏洞挖掘系统

软件程序趋于庞大和复杂,软件漏洞成为计算机安全的主要威胁之一。开源软件的发展使得源代码漏洞检测变得越来越关键。传统的漏洞检测方法由于假阳率和假阴率较高,无法满足复杂软件的分析需求。提出了一个基于混合语义的图神经网络漏洞挖掘系统HyVulDect。该系统构建了一个复合语义的代码属性图来表示代码,使用门控图神经网络提取深层语义信息。利用污点分析提取污点传播链,并使用BiLSTM模型获取上下文的token级别的特征,最后使用分类器对融合特征进行分类。同时,加入双重注意力机制,使得模型能够关注与漏洞相关的代码。

阿航的博客 1939

探索基于基于人工智能进行的漏洞评估的前景

将人工智能纳入漏洞评估是防范网络威胁的明智且必要的一步。人工智能有助于加快流程、提高准确性并在风险成为更大问题之前发现风险。虽然存在一些挑战,例如需要大量数据以及确保 AI 适合当前系统,但其好处值得付出努力。通过使用 AI,公司可以领先于威胁、节省资金并更好地保护其数据。浏览联合人工智能获取更多关于网络安全和人工智能的资源!

知来者逆的博客 1581

面向人工智能的自动化安全检测与漏洞挖掘

作者:禅与计算机程序设计艺术《面向人工智能的自动化安全检测与漏洞挖掘》

m0_61869253的博客 1178
上一篇: 百度葛行飞:对话式人工智能需分场景逐个击破
下一篇: 滴滴章文嵩分享大数据在城市智慧交通领域探索实践
AI早餐汇
博客等级 码龄21年 759粉丝 316原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值