DAPRA 挑战赛中捍卫网络安全的人工智能选手

本文首发于微信公众号:人工智能学家。文章内容属作者个人观点,不代表和讯网立场。投资者据此操作,风险请自担。

人工智能学家

计算机软件“零日”漏洞平均每年会有312天在人类网络安全专家发现和修补漏洞之前,遭到恶意黑客的利用。美国军方重点关注颠覆性技术的主要研究机构希望解答的问题是,人工智能是否能在几秒或几分钟内,比人类更快地发现和修补这些漏洞。

今夏,美国DAPR的网络挑战赛(Cyber GrandChallenge )中7个进入决赛的团队将携自己的AI战队参赛。这些AI系统可自动浏览对手网络服务器并寻找漏洞,还可以积极发现和修补自己的软件漏洞,保护自己的服务器。比赛的第一名将会立即获得200万美金的奖励,第二名和第三名分别为100万和75万。但长期来说,DAPRA希望,这项挑战赛的结果能够向人类证明,在保护计算机软件和网络永无止境的战斗中,现在的自动化AI系统已经足以辅助人类。

“他们准备直播这项赛事,让人们见证技术之间的肉搏。”DAPRA 网络挑战赛的项目经理Mike Walker,在7月13号的电视新闻发布会上这样说。“我们希望从这个比赛中获得证据,证明响应漏洞的整个计算机安全周期都已经可以自动化。”

当今的网络安全防御技术,大多数依赖人类团队,人类专家先手动浏览崩溃报告,然后经过尝试后精准定位需要修补的问题 ;而在由于出现计算机故障,导致出现成百上千个漏洞报告时,这个过程会更加乏味和冗长,让人难以忍受。微软等科技巨头,已经开始研发能够自动发现问题并生成漏洞报告的软件程序。

但DAPRA希望,能够提高发现和阻止这些漏洞的自动化AI系统的水平。美国军事机构希望,这些自动化系统能够大大缩短研发软件补丁和应用补丁修补软件安全漏洞的时间。另外,与问题发生后依赖人类专家核查崩溃报告不同,在任意时间下自动化系统都能够辅助对整个软件系统的检测,。

进入决赛的7个团队都获得了高性能计算硬件,以研发各自的人工智能“网络推理”系统。8月4号于拉斯维加斯举办的10小时的网络挑战赛中,他们将会位居二线,坐观AI系统之间的对抗。

决赛开始之际,每个AI选手所在的网络都会运行已知协议,并运行事先未经检查的计算机代码。这意味着,AI系统将需要先学习网络的软件语言和逻辑,然后才能开始寻找漏洞。

为了攻击对手,参赛的AI选手需要寻找网络服务器中的漏洞。每发现一个,AI选手就会告诉DAPRA的裁判,并预测这个软件崩溃可能发生的时间。就像一个台球选手在排列落袋式台球并击球之前,会先预测开球情况,比如“7号球,落到角落球袋”。Walker 说。

AI选手证明对手存在这些漏洞就可以得分,而如果不能保护自己的服务器和应对这些模拟攻击则会失分。这些AI选手还将必须即使创建自己的网络防御体系,保护自己的服务器免遭其他对手的攻击。这些网络安全防御体系可能会使用两种战术,Walker 解释道,第一个,你可能会创建一个通用的“二进制盔甲”,保护网络服务器的任何部分免受通用威胁。这种方法的缺点就是,会因为运行常见的计算任务而减慢服务器软件的速度。“人们希望计算机能够保证安全,但不希望保证安全的代价竟然是两小时才发一个邮件。”Walker 说。

第二个防御策略中,AI会寻找软件漏洞并用专为这些问题定制的特定补丁进行修补。对AI来说,这种反向工程和针对某个问题的“point patching”(要点修补)更有难度。但在2015年6月举办的网络挑战赛的资格赛中,决赛团队研发的AI系统确实已经能够生成这样的补丁。当时没有一个参赛者能够完全找到资格赛中出现的590个软件漏洞,但是所有参赛者发现的漏洞加在一起囊括了全部漏洞。

然而,如果网络安全AI系统服务于恶意目的,比如发现漏洞后启动网络攻击怎么办?网络挑战赛的结果和参赛者的软件将会开源给大众。开源软件使得线上社区更易发现和修补这些漏洞,让大众发现这些漏洞。这种开放性,就是Walker 所说的,为使这种科技的“邪恶滥用”问题最小化,而采用的“开放式安全变革”方法的关键。

在网络挑战赛决赛之前,Walker 不希望推测这样的网络安全AI系统未来将会有怎样的发展。但他指出,商业软件的任何网络安全方面的提升都会使美国军方受益,因为后者通常依赖于这些现有技术。

“在21天以后,我们准备进行一个科学实验和存活性实验,因此那个时候,我可能会觉得更适合去推测比赛结果。”Walker 说,“我可以完全坦诚地说,在我们给大众说这种自动化技术是存在的,在我们推测未来发展之前,我们将首先切实证明这些自动化技术的可用性。”

对这种AI系统来说,在DAPRA的网络挑战赛中取得让世人信服的胜利,只是第一步。决赛团队已经口头同意,今年DEF CON(世界上最大的黑客会议之一)上,他们中的获奖者将会参与一项类似于“夺旗赛(capture the flag)”的竞赛,与人类黑客对抗。这项会议将会在8月的同一时间于拉斯维加斯举行。这意味着,自动化机器选手与人类专家将首次进行当面对峙。

计算机软件“零日”漏洞平均每年会有312天在人类网络安全专家发现和修补漏洞之前,遭到恶意黑客的利用。美国军方重点关注颠覆性技术的主要研究机构希望解答的问题是,人工智能是否能在几秒或几分钟内,比人类更快地发现和修补这些漏洞。

今夏,美国DAPRA的网络挑战赛(Cyber GrandChallenge )中7个进入决赛的团队将携自己的AI战队参赛。这些AI系统可自动浏览对手网络服务器并寻找漏洞,还可以积极发现和修补自己的软件漏洞,保护自己的服务器。比赛的第一名将会立即获得200万美金的奖励,第二名和第三名分别为100万和75万。但长期来说,DAPRA希望,这项挑战赛的结果能够向人类证明,在保护计算机软件和网络永无止境的战斗中,现在的自动化AI系统已经足以辅助人类。

“他们准备直播这项赛事,让人们见证技术之间的肉搏。”DAPRA 网络挑战赛的项目经理Mike Walker,在7月13号的电视新闻发布会上这样说。“我们希望从这个比赛中获得证据,证明响应漏洞的整个计算机安全周期都已经可以自动化。”

当今的网络安全防御技术,大多数依赖人类团队,人类专家先手动浏览崩溃报告,然后经过尝试后精准定位需要修补的问题 ;而在由于出现计算机故障,导致出现成百上千个漏洞报告时,这个过程会更加乏味和冗长,让人难以忍受。微软等科技巨头,已经开始研发能够自动发现问题并生成漏洞报告的软件程序。但DAPRA希望,能够提高发现和阻止这些漏洞的自动化AI系统的水平。美国军事机构希望,这些自动化系统能够大大缩短研发软件补丁和应用补丁修补软件安全漏洞的时间。另外,与问题发生后依赖人类专家核查崩溃报告不同,在任意时间下自动化系统都能够辅助对整个软件系统的检测,。

进入决赛的7个团队都获得了高性能计算硬件,以研发各自的人工智能“网络推理”系统。8月4号于拉斯维加斯举办的10小时的网络挑战赛中,他们将会位居二线,坐观AI系统之间的对抗。

决赛开始之际,每个AI选手所在的网络都会运行已知协议,并运行事先未经检查的计算机代码。这意味着,AI系统将需要先学习网络的软件语言和逻辑,然后才能开始寻找漏洞。

为了攻击对手,参赛的AI选手需要寻找网络服务器中的漏洞。每发现一个,AI选手就会告诉DAPRA的裁判,并预测这个软件崩溃可能发生的时间。就像一个台球选手在排列落袋式台球并击球之前,会先预测开球情况,比如“7号球,落到角落球袋”。Walker 说。AI选手证明对手存在这些漏洞就可以得分,而如果不能保护自己的服务器和应对这些模拟攻击则会失分。

这些AI选手还将必须即使创建自己的网络防御体系,保护自己的服务器免遭其他对手的攻击。这些网络安全防御体系可能会使用两种战术,Walker 解释道,第一个,你可能会创建一个通用的“二进制盔甲”,保护网络服务器的任何部分免受通用威胁。这种方法的缺点就是,会因为运行常见的计算任务而减慢服务器软件的速度。“人们希望计算机能够保证安全,但不希望保证安全的代价竟然是两小时才发一个邮件。”Walker 说。

第二个防御策略中,AI会寻找软件漏洞并用专为这些问题定制的特定补丁进行修补。对AI来说,这种反向工程和针对某个问题的“point patching”(要点修补)更有难度。但在2015年6月举办的网络挑战赛的资格赛中,决赛团队研发的AI系统确实已经能够生成这样的补丁。当时没有一个参赛者能够完全找到资格赛中出现的590个软件漏洞,但是所有参赛者发现的漏洞加在一起囊括了全部漏洞。

然而,如果网络安全AI系统服务于恶意目的,比如发现漏洞后启动网络攻击怎么办?网络挑战赛的结果和参赛者的软件将会开源给大众。开源软件使得线上社区更易发现和修补这些漏洞,让大众发现这些漏洞。这种开放性,就是Walker 所说的,为使这种科技的“邪恶滥用”问题最小化,而采用的“开放式安全变革”方法的关键。

在网络挑战赛决赛之前,Walker 不希望推测这样的网络安全AI系统未来将会有怎样的发展。但他指出,商业软件的任何网络安全方面的提升都会使美国军方受益,因为后者通常依赖于这些现有技术。

“在21天以后,我们准备进行一个科学实验和存活性实验,因此那个时候,我可能会觉得更适合去推测比赛结果。”Walker 说,“我可以完全坦诚地说,在我们给大众说这种自动化技术是存在的,在我们推测未来发展之前,我们将首先切实证明这些自动化技术的可用性。”

对这种AI系统来说,在DAPRA的网络挑战赛中取得让世人信服的胜利,只是第一步。决赛团队已经口头同意,今年DEF CON(世界上最大的黑客会议之一)上,他们中的获奖者将会参与一项类似于“夺旗赛(capture the flag)”的竞赛,与人类黑客对抗。这项会议将会在8月的同一时间于拉斯维加斯举行。这意味着,自动化机器选手与人类专家将首次进行当面对峙。

欢迎报名参加”人工智能学家“每月28日举办的“创新科技风险投资线上见面会”,百位著名风险投资人在线关注您的项目。6月28日10个项目进行线上路演。多数获得投资人约谈

====================================分割线================================

本文转自d1net(转载)

时间: 2024-09-18 20:47:20

DAPRA 挑战赛中捍卫网络安全的人工智能选手的相关文章

汇聚全民之力捍卫网络安全

没有网络安全就没有国家安全,特别是伴随着网络信息技术的高速发展与全面普及,安全更被摆在了极其重要的突出位置上.网络安全事关全民利益,不仅是国家部门和互联网服务企业的责任,也是每位公民理应知悉和参与的大事.自2014年以来,每一年都会在全国范围内举行一次国家网络安全宣传周活动,目的就是普及网络安全的基本知识,增强每个人的防范意识,汇聚起守护网络安全的全民力量. 从国际视角来看,网络空间超越国界,让世界联系超乎以往的紧密,但也让国与国之间的冲突与合作变得更加复杂,网络世界的交锋虽然看不到硝烟,但比现

KAIST研究中心主任JUN HO Oh:DARPA机器人挑战赛中究竟发生了什么?

或许你只是听过机器人的现实作用,却从未亲临过一场真正的机器人对决.在2015世界机器人大会上,在听完上午对机器人产业分析后,韩国高等科学技术院(KAIST)类人机器人研究中心主任JUN Ho Oh向我们分享了有关世界机器人挑战赛中的真实状况和分析.  韩国高等科学技术院(KAIST)类人机器人研究中心主任 JUN Ho Oh 机器人的作用毋庸置疑.2011年,日本东部出现了地震.海啸,甚至核泄漏,日本政府和美国军方都派遣了灾害响应机器人去到灾害现场,帮助救援.但实际情况却不尽如人意,这些机器人由

网络安全和人工智能成“重头戏”

科技改变世界,而人类创造科技. 11月16日下午,一场互联网领域的科技盛宴在世界互联网大会永久会址--浙江乌镇互联网国际会展中心揭开序幕.这是世界互联网大会第三次在乌镇举行,也是大会开办以来首次推出世界互联网领先科技成果发布活动. 增强型自动辅助驾驶.量子通信.深度学习神经网络处理器.混合现实全息眼镜--一项项炫酷的领先科技成果在会上依次发布,凝聚无数人的智慧和创造力,展示全球最前沿.最创新的技术. 网络安全仍是"热"话题 随着互联网技术在生活中的渗透,网络带来的威胁和风险问题也愈发凸

辰信领创联合发起创新战略联盟 网络安全与人工智能融合提速

12月18日,由知名上市科技企业北信源.三泰控股.和而泰.新兴网络安全公司辰信领创等50家"产.学.研.资.用"单位联合发起的"人工智能产业技术创新战略联盟(AI Union)"(以下简称联盟)在京正式成立.联盟成立后,将联合建设具有国际视野和影响力的人工智能技术产业发展合作平台,全面推动人工智能产业技术创新和产品服务孵化,全面参与乃至部分主导国际人工智能技术标准化工作,从而全面提升我国人工智能技术和产业竞争力. 就在日前,国务院印发<"十三五&qu

阿里云肖力:网络安全迈入人工智能时代

"阿里云的安全态势感知平台能够分析所有的请求.如果发现异常,会第一时间将防御方案上传到计算机,帮助企业进行更好的进行安全防御." 5月23日,阿里云资深总监肖力在云栖大会成都峰会上介绍了如何用人工智能抵御安全威胁,他提出了"智能防御"的理念. 用大数据分析与算法优化安全防护能力,意味着"用更少的人,做更多的事."Ponemon Institute调查发现,在传统防护框架下,一般公司检测网络攻击的时间成本是170天,解决网络攻击需耗时31天.而基于

怪”博士闵万里:用人工智能,解决吃饭出行问题

见闵万里之前,别人是这么形容他的:"自带柔光和儒雅气质,和严肃的'科学家博士'不太一样."于是对这个阿里云人工智能首席科学家抱着极大的好奇.大家都喜欢叫他山景博士,山景是他的花名.博士笑起来很调皮,就像漫画中,从奇异实验室走出来的那样:个人经历也是非常不一般,7岁前常考零分,14岁入选少年班:留美16年,不顾家人反对毅然回国,加入阿里人工智能团队:让一亿国内消费者吃上了"热饭",让在机场候机室等起飞的身影,变得不再疲惫. 你还是觉得他陌生?前段时间<我是歌手&

IBM Power全面推动认知时代大数据分析发展

近日,IBM在2015中国大数据技术大会上分享了其在大数据分析领域的最新成果,阐述了面向大数据分析领域的IT基础架构的最新战略.针对企业在认知时代面临的大数据分析工作负载,IBM坚信要以全新的IT基础架构作为支持.凭借产品和解决方案的持续革新,IBM致力于助力大数据应用创新,通过打造基于Power的本地生态系统,全面推动本地大数据分析技术的发展. IBM副总裁.大中华区硬件系统部总经理郭仁声 IBM副总裁.大中华区硬件系统部总经理郭仁声表示:"认知时代的到来标志着信息技术的发展步入了全新阶段,也

蚂蚁金服李小龙:“人工智能+金融”机遇与挑战并存,蚂蚁金服都做了什么?

金融被誉为是人工智能的风口之一,蚂蚁金服无疑是这一风口下的先行者. 蚂蚁金服只做Tech(技术),用技术支持金融机构做好Fin(金融),这样的定位和大多数试水"人工智能+金融"企业大相径庭. 不久前,蚂蚁金服把其在深度学习图像算法研究上的最新成果开放给了保险行业:开放车险定损产品--定损宝. 而这只是蚂蚁金服用技术服务金融行业的冰山一角,从支付.智能风控.信贷决策.理财.保险定价.信用到智能客服,蚂蚁金服正在在用人工智能来影响和助力金融行业. 这背后给技术带来了多大的挑战? 蚂蚁金服人

阿里云人工智能小Ai将挑战音乐情感预测

本文讲的是阿里云人工智能小Ai将挑战音乐情感预测[IT168 ]科技的进步带来人类生活方式的改变,智慧医疗.智能楼宇.星际探秘等科幻大片的情节,如今已然成为现实,人类历史已经进入人工智能时代.阿尔法狗(AlphaGo)刚刚战胜韩国围棋名将李世石,成为人工智能挑战人脑极限的一大热点.眼下阿里云人工智能又放大招,新近推出的智能机器人小Ai,将在第四届<我是歌手>歌王争霸赛的现场,接受人工智能领域首次"音乐+情感"的挑战,预测本届歌王最终会花落谁家. 小Ai是谁? 作为湖南卫视的