奥巴马接受采访谈网络安全:担心人工智能入侵美国核武器

执政8年,奥巴马亲眼见证了黑客成长为往届总统都从未见识过的巨大威胁。美国情报和司法机构处理了各种各样的黑客事件,从2009年的谷歌被黑,到这次大选中俄罗斯人的各种捣乱。因此,奥巴马终于学会了制敌机先。这其中就包括为看起来像是科幻小说的各种可能性做好准备。比如说,机器学习训练的人工智能(AI)被赋予盗取美国核武器代码这种事。

在麻省理工学院(MIT)媒体实验室主任乔伊·艾拓和《连线》杂志主编斯科特·达迪奇的独家采访中,奥巴马表达了对AI潜在危险的担忧。在黑客能盗取560万联邦雇员指纹或缔造现代版水门事件的时代,他担心先进的对手是否会利用AI来渗漏政府最敏感的系统。

 可能会有这么一个算法,能渗透核代码,找出发射核弹的方法。如果这就是算法的唯一任务,如果算法是自适应的,而且仅仅是一个非常有效的算法,那麻烦就大了。

人工智能黑客或黑客工具这种想法,不仅仅是一种预言。五角大楼的国防高级研究计划局(DARPA)就正在研制AI攻防软件。今年夏天的Defcon大会DARPA挑战赛上,该机构让AI系统捉对厮杀,比拼实时查找、利用、修复软件安全漏洞的能力。

奥巴马称,AI攻击的可能性并不代表着网络世界末日,但确实需要加强美国对所有黑客的防御,无论是人类黑客还是机器黑客。“我对国家安全团队的指令是,不用太担心机器颠覆世界,担心一下非国家黑客或敌对黑客渗透系统的能力比较靠谱。从这个意义上讲,我们现在做的很多网络安全工作并没有概念上的不同。仅仅是说我们需要做得更好,因为部署这些系统的人现在就要好得多。”

奥巴马警告的那种基于机器学习的AI,已经被部署在了网络安全世界——虽然仅仅用于防御,而不是攻击。

开发人员长久以来一直在用机器学习——以样本数据训练软件代码的“自学习”过程,来磨炼垃圾邮件过滤器和识别恶意软件。但另一方面,对防御坚固系统造成严重威胁的真正自动化的攻击性黑客AI,可能还有好几年的路要走。

不过,研究人员已经勾勒出机器学习会被如何利用来攻击这些基于机器学习的系统,而DARPA挑战赛第一次展示了计算机可以使用AI来狩猎对手代码中可供利用的漏洞,进而入侵另一台机器。

在《连线》的专访中,总统称他对网络安全的思考,并不是站在对黑客进行边界防御的立场,而是要建立清除内部威胁的免疫系统。网络安全行业越来越多地聚焦在响应而不是防止——将高级黑客全部挡在网络外面是不可能办到的。“传统上,当我们思考安全和自我保护时,我们想的都是盔甲和城墙。但逐渐地,我们发现自己正看向机器,然后想到病毒和抗体。网络安全为什么一直如此之难的部分原因,就在于该威胁不是朝你驶来的滚滚坦克洪流,而是一大堆可能被蠕虫侵入的系统。”

奥巴马将该方法与另一大国家安全威胁相提并论:流行病。“护墙是拦不住致命流感病毒飞入国境的。我们要做的,是打造各种系统,让疫苗更加聪明。”

奥巴马谨慎指出,所有这一切,仅适用于作为高度进化的工具而被使用的专门AI威胁,不满足更幻想性的完全自治AI情形——有自己的意识和动机但很可能不与人类为友的AI。对这种电影里“天网”类型的威胁,奥巴马开出的处方很接地气:“放个人在电源旁边,看到不妙的迹象就拔插头吧伙计。”

作者:nana

来源:51CTO

时间: 2024-09-15 20:55:22

奥巴马接受采访谈网络安全:担心人工智能入侵美国核武器的相关文章

“维基解密”网站创始人阿桑奇20日接受采访时透露

维基解密网站创始人阿桑奇 本报综合消息 "维基解密"网站创始人阿桑奇20日接受采访时透露,他和家人曾多次遭到美国军方的威胁,如果美国执意将他引渡,他一定以牙还牙展开报复行动.阿桑奇还透露了狱中的短暂生活,说他在吃饭时硌掉一颗牙. 阿桑奇接受媒体采访时表示,他曾多次遭到来自美国军方的"死亡威胁",他儿子丹尼尔和律师也频频遭到恐吓.20岁的丹尼尔据称在一家软件公司工作,目前正在澳大利亚避风头.阿桑奇还爆料说,英国警方对他上周出庭受审非常紧张,担心可能有杀手趁机对他下手.

“奥巴马时代”10大网络安全成就解读

在过去的七年半时间里,奥巴马政府在网络安全领域下达了哪些行政命令,做出了哪些重大举措和改革?一起来看一看奥巴马时期的网络安全成就- 今年2月9日,美国总统Barack Obama推出<网络安全国家行动计划>(CNAP),并将其称为"奥巴马政府"历经7年的思想结晶.计划从加强网络基础设施建设.加强专业人才队伍建设.加强与企业的合作.加强民众网络安全意识宣传以及寻求长期解决方案5个方面入手,全面提高美国在数字空间的安全. 在奥巴马执政的七年半的时间里,已经相继推出了大量的政策和

南阳市食品药品监督管理局局长张树华接受采访

中央电视台3·15晚会曝光了河南省南阳市妙医堂药业有限公司涉嫌虚假宣传等问题.3月16日上午,南阳市食品药品监督管理局局长张树华接受采访时说,已查明该公司属于"严重虚假宣传.欺诈行为",并对该公司24个产品的注册号予以注销.张树华称,该公司"办理程序合法.合规,问题出在企业本身." 3月16日下午,公安机关对该公司的另一成品仓库进行了查封.只是该公司主要负责人始终未露面,张树华也"联系不到他".据介绍,该公司的宣传也讲究"游击战术&qu

担心黑客入侵 部分用户匆匆关闭雅虎账号

担心黑客入侵 部分用户匆匆关闭雅虎账号 责任编辑:editor005 作者:若水编译 |  2016-09-24 22:06:45 本文摘自:凤凰科技 北京时间9月24日消息,据外媒报道,在雅虎曝出"该公司至少5亿用户的账户资料外泄"消息后,为防黑客入侵,大量用户在周五匆匆关闭了自己的雅虎账户. 雅虎日前承认,该公司至少5亿用户的账户资料遭黑客窃取.雅虎表示,他们认为发生在2014年的此次攻击行为由"有政府背景支持"黑客发动,被窃取的资料包括:账户名称.电邮地址.电

宏碁董事长王振堂近日在接受采访时表示

微软Windows 8尚未获得成功,而宏碁Chromebook却成为公司的意外收获.他还强调,宏碁不会出售.Win8未取得成功宏碁已经连续两年亏损,原本指望在微软发布Windows 8之后,能搭上顺风车走上复苏之路,但这款操作系统却未能激活PC市场,倒是采用Chrome OS的笔记本电脑成为宏碁的意外之喜.宏碁董事长王振堂在接受采访时表示,自去年11月基于Chrome OS的宏碁笔记本电脑Chromebook发布以来,这款产品已经占宏碁美国笔记本出货量的5%至10%.他认为,从长期来看,这一占比

GrouponCEO上市前访华未接受采访匆匆离场

本报讯 (记者 阳淼) 世界估值最高的团购网站Groupon CEO 安德鲁·梅森在公司上市前夕来到中国,在视察其合资公司高朋网后对管理层表示了肯定.一贯低调的高朋网高管亦公开回应了微博抽奖造假处理.与腾讯和Groupon的关系等外界关注的问题. 梅森未接受采访,匆匆离场 安德鲁·梅森于昨日上午在高朋位于北京东三环的公司总部与媒体见面.他表示,虽然与腾讯在高朋上的合作仅有两个半月,但"合作非常愉快".在发言之后,梅森未接受媒体采访即匆匆离开. 在梅森来华之前不久,高朋网刚刚爆发微博抽奖

刘璇接受采访表情呆滞戴黑框眼镜如同学生妹

刘璇戴黑框眼镜表情呆滞(1/8张) 刘璇11月15日接受港台访问,她表示国语碟预计在明年1月推出,原本她都想试试唱广东歌,但公司最后还是替她选了全国语歌.问刘璇为何不像其他歌手赶年底出碟争取颁奖礼争奖?她笑说:"其实我从小到大都拿了数百个奖了,开玩笑的,那些都是体操得来的,其实我自小接受训练的都是认真完成一件事比较重要,我认为有奖固然好,但若有歌迷喜欢我也可以了."[page] 刘璇戴黑框眼镜似学生妹(2/8张)[page] 刘璇接受采访(3/8张)[page] 刘璇戴黑框眼镜似学生妹

高圆圆着透视装接受采访玉腿上惊现神秘淤青

高圆圆接受采访 苏州,<单身男女>21日正在苏州热拍,近来天气炎热,剧组选择在星级酒店的顶楼餐厅拍摄内景避暑.高圆圆身穿裙子现身露出玉腿上的神秘淤青,坐姿不慎露底走光,粉面含春的她左边脸颊还惊现一个大坑,非常大煞风景.[page] 高圆圆接受采访[page] 高圆圆接受采访[page] 高圆圆接受采访[page] 高圆圆接受采访[page] 高圆圆接受采访[page] 高圆圆可爱表情[page] 高圆圆左边脸颊还惊现一个大坑[page] 吴彦祖与高圆圆在片场激情拥吻[page] 吴彦祖向高圆圆

马云陆兆禧纽交所现场接受采访

摘要: 查看最新行情 马云陆兆禧纽交所现场接受采访 纽约时间9月19日午间消息, 阿里巴巴 今日在纽交所上市交易,此前阿里巴巴董事局主席 马云 在与现场中文媒体交流时表示,创业道路只   查看最新行情   马云陆兆禧纽交所现场接受采访 纽约时间9月19日午间消息, 阿里巴巴 今日在纽交所上市交易,此前阿里巴巴董事局主席 马云 在与现场中文媒体交流时表示,创业道路只有坚持才能成功.此外,马云表示小微金融业务暂无上市计划.而对于成为首富与否,马云坦言没感觉. 以下是马云和阿里巴巴CEO陆兆禧问答实录