洪小文独家解读: 直到AI可以自己编程 它才有资格跟 “路人甲” 比智能

宗仁,李尊,高菲联合编译。

一种普遍被认同的观点是:AI的发展速度会是指数式的,可能现在它看起来还很蠢,但是在你意识到它已经变强之前它就会越过那个“奇点”,迅速超过你,然后将你远远的甩在后面。

后来一些人开始慢慢意识到,奇点论确实有些夸张了。但是AI到底对我们的生活有没有影响?确实是有的,甚至很多时候,你能感觉到一些怀疑论者的观点并不夸张,甚至最近还有人说,随着人们越来越依赖于机器基于大数据以及各种算法帮他们做出的决定,我们实际上已经将自己的人生交给机器人控制。

本期硬创公开课,我们邀请到了微软亚洲研究院的院长洪小文博士,为我们讲解随随着AI的快速发展,AI到底能不能跟我们的智能相提并论(上)。

洪小文,微软全球资深副总裁,微软亚太研发集团主席,微软亚洲研究院院长。对微软SAPI(Speech API)和Speech Engine技术的发展作出了众所公认的卓越贡献,并多次获得类别不同的荣誉和奖励。它还是美国电机电子工程师学会院士(IEEE Fellow)和国际公认的语音识别专家,现任《美国计算机协会通讯》(Communication of the ACM) 的编委,并在国际著名学术刊物及大会上发表了百余篇学术论文。他参与合著的《语音技术处理》(Spoken Language Processing) 一书被全世界多所大学采用为语音教学课本。另外,他在多项技术领域拥有36项专利发明。

洪小文既负责过基础研究,又管理过产品开发,同时,他还在多个研发领域有所涉猎。现在洪小文博士是微软亚太研发集团主席兼微软亚洲研究院院长,全面负责推动微软在亚太地区的科研及产品开发战略,以及与中国及亚太地区学术界的合作。他认为自己多年来形成的“双重视角”或许可以帮助国内的年轻学者把握到正确的方向。

▎如何评价大众对AI的恐惧?

大众对AI的恐惧大部分源于一些科幻电影、小说的影响,以及部分媒体的充分报道。所以我觉得这种恐惧心理也蛮自然的。

大众对于AI的恐惧有一定的合理性和规律性,主要可以从以下两个方面来看:

  • AI加上所有计算机的软件硬件加起来, 的确具有非常强大的能力:人们对于比自己能力强大的东西除了喜欢以外,在某种程度上,产生畏惧感也是很自然的。
  • 人们对有智能的东西充满好奇却又有所担心(Intelligence):人一直对智力、智能充满好奇,也希望能够增加自身的智力,但是人又很害怕别人或者其它事物比自己聪明,会操控自己。也正是因为人工智能赋予计算机一定的智能才使它与其他新生事物有所不同。

人们对AI的畏惧感由来已经。1950年美国时代杂志的封面就表达了人们对计算机智能的担忧。当时计算机尚未普及,但是相对于,飞机,卡车这种庞大的机器,人们就已经开始担忧AI是否会比自己聪明,进而对自己产生威胁。

▎AI的工作机理是做各种概率选择,人类的生活也是经常不断选择,这两种有何异同?

确实,有类似的地方,也有不类似的地方。

  • 类似的地方:人和机器在做选择时都相当于做一个概率选择。

今天AI的系统,特别是从1990年以后的AI系统,不管是基于统计模型的,还是基于大数据、深度学习的,实际上是一种基于概率框架下不确定性的选择过程。而人类在做每一件事的时候也常常要面临做一些决定,我们做的很多决定也都不是百分之百可以预测未来的,所以我们也是在做一个基于概率框架下的决定,甚至于是一个随机的,所以在这方面我想是类似的。

  • 不类似的的地方:人做很多决定都是不可逆的,非重复的。

像选择我们的伴侣,选择求学学校和专业,选择职业生涯,每一次决定,就算有类似的地方,都是不同的决定。而且我们都是在一个数据信息不完整的情况下做决定。相对地,机器帮我们做的决定多半数是重复的决定,因为有重复性,它就可以搜集数据,利用各种机器的方法来优化。从概率的角度看,比如当一件事情要做很多次,甚至于到无限多次的时候,概率会体现,而且一定是概率最高的东西会是你最期望的答案。

相反,就算知道概率分配,人也不一定选概率最大的那个,而可能选一个对个人来说最满意的,产出比(Outcome)最大的一个,甚至于做一些不理性的选择,因为就一次。而这种一次性的决定,概率能帮助我们的地方不大。机器做决定,则需要尽可能收集最多的数据,然后根据这些数据,对一些重复性的事情进行优化,然后做出一个决定。

▎我们应该把AI视为生活中一种怎样的角色?

AI在绝大多数情况下是给我们人类带来福利和便捷的,但是每样东西都有一体两面,在享受这些福利和便捷的同时,的确可能会产生一些相对应的风险。这些风险中包括以下两个方面:

  • 对于AI的依赖性

举例:人对于方便、好用的技术/事物会有依赖(比如记电话号码),很多人到现在都用智能手机来存储电话号,我自己现在也不记得家里的号码。

  • 更深一层的是对于计算机背后具体细节的不了解而无法使人信服,且导致人们解决问题的能力有可能降低。

举例:GPS导航,当下很多人并不知道为什么GPS要做出这样那样的规划路线。再比如AlphaGo或者深蓝打败人类,但是它为什么下这一步?背后的原因并不清楚。

AI或者特别说深度学习最大的一个缺点,它们用这些模型也能做出很多了不起的决定,但是在它背后人们并不知道为什么要做出这个决定,无法让人心悦诚服。AI技术事实上是在这方面非常薄弱,尤其是今天的深度学习,你完全不知道它为什么来做这件事情。以后我们解决问题的能力有可能变弱,因为我们没有办法洞察这些细微的部分和推理的部分。

▎研究者既希望能研制出强AI,又担心研究出强AI之后无法控制它,怎么看这个问题?

最近越来越多被问到有关强AI、弱AI的问题,在这里先给大家解释一下什么是强AI、什么是弱AI。而且可以先给大家说一下,强AI其实没有那么强,弱AI其实可以很强。

  • 弱AI

其实我个人喜欢另一种说法——局限性的AI或者是狭窄性的AI。弱AI其实说它只能做一件事情,更早以前把它叫做专家系统(Expert System ),到今天我们把它称作深度学习或者其他的称谓。几乎所有深度学习(比如:物种辨认、语音识别等)都只能做那一件自己擅长的事情。

举例:比如像我们做一个项目预测北京的天气,就只能预测北京的天气。所以弱AI其实是一个专才的概念,早期叫专家系统,和人类的专才也很像。举例:木匠、裁缝、天文科学家,他们都是在自己的领域非常擅长,弱AI和他们类似也算专才。

  • 强AI

与弱AI相反,强AI就是像人类一样的通才。像人类一样,可以看、听、跑、做算术、了解语言、翻译、画画、思考等,类似于人类有通才型的智慧叫做强AI。

大家也知道,通才和专才的差别。通才的话如果拿每一样去和专才比是比不过的,但是专才呢不一定能有通才这么全面。比如像爱因斯坦在作为最伟大的科学家之一,在自己的生活上可以说是比较笨拙,不一定比得过寻常的老百姓。

这也是为什么说强AI其实在每一个单的项目是弱的,只是说它有通才的本领。

其实还有很多的例子,比如人类跑的没有有些动物快 ,所以我们发明汽车可以让我们跑得更快。再如人类不能像鸟儿一样飞翔,所以我们发明飞机可以让我们飞上天空。所以可以说每辆车、每架飞机就是一个专才。所以说弱AI或者狭窄性AI 也好,人类到现在造了很多工具,每一样工具都有特殊的功能,其实就是一个专才。我们人类作为一个通才,把这些专才拿来为自己所用,所以可以完成很多自己不能完成不的事情。

有人会问这些都是机器,会不会可以把弱AI与强AI结合之后,造出一个又是通才但是每方面都很强的机器?

这种可能性肯定会有,但是确实非常难。就像我们知道机器是专才,人类是通才,如果你要一个东西每一样都很强,那么大家会害怕这种东西也是可以理解的。不要说机器或者是AI,如果今天出现一个人在每个方面都是专才,大家都会觉得很可怕。因为跟我们所了解的不一样,而且我相信这种可能性永远也不会出现。但是如果真的出现这种情况的话,确实是相当可怕的。

  • 到底有没有这种可能?

人是一个通才,有很多缺点 跑不快、不会飞、算不快、也不够准。发明计算机,算得比我们又准又快。人类最了不起的就是创造力,但是创造力里面和人的弱点似乎有点相关的。

人的意志好比频谱,频谱高的时候,即当人的意识强的时候做事情很精准,但是,有时当人的意识薄弱时,创造力反而很高。比如,古时候的诗人,作家,如李白,白居易常常在喝得酩酊大醉的时候,能够写出艺术造诣很高的诗篇,贝多芬晚年完全失聪的时候,做出非常了不起的《第九交响曲》;梵高割掉自己的耳朵后,在身体有痛楚,意志很薄弱的情况下,创造出举世瞩目的画作。近代,凯库勒梦到一条蛇,变成一个六角形,咬住自己的尾巴,他由此得到灵感,发明了苯的结构,对有机化学的发展产生了重大影响。所以,在人意识很薄弱或不专注的时候,有可能将两个看似毫无关系的事物联系在一起,做出大胆的假设,当然也要经过小心求证,产生如此强大的创造力。强AI当然有其强的地方。没有人具备所有的专长,但是,我们人往往能够在意识薄弱的时候产生强大的创造力,现在尚没有机器能够模拟人的这种创造力。有人在探讨,到底有没有可能制造出强AI而没有创造力?不要说是在计算机界,不论是在生物界还是心理学界,脑神经科学界,大家都赞同:在没有意识的情况下,是很难出现强AI的。人们离强AI还有距离。

▎如何使民众对人工智能做出客观理性的思考,而不是持有过于极端的态度?

其实大家不必对AI有过于消极的态度。

  • 从专家角度要做有可控性的技术。

 几乎所有的工具都是能让我们可控的,包括AI,包括计算机,飞机,刀等各种我们造出来的工具,拿车来讲,我们开一个车要往东就要往东,一定要可控。但我在家里,我让我太太倒一杯咖啡,可能10次她只有5次会去,有5次她会说你有手有脚怎么不自己去。这里反应出一个问题,我们对人和对机器是有完全不同要求的。

所以我们一定要可控性,我想大家都同意,你没事去做一个东西,不能控制它有什么意义么?我常常说一个笑话,假如你要造一个东西又聪明,你又不能控制他,那不就是我们的小孩吗?我们都巴不得小孩比我们聪明,但是我们又不能控制他,如果真想做个不可控的东西,生小孩就好了,如果我们做机器,就是要控制它的。

  • 人工智能都是由人编写的算法,人的算法高过机器的算法。

上面给大脑发了一个左右脑的图,它可以看到,我们讲的计算机的那些功能和属性,大部分属于左脑,发散性,创造性,创造力很多是跟右脑相关的,计算机充其量只是一个最好的左脑。1+2+3+4+……+N这个题,有两种算法,在高斯求和算法之前就是慢慢地加,有个叫高斯的数学家,有次老师叫他从1加到1000,心想可以耗掉他半个小时,但他几秒钟就给出了答案,用的 n (n+1) /2N算法。

从1+2+3+4+……+N有两种算法,今天若是要加到无穷大的一个数,如果计算机用笨的方法计算,人用好高斯的方法计算,我可以保证计算机还是算的比我们快。但人跟计算机的比赛,我们不要忘记的是,它永远都是算法+真正去计算两个合起来的比赛。

在上次的比赛中,AlphaGo除了算法,还加上至少几万台的机器在背后计算,我觉得李世石很“可怜”,除了算法,还用大脑去计算。我们知道人的计算肯定比不过计算机的计算,不管是加减乘除以及开根号,都是以卵击石。所以如果只比算法的话,我觉得可能李世石的算法还是要高过AlphaGo的算法。

所以我的结论是,直到计算机可以自己编程,能够自己产生下一个算法,不然计算机跟人要比智能,是没得比的。我们的创造力在于能创造一个新的算法,去解一个未解的问题,去解一个已解的问题,解地比比人好,这叫做算法,而今天的所有算法,都来自于人类,包括深度学习。

  • 最后要讲的,今天机器,计算机,AI做的事情(99.99%)都具有重复性。

如记住电话号码,GPS导航,所有大数据运算,深度学习,都是搜索很多大数据导入预先设定的算法中,进行最优化,概率最大或期望值最高的选项。我想大部分的人都会同意我,对于重复性的事情我们很高兴能让机器人或者AI去做。我们人要去做最高阶的事情——那些一辈子只能做一次的决定。这类事情才是我们的创造力需要解决的问题,基于这些问题我们再考虑去发明一些算法,这类事情也是我们人类应该发展的方向。

关于

  • 深度学习从2006年到现在,没有大的基础理论进步!但现在工业界热情高涨,我们在盲目推动什么? 
  • 现在各个开源平台推进不算迅速,是开发者的水平没跟上,还是推开发平台的大公司功能不完善?
  • 作为微软亚太研发集团主席和微软亚洲研究院院长,如何保证研究和开发项目的创新性和领先性?

……

将在我们的下篇文章中呈现,敬请期待!

本文作者:宗仁

本文转自雷锋网禁止二次转载,原文链接

时间: 2024-09-20 04:38:08

洪小文独家解读: 直到AI可以自己编程 它才有资格跟 “路人甲” 比智能的相关文章

EMNLP最佳长论文作者独家解读:别让机器学习放大性别偏见,其实男人也喜欢购物!

近日,自然语言处理领域顶级国际会议 EMNLP 于丹麦哥本哈根举行.EMNLP是自然语言处理三大顶级会议(ACL, EMNLP, NAACL)之一,已经于前段时间公布了录用论文及最佳论文名单.详情可参见雷锋网(公众号:雷锋网)AI科技评论此前文章: 万字长文,深度解读11篇 EMNLP 2017 被录用论文 EMNLP 2017 最佳论文揭晓,「男人也爱逛商场」获最佳长论文 其中,弗吉尼亚大学赵洁玉.王天露.Vincente Ordonez.张凯崴及华盛顿大学的 Mark Yatskar 凭借「

独家解读腾讯陈一丹卸任邮件:为新生代让道

第1页:独家解读腾讯陈一丹卸任邮件 第2页:内部邮件全文 第3页:马化腾回信全文 原标题:独家解读腾讯创始人陈一丹卸任CAO内部邮件:为新生代交接让道 钛媒体TMTpost.com 注:3月20日傍晚,腾讯宣布公司主要创始人之一陈一丹将卸任首席行政官(CAO),担任公司终身荣誉顾问. 当天,腾讯还公布了截至2012年12月31日未经审核的第四季度综合业绩及经审核的全年综合业绩.财报显示,第四季度腾讯公司总收入为人民币121.531亿元,比去年同期增长53.4%:净利润34.636亿元,比去年同期

【浙大脑机接口实验室探秘】人类与AI控制大鼠走出迷宫,C10背负的混合智能未来(视频)

(文/杨静 )我对浙江大学的脑机接口研究长久以来抱有朝圣般的浓厚兴趣,主要是受浙江大学计算机学院潘纲教授的影响.他在一次演讲里展示了脑控大鼠在一名研究人员的脑电波控制下,快速走迷宫的神奇现场,这只大鼠是在中央电视台的节目里表演走迷宫的.当时现场一位嘉宾跟我交流说,他去浙江大学的实验室参观过这只脑控大鼠,据他观察这只大鼠受人类操控走迷宫时,他感觉动作比较机械,更像一个机器而不是一个动物.他的话更引发了我的好奇,一定要想办法去看看这只大鼠,到底是不是已经演化成"机器"了. 浙大的超级明星

清华量子计算大师应明生独家专访:AI未来一定会以新的形式重生

近年来,人工智能和量子计算两大领域双双被人们寄予厚望,特别是被国人当成是"超英赶美".弯道超车的两大历史机遇.量子计算机是指利用量子相干叠加原理,量子比特的独特属性使量子计算机在处理一些运算的时候速度更快,理论上具有超快的并行计算和模拟能力的计算机.量子计算机代表着突破被纳米层面限制的摩尔定律,意味着巨大的计算力潜能.曾有人打过一个比方:如果现在传统计算机的速度是自行车,量子计算机的速度就好比飞机. 计算力正是AI三大法宝之一.现有计算机已经能够支持AlphaGo这样的"围棋

预告:殿堂级男神洪小文即将开课: AI不为人知的威力

人类简史作者前不久的时候表示:算法胜利,自由意志将终结. 高科技"大师"和硅谷"先知"正在创造一个全新的教条,让算法和大数据的权力合理化.这种新颖的教条可以称为"Dataism(数据主义)".在数据主义的极端形式下,数据主义世界观的支持者将整个宇宙看作是一个数据流,认为生物几乎等同于生化算法,相信人类的宇宙使命是创建一个包罗万象的数据处理系统,然后融入其中.我们正在变成一个巨大的系统中的微小芯片. 作为牛津大学历史学博士,青年怪才,全球瞩目的新锐

AI 可以自己编程了,程序猿们该何去何从?

"愚蠢的人类,快走开--我的代码我自己写!" 现在,机器学习系统获得了一种自动编写代码的能力. 这种程序叫做DeepCoder,由剑桥大学和微软公司的研究人员所研发.对于不会写代码的人来说,DeepCoder简直就是福音.因为这个程序解决了编程的基础问题,不需要任何代码知识,人们就可以编写出一些简单的程序. 作为一个局外人,麻省理工学院的ArmandoSolar-Lezama评论道:"转眼之间,编程的工作效率就可以如此之高,很多以前看来难以建立的模型,现在居然都触手可及.&q

你点一次广告,会创造多少价值?|KDD论文核心算法独家解读

近日,来自阿里妈妈精准技术团队的论文<淘宝展示广告中的OCPC智能调价算法>被国际数据挖掘领域顶级会议KDD(Knowledge Discovery and Data Mining)收录. 该论文围绕OCPC智能调价,创新地提出了一种双层优化形式,将优化广告主价值转化为首要约束条件,将系统根据预估收益对广告进行排序作为内层优化问题,将用户体验和平台收益的最大化作为外层的寻优问题,并提出了相应的求解方法.最终达到不仅广告主效果优化,平台商业收入和用户指标也获得优化的三位一体目标. 研究问题:传统

丁磊也养猪,独家解读养猪业与互联网渊源

&http://www.aliyun.com/zixun/aggregation/37954.html">nbsp; 2009.2.16 网易创始人:丁磊在接受新快报记者采访时曾有如下对话: 丁磊:"我们其实已经调研一年多了,种薰衣草.养海参.养鹅,五花八门的,我们都考察过,最终选择了养猪和养鸡." 丁磊养猪事件,很多朋友认为是炒作,我则不这么认为,我想绝大多数的朋友不了解国内养殖业现状,而与互联网之间的渊源其实也已超乎各位的想象了. 一.农产品线下投资遭热捧

独家解读:云经纪的“艺术”

日前IPED完成了2012年一项有关云计算经纪人的研究报告,该报告评估了客户和云计算合作伙伴的意见,针对云经纪人的存在,以巩固为客户提供服务时,云计算能够准确的为客户提供IT服务能力. Gartner的立场和定义云经纪人作为如下:一个成功的云计算战略往往涉及从一个或多个供应商定制服务.做到这一点的方法之一是通过中介服务提供商,云服务的经纪模式,这也是我们通常所说的"云渠道"概念. 报告称42%的受访客户表示,云经纪人是今天关键或重要的实施云服务环节之一.另有13%的受访者认为,当客户的