专访 Jordan 高徒 Percy Liang:如何开发连续学习的智能体

新智元:IJCAI-16大会让你感受最深的是什么?可以给我们举一两个例子吗?

Liang:作为各种机器学习和自然语言处理大会的常客,我这还是第一次参加IJCAI大会。我感触最深的就是世界太大了。在IJCAI大会上,对同一个AI主题感兴趣的人有很多,而我是第一次遇到这种情况。像博弈论、逻辑编程这些主题,在IJCAI大会上得到的讨论要比在许多机器学习大会上更加全面。我一直相信,多接触其他主题有助于扩大自己的世界观,还能为自己的研究指出新方向。所以,IJCAI 大会在这方面让我很满意。

新智元:你的团队正在进行什么项目?其中最难的部分是什么,为什么?

Liang:我的团队正在开展好几个关于学习和语言的不同项目,也遇到了一些困难。最难的当属深度自然语言理解。语言真的是非常强大:仅仅通过使用语言,我就能告诉你怎么去火车站、让你理解某个数学定理,写出一份合同等等。然而,要理解的不仅仅是语言,还要理解这个世界,要理解语言是如何帮助你做出行动和理解世界的。我越是深入研究语言,就越是认识到问题不在于语言而在于世界。所以说这很困难,因为世界是一个混乱又复杂的地方。

第二个难点是关于学习的,但是与学习算法或是模式关联很少,而是与学习环境密切相关。大多数机器学习都是通过定义任务、收集训练数据(输入-输出对)、设计模型、学习这一过程来操作的。然而,人类的学习方式则完全不同。所有事情都是交互的、直接的(online),在现实世界中做出行动和观察学习是交错进行的,而最重要的是——我们人能随时间的推移结构化地成长。我们学会爬行、走路、说话、阅读、解决问题、与人互动、管理公司、写诗。这些都发生在一个连续的过程,而不是基于一组“任务”。而我们要怎样才能开发出能以这种方式学习的智能体呢?

语言不仅是AI应用,也是智能的要素

新智元:《纽约时报》曾发表一篇文章说,机器人只要保持沉默就能通过图灵测试。你怎么看待图灵测试?你认为图灵测试到底是什么?

Liang:图灵测试是一个哲学思想实验,用来判断一个人能否确定机器是否会思考。我认为,用图灵测试的通过率来直接衡量人工智能研究的进展是错误的,这完全是两码事。

话虽如此,我认为,从图灵测试中我们能学到三件事。第一,图灵测试测的,是一个系统的行为,而不是它的内在机制。我认为这种客观性在研究中是有益的,我们不应该在意识形态的基础上争论方法论。第二,图灵测试是交互的。我认为与人类的互动对于人工智能而言是最重要的。但是,现在的大多数系统,尤其是基于机器学习的系统,都是非交互的。第三,图灵测试的对象是人工智能,但是使用的是自然语言。我认为,自然语言不仅仅是人工智能的一个应用,它对智能来说也非常重要。这就是我热衷研究语言的一个主要原因。

新智元:你在研究过程中遇到过的最大灵感或突破是什么(what is your biggest eureka moment in research)?

Liang:我的回答可能不算是答案,但是事情就是如此。你不可能某一天坐在苹果树下或是浴缸里,然后灵感就一闪而过,所有事情就想清楚了。做研究是一个渐进的过程。你要尝试很多事情,每一件事都回给你多一点的见解。当你终于证明一个定理或者证明某个实验可行,你感到非常激动,但是要把这个功劳归于产生灵感那一刻是不公平的。因为你是在成功之前,经历了很长的一个过程,你付出了很多努力,尝试了各种事情。

新智元:你为什么会选择研究NLP?

Liang:我一直对语言非常感兴趣。我记得在我上高中的时候,我曾努力想理解自己是如何理解语言的。当然,这非常难,因为语言理解是一个自然的过程,大部分都是下意识完成的。但这也许是一个早期迹象,表示我真的想去通过某种方法理解语言理解这个神秘而美丽的过程,尽管当时我对此知之甚少。

当我在MIT读本科时,我一开始研究的是算法(因为我当时参加了算法编程竞赛,自然就选择了这个方向)。之后,我了解了机器学习,这就促使我在 Michael Collins 指导下攻读自然语言处理硕士学位。就是那时,我看到了统计技术的力量,于是我立即全身心投入到NLP的研究中去。

新智元:IJCAI Research Excellence Award 旨在奖励那些贯穿其职业生涯,坚持从事高品质研究项目,并得出众多实质性科研成果的科学家,该奖项获得者都是人工智能领域的顶尖科学家。今年 IJCAI Research Excellence Award 得主 Micheal I. Jordan,他与 Dan Klein 都曾是你的博士生导师。他们两位都是人工智能领域的优秀研究员。你在与 Jordan 教授一起工作时,印象最深刻的是什么?与 Klein 教授呢?

Liang:能有这两位导师,我真的很幸运。我不仅从他们各自的身上学到了很多,而且,我从他们那里学到的东西是互补的,而且不仅仅是在研究领域(机器学习和NLP)。

Mike 的知识领域非常广。他热衷于学习多个学科——生物学、计算机科学、统计学等。而且,他学完材料后就能教授新的课程。他还有一种神奇的能力,能极其清楚地认识这个世界,从纷繁复杂的数学知识点钟,提炼出观点的精华。

Dan 对于经验性问题有着非常好的直觉。他教会我如何理解数据。他对于建立模型和发展技巧有非常高端、独到的审美。我还从 Dan 身上学到了很多关于写作、展示、教学和提建议的技能,这些都给我带来了极大的帮助。

个人更愿意留在学术界做长期基础研究

新智元:人工智能人才从学界流向业界已经成为一种趋势。你对此有什么看法?假如谷歌要给你一份理想的工作,你会接受还是拒绝?为什么?

Liang:毫无疑问,现在的产业界比学术界更吸引人工智能研究。但是,从长远看,我肯定是要留在斯坦福大学。首先,要解释一下产业[研究]是什么。大部分的产业[研究]都是短期的,最终是要帮助公司[盈利]。虽然大多数的研究实验室(像百度、亚马逊和谷歌的一部分)眼光比较长,但是其根本关注点仍然是发展对一部分产品有用的技术。产业研究在攻克难题,对社会也有很大的影响。

而我个人一直对长期问题更感兴趣,喜欢思考要开发有效、可靠的系统,我们必须克服的最大困难是什么。学界能给你自由,让你专注于研究长期的根本性问题。我也很喜欢和学生一起工作,他们总是充满活力、有新的想法、热衷学习。我认为,这是培育新想法最好的环境。当然,还有少数地方(比如谷歌 DeepMind、Facebook AI Research、Open AI)也注重长期研究,和学术界环境很像,但是,不清楚这些地方到底能存在多久。

新智元:你在ICML'16组织了一个研讨会“Reliable ML in the Wild”,邀请机器人技术、自动驾驶系统控制等其他领域的研究人员共同探讨如何开发可靠的机器学习技术。我们能从这种跨学科的方式中获得哪些推进机器学习的概念或者方法呢?

Liang:首先,我要解释一下这个研讨会的背景。机器学习在不断发展。当我还在读研究生的时候,机器学习的领域还不算大,人们做一些有趣的研究,都只是实验阶段——当时也有一些重大的应用,但是受的约束比较多,处于“in vivo”状态。而现在呢,情况完全不同。在极短的时间内,机器学习就被到处应用,而且,这一趋势将继续下去。

我和我的学生 Jacob Steinhardt 都意识到,还有许多重要的问题需要解决:当测试条件与训练的时候大不相同时会发生什么?系统能否 fail gracefully(编注:指程序检测到致命错误时,留下记录并自动退出)或者学会适应?我们应当如何应对机器学习反对者?这些问题,我们现在还没有好的答案。这个研讨会的目的是,把研究与可靠的机器学习相关主题(比如领域适应、安全强化学习、因果关系)的研究人员聚到一起,尝试建立起联系、形成一个团体。

新智元:你认为 NLP 和 ML 在3 到 5年后会是什么样?为什么?

Liang:这是令人激动的时期。几年后,我们将会看到越来越多的应用。一方面,这对学术研究而言是成功的,但是另一方面,事情还没有结束。我们的研究仍有许多棘手的问题有待解决。我们不仅要开发更强大的性能,而且要采用可靠的方式。随着 ML和 NLP 进一步投入使用,诸如安全、保障、隐私、透明和解释等问题将变得越来越重要。 

新智元:你是 IJCAI'16 Computers and Thought Award 得主,能跟我们的读者分享一下获奖感受吗?


Liang:当然。获奖让我十分激动,但看着这个奖以前的获奖者名单,里面不乏当前人工智能领域的代表,有时候也让我压力很大。但同时这也是一种很好的激励——接下来在我职业生涯中,还有很长的时间供我努力去推动并塑造领域的发展。

文章转自新智元公众号,原文链接

时间: 2024-09-30 22:29:07

专访 Jordan 高徒 Percy Liang:如何开发连续学习的智能体的相关文章

【STM32 .Net MF开发板学习-18】GPRS遥控智能小车

有了Wifi间接控制智能小车的经验,很自然的想到,也可以通过GPRS远程遥控智能小车,因为从通信原理上看,二者其实没有什么本质的不同,都是基于Socket的TCP通信,其控制环节如下: 手机 ===> GPRS(TCP/IP) ===> PC ===> Zigbee(串口232/TTL) ===> 智能小车 与Wifi通信不同,要使手机连接GPRS,还得需要进行一定的编程才能完成,相关内容,我这里也不用介绍了,我以前写的博文<让智能手机和居家电脑互联互通(WM6 GPRS)&

【STM32 .Net MF开发板学习-16】Zigbee遥控智能小车

Zigbee技术目前在物联网领域和RFID一样,受关注度非常高.日前中科院上海微系统与信息技术研究所.无锡物联网产业研究院等传感器网络标准工作组成员单位联合发布了名为VW628.WSNS1_SCBR的两款中国自主知识产权的无线传感网SoC芯片,其中WSNS1_SCBR为中国首款符合IEEE802.15.4g标准的验证型全集成传感网节点SoC芯片. 其实封装好的Zigbee模块,使用起来和操作串口一样,特别是我们把其通信模式设置为透明传输模式,这时候我们已经感觉不到是在用Zigbee模块,而觉得是

【STM32 .Net MF开发板学习-15】红外遥控智能小车

我前段时间写了<用PWM驱动智能小车>和<红外遥控器编码识别>两篇博文,分别介绍了如何用PWM驱动直流电机及红外遥控器编码识别,这一次我们把二者结合起来,用红外遥控器遥控智能小车. 在<红外遥控器编码识别>中,我们用面包板搭建简单的电路,来验证红外接收信号,但是放在小车上是不行的,相关器件我们需要进行焊接,最终完成图如下. 开发板学习-15]红外遥控智能小车-">我们把智能小车和红外板拼装在一起,最终完成图如下:

【STM32 .Net MF开发板学习-11】步进电机控制(非PWM模式)

选用的步进电机的型号为28BYJ-48(或MP28GA,5V,转速比1/64),驱动电路选用uln2003芯片的驱动板,其控制时序图如下: 开发板学习-11]步进电机控制(非PWM模式)-">四相八拍:A->AB->B ->BC ->C ->CD ->D ->DA 其A.B.C.D指的是uln2003芯片驱动板的1N1.1N2.1N3.1N4,波形在上表示有输入信号,波形在下表示无输入信号. 我们采用红牛开发板进行步进电机控制,为了便于接线,我们需

安卓软件开发需要学习那些编程语言

 开发需要学习那些编程语言-"> 一.编程语言的学习 安卓应用软件开发中有很多的编程语言可以使用,所以应该重点学习以下几种编程语言. ① C/C++语言. C语言是一种结构化语言.它层次清晰,便于按模块化方法安排程序,易于调试和保护.它的功用丰盛.表达力强.运用活络便当.运用面广.政策程序高.可植入性好,既有高级语言的特征,又有低级语言的许多特征,适宜作为系统描绘语言,既能够用来编写系统软件,也能够用来编写运用软件. ② Java语言.以Java语言是安卓应用软件开发的基础语言,首先把握面

iOS开发:学习笔记—变量、属性、方法、实现

  1.代码说明: Person.h 开发:学习笔记-变量.属性.方法.实现-"> Person.h #import @interface Person : NSObject { int age,sex;//变量的定义 int height,width; } @property int age,sex;//属性的定义 @property char height; //-(void) setAge; -(int) setAge1 :(int)a; -(int) setWH :(int)w :

游戏开发-想学习窗体程序的编写,从启动图(图1),到界面(图2),需要学习哪些知识?

问题描述 想学习窗体程序的编写,从启动图(图1),到界面(图2),需要学习哪些知识? 试着编写一个从启动图(图1),到界面(图2)的程序,学习过c++编写程序开发-想学习窗体程序的编写,从启动图(图1),到界面(图2),需要学习哪些知识?-"> 解决方案 window窗体界面 现在流行的是MFC, C# ,Qt(delphi 和VB现在用的人少了),想学游戏开发,大概有2个方向吧,一个是平面二维游戏,一个是3D游戏 Unity引擎基础必须要学习,openGL 等图像处理技术, 解决方案二:

android-Android开发入门学习中遇到的问题

问题描述 Android开发入门学习中遇到的问题 Android初学者,使用的书籍是<第一行代码Android>在书中2.2.5在活动中使用Toast这个部分出现了问题代码编写并未报错,虚拟机中按menu键没有出现菜单栏,请问这是什么原因该如何解决.拜托各位了. 问题没有解决,在虚拟机中点击Menu依旧没有出现菜单栏,请问还有哪些问题?拜托了 解决方案 在学习Android开发的过程中遇到了不少的问题,所幸的是最终经过上网查询都得到了解决.现在将我在学习Android开发过程中遇到的一些问题及

android开发-Android开发入门学习遇到的问题

问题描述 Android开发入门学习遇到的问题 Android开发入门学习,使用的是<第一行代码Android>郭霖著其中在2.2.6在活动中使用Menu中遇到问题,书中说打开FirstActivity,重写onCreateOptionsMenu()方法,完成书中代码之后出现截图中呈现的问题,想麻烦各位帮忙解答.拜托各位了 解决方案 用冒号,case R.id.remove_item : case 后面是冒号 解决方案二: 导包呀!不是提示啦!看看你吧 解决方案三: menuitem那里 im