实习博士访谈:我终于拥有了在大学实验室梦寐以求的算力

正在谷歌实习的慕尼黑工业大学博士在读生 Philip Haeusser 的研究领域是计算机视觉。在这篇访谈中,他谈到了自己在谷歌的实习项目、经历、收获以及如何处理实习和自己博士研究课题的关系。

给我们介绍一下你自己,还有你的博士研究课题吧。

我是 Philip,慕尼黑工业大学博士研究生三年级在读,师从 Daniel Cremers。我的研究领域为计算机视觉,即教计算机理解图像及视频的学科。对于计算机而言,图像及视频只不过是巨大数量的无意义数字的组合。如果把它们以色彩表现出来,人类则很容易分辨图片中的内容。


Philip Haeusser

为了教会计算机做同样的事情,我训练神经网络,即一组可以被理解为是“迷你视觉皮层”的模型。目的是为了将组成图像的数字赋予某种意义,如“猫”这样的标签。神经网络在这方面表现惊人。我研究的问题包括光流(从视频的一帧是如何切换到下一帧的)以及域适配(如何使用将一种域的标签,如手写体的图像,运用到另一种域,如谷歌街景里的门牌号)等。

研究以外的时间,我会在我自己的 YouTube 频道“Phil’s Physics”上演示一些实验和分享一些科学知识。

你是如何进入这个领域的呢?

我于2014年在加州大学圣克鲁兹分校获得物理专业硕士学位。当时我在一个跨学科研究小组里参与盲人视网膜移植的项目。我们所做的实验之一需要处理大量的数据,这些数据都非常昂贵,但还无法全部被我们所使用,因为我们的数据处理程序不够复杂。我就是在那时起开始涉猎机器学习和神经网络。我立即被深深吸引并开始联系相关领域的教授。我非常荣幸向 Daniel Cremers 展示了我的工作,并在之后开始读他的博士。

你为什么要来谷歌实习,你的导师是否支持?

深度学习领域发展速度迅猛。几乎每周都有一篇有关神经网络或训练技巧的突破性的新论文发表,而论文作者多来自谷歌,这就使得我对于谷歌在这一领域所做的工作充满了兴趣。在一次夏校的课程里我遇到了 Oliver Bousquet,他对谷歌大脑团队的描述令人惊叹。他也提到了谷歌的实习项目,我立即就申请了。我的导师对此非常支持,能够获取不同的见解,认识更多的人,进行更多的交流总是好的,尤其是在深度学习这样一个全新的领域。此外,在许多大学里计算力无法达到的实验在谷歌都可以获得相关资源并得以完成。

你的实习项目是什么?

我有幸与 DeepDream 创始人之一 Alexander Mordvintsev一起工作。所做的项目涉及用未标记数据和半监督学习训练神经网络的新方法。

我们开发了一种我们称之为“关联学习”的新方法。这有点儿类似“关联游戏”,你听到一个词并马上说出你想到的第一个与之有关联的词。几次“迭代”之后得到的“关联链条”通常出人意料。

我们做的事情非常类似:我们训练一个神经网络来产生允许关联的表征(神经激活模式),关联指标记数据及未标记数据之间的关联。想象从标记数据组中的一个样本到未标记数据组中的另一个样本之间建立一条关联链条;之后,从未标记组到标记组中再建立一条关联,这就形成了一个关联循环。我们就可以将最后得到的样本标签与循环开始时的样本标签做对比。我们的目标在于建立连续一致的关联循环,意指标签是一致的。我们将其表达为成本函数,并证明了该技术对于使用少量标签数据来练分类网络非常有效。

你在谷歌实习期间有发表论文吗?

有的,我完成了一篇论文并提交了 CVPR,在2017年 CVPR 大会上还发表了这篇论文。谷歌资助了我参会的费用。所以在谷歌的实习不仅大幅增长了我在产业里的阅历,还帮助我产出了一篇我自己引以为傲的论文。

你的实习经历与你的博士研究课题相关性如何?

实习之初我们探寻了很多课题,后来从事的这一个与我的博士研究课题非常契合。事实上,我认为即便是参与一个与博士课题并非直接相关的实习项目也会受益良多,例如在编程及项目管理等方面得到的能力训练。

你自己写代码吗?

多亏代码复查,我得以提高了编码水平以及对代码风格及可拓展性有更多考量。谷歌也支持我将自己的代码开源,这也是研究领域惯常的做法。我因此得以继续我的工作,以及同时与全球的研究者分享代码。我还完成了一篇后续论文,关于“关联域适应”,这篇论文也刚被 ICCV 所接受。

这是你第二次在谷歌实习。为什么又回到谷歌苏黎世办公室?

谷歌有太多吸引人的研究项目了,一次实习完全不够,哈哈!说正经的,Sylvain Gelly 的小组邀我参与一个非常有趣的项目。我在去年见过他本人及他的团队,他们都是非常牛的人,我一定不会错过与他们共事的机会。

你在谷歌实习期间获取的最重要的技能是什么?

我认为我的编码能力提高了很多。在谷歌,你有机会向很多超一流的程序员学习,他们的编码质量高,速度快,他们还会帮你提高。与此同时,我还得以与很多不同背景的不同研究小组的成员交流。我遇到的一个产品经理在如何设计成功的产品方面给我很大启发。我还与他们一起参与了 YouTube 新特性的工作。我还在谷歌的健身中心里与 Tough Mudder 的成员一起锻炼了耐力。

实习经历对你的博士研究有何影响?

回顾过去的实习经历,这是我读博经历中重要的里程碑。我当初申请实习也并不是想获得学业的巨大转折或者怎样,不过我返回学校时确实已经收获了非常多的想法和灵感。

回顾过去的经历:博士在读生为什么要申请谷歌的实习?有任何建言吗?

攻读博士期间,有时你会感到困在原地,想要接触不同的东西;有时你想做的实验需要 1000 个GPU;有时你觉得自己已经无所不知,想要挑战自己;有时你想象自己读完博士后的生活,非常想体会狂写代码和对别人产生巨大影响是种什么感觉。理由太多了。谷歌是个允许自我尝试的地方,也许等你回家时,你已经完成了一篇很棒的论文,结交了一群好友,带着一大堆新点子,甚至获得了宝贵的工作机会。

时间: 2024-09-20 15:21:58

实习博士访谈:我终于拥有了在大学实验室梦寐以求的算力的相关文章

南方周末:富豪为何爱戴“博士”帽

台州"缝纫机大王"邱继宝被授予"美国内申大学"(又称美国国家大学)荣誉博士学位.图为他与据说是美国内申大学校长的外国人合影. ("美国内申大学中华文化艺术学院"网站/图)在获得博士头衔的中国富豪中,真博士是凤毛麟角? (CFP/图)十大"博士"富豪 作者: 南方周末记者 张华 实习生 杨鹏 发自广州 "在十多年前英国人胡润的第一届"中国内地50富豪榜"上,只有张朝阳一个博士.十年后的今天,富豪榜上

Qualcomm任命James H. Thompson博士为首席技术官

近日,Qualcomm Incorporated宣布,任命Qualcomm Technologies, Inc.工程执行副总裁James H. Thompson兼任公司首席技术官(CTO).Qualcomm Technologies, Inc.执行副总裁兼首席技术官 Matt Grob将转任 Qualcomm Technologies, Inc.技术执行副总裁,并继续向公司首席执行官史蒂夫·莫伦科夫汇报. 除领导QCT工程部门之外,Thompson作为首席技术官,还将负责协调公司在各个业务领域的

拥有丰富的互联网产品管理和市场营销经验

腾讯公司今日对外披露,原易传媒首席运营官郑靖伟正式加盟腾讯,出任网络媒体事业群广告平台部总经理,负责网络媒体广告平台的相关业务,向腾讯公司网络媒体事业群总裁.集团高级执行副总裁刘胜义汇报.官方表示,郑靖伟加入腾讯后,将继续坚持将数字媒体变革和广告主营销价值做最直接的关联,以腾讯智慧营销方法论为基础,基于门户.视频.以及社交的整合性在线营销平台,不断挖掘关系链和数据整合的价值,为广告主提供更加精准.更优化的营销解决方案.资料显示,2008年2月,郑靖伟加盟易传媒担任该公司首席运营官,负责这家国内知

专访 IJCAI 17 杰出青年科学家夏立荣博士:以人为本,是群体决策的必由之路

本文讲的是专访 IJCAI 17 杰出青年科学家夏立荣博士:以人为本,是群体决策的必由之路, 在 IJCAI 2017的 Early Career Spotlight 环节上,共有15位来自全球各地的杰出青年科学家来到现场分享他们的学术成果,其中有四位华人学者,他们分别是: 新加坡南洋理工大学计算机科学与工程学院南洋助理教授安波: 清华大学交叉信息研究院青年千人助理教授唐平中: 美国伦斯勒理工大学计算机学院助理教授夏立荣: 美国亚利桑那州立大学计算信息和决策系统工程学院助理教授何京芮. 雷锋网A

恢复高考40年:还记得你年少时的梦吗?

现在的你回忆当年的高考,还能记起来多少?是考卷上那一道不该错的送分题,还是考试前一天班主任的那句"你再看看题目,我再看看你们"? 今年是恢复高考四十周年,我们邀请到了8位往届考生忆当年.他们通过高考,有的"意外"结缘航空航天,成为国产大飞机总设计师,有的考上最爱的新闻系成为记者. 不论是哪一种改变,都是人生轨迹中不可磨灭的印记.他们的人生,更是这40年来社会变迁的缩影. 1977年 恢复高考让我意外结缘南航 吴光辉,1960年2月生,湖北武汉人,博士,研究员.197

360度解读李彦宏:后搜索时代的百度新拼图

中介交易 SEO诊断 淘宝客 云主机 技术大厅 近来百度受关注点颇多,酝酿推出C2C,聘用日本站总裁,以及调整财经频道.搜索已经进入一个相对成熟的阶段,李彦宏正在涉及新的兴奋点. 这种布局不是孤立的,是之前竞争格局的延伸.2000年之后,百度在搜索中寻觅到机会,随后在纷乱中脱颖而出--很难说是百度希望拥有更多的,还是竞争把它往这些方向推. 留学 李彦宏(Robin Li),1968年11月生于山西阳泉市,父母是工人. 他有三个姐姐和一个妹妹.有时候,姐姐们会在院子里支起一块小黑板,李彦宏则在前面

南方人物周刊:学历造假是一种社会病

本刊编辑部 面对"学历作假"的质疑,"打工皇帝"唐骏在沉默一周后接受<名汇FAMOUS>的记者采访时说道:"你可以蒙一个人,那如果把全世界都蒙了,就是你的真诚蒙到了别人.你欺骗一个人没问题,如果所有人都被你欺骗到了,就是一种能力,就是成功的标志." 现在看来,他的这种成功似乎快走到了尽头.但正如癌细胞扩散般,它还会以不同的版本在我们的社会里上演,唐骏的逻辑只不过是我们社会的一个注脚. 据教育部统计,从1978年到2006年的29年中,

我从学习计算机到现在(2013年初补充版)

毕业快4年了,这个文章该改改了,我从学习计算机开始(2004)到现在应该还不到8年时间,也许对于很多人来说这个时间较短的了,但是这几年以来对于我来说算是对于人生的改变,从一个地方的小农村没见过电脑考入一个"很戳"的师范大学内部新办的一个软件学院,但是对于当时的我来说只要有大学读就不错了,我也没考虑太多,就决定去念了,当时对于电脑的概念是盲目的,没有任何概念,几乎可以说是一无所知,我还记得和同学一起参加入学考试的时候因为在电脑上面考试,我问他们怎么用电脑,同学叫我用鼠标对着正确答案点,我

深度 | 黑客 Only_Guest 讲述:如何优雅地手刃骗子?

    他是誓与 AV 争宅男的 PKAV 团队掌门人: 他是每次演讲前必喝两口"黑客啤酒"的黑客: 他曾经黑掉美食城充值卡,免费享用"大餐": 他曾经定位全成都的出租车轨迹: 他就是 Only_guest,张瑞冬. 这位可以轻松搞到马云马化腾周鸿祎的住址和电话的黑客,有着一颗拯救世界的心.最近,他正带领他的双螺旋实验室开展一场正义的战争--反电信诈骗. 本期硬创公开课,我们邀请到了Only_guest,他将为我们讲述这两年来反电信诈骗的研究中,发现的诸多惊天秘密.