硕士学位还是初创公司:哪一个是建立深度学习职业的切入点?

今天我遇到了两个大学时期的朋友,他们目前都在印度最成功的科技公司里担任软件工程师,而且已经自学深度学习一段时间了。

因为着迷于深度学习的发展潜力和市场热度,他们想要寻找到一个进入深度学习领域的专职机会,今天我们就和大家探讨一下,到底什么才是深度学习正确的切入点?

选择在初创公司的工作,还是去攻读一个硕士学位?

几乎每隔一天就有数不清的人来问我这个问题。遗憾的是,在今天之前,我也一直无法给出一个有条理的答案。下文中给出的答案是与我两个天才好友尽可能多地广泛讨论出来的结果。我也很自豪能够得到这样一个相对全面的答案。同时我也想邀请所有读者朋友们,在下面的评论部分表达你的见解,让我们来一起细化这个答案。

在今天的场景下,深度学习领域有两大流派。 这在其他科学研究领域也几乎是一样的。

流派1:在垂直应用中实现最先进的理论。

流派2:推动理论进步。

这两个流派都是同样有价值有意义的,但他们要求两套不同的技能和本领。我们称他们为S1和S2(免责声明:S¹∩S²≠∅)。

接下来,我们对S1和S2进行非穷尽的全面列举。

我们从S1开始。也就是在垂直应用中实现最先进理论的流派。其目标是用最先进的深度学习算法去解决问题。

举个例子,现在的问题是要建立一个对话式的人工智能代理来帮助数百万患有抑郁症和相关心理问题的人。

你通过一个快速的文献调查和专家咨询,找到了发表在最新的NIPS上的一个可以开发这样人工智能的顶尖技术论文,拿着这篇论文,你回想你开发系统的最初构想,比照你的问题陈述来分析这篇论文。

你需提出以下几个问题:

  1. 这篇论文对于你要解决的问题有多大的帮助?
  2. 你的系统部署规模是多少?本文提出的解决方案是否足够可扩展?
  3. 系统的最大允许延迟是多少? 如果你正在处理个人的隐私数据,建议不要将任何数据发送到云端且要在本地设备中做算法的学习和预测。论文中的解决方案是否适合处理这种情况?如果不适合,你能调整以使其适配吗?

类似这样,会得到与应用程序开发和部署相关的N个问题列出。你的工作是专注于实施,优化和调整NIPS算法以最终实现应用程序。

为此,你需要以下的技能(非穷尽),我们统称为S1

  1. 高超的编程能力,最好是软件工程的背景。
  2. 对核心算法进行优化的热情。
  3. 了解不同的硬件平台-如CPU(x86 vs ARM),GPU,FPGA,VPU / ASIC等,以及如何为每个硬件平台编写最优代码。此外,还可以判断给定平台是否适配你的应用程序。
  4. 高性能计算和大数据处理知识。
  5. 全栈的软件开发经验。

如果你具有S1的技能,那么你就属于类型1。可以称之为“深度学习工程师”。如果你属于类型1,你应该考虑在初创公司找一份工作,因为在那里你将有机会用最好的深度学习解决方案和你所具备的超级明星级的工程技能来解决迫切亟待解决的问题。

但和一个初创公司签合同之前,请检查以下内容:

  1. 与负责深度学习的部门主管交谈。如果他认为给予足够的具有标签的数据和计算能力,深度学习可以解决世界上任何问题,那么最好不要为那家公司工作;)
  2. 检查公司是否有足够的培训数据和(或)可以提供具有标签培训数据的机构有紧密合作。如果不是,拒绝。
  3. 公司是否与领域专家有已存的合作关系?(在反抑郁症AI的例子中,公司是否邀请了经验丰富的心理学家来做定期咨询?)如果没有,该公司是没用的。
  4. 公司是否与学术界的人工智能专家有合作关系,或者至少期望合作? 如果不是的话,那么在开发的过程中,你很有可能陷入困境或迷失方向,而且没有人能帮助你或纠正你的错误。

现在让我们来谈谈S2

也就是推动理论进步的一系列技能。你从NIPS 2017中挑选最吸引你的论文,决定超越它,达到更高的标准,并在NIPS 2018(或者也许2028,哈哈)中发布。当然时间是越远越好。考虑到这个一年(或者十年)计划,你可以规划好具体的研究步骤。

你需要以下的技能和本领:

  1. 享受学习数学的乐趣
  2. 能够在短时间内阅读和总结大量的文献资料。对手头的问题有全面的了解,并且能够找到阅读过的论文中提出的对该问题的解决方案的确切位置。
  3. 熟练使用自己喜欢的深度学习库(例如TensorFlow,PyTorch,Caffe等)将算法用代码实现。
  4. 出色的口头表达和协作能力。你需要能够简洁地向专家和合作者提出你的想法,并与他们进行有效的讨论。
  5. 优秀的写作技巧。即使是最好的想法也会因为报告展示的不够优秀而被拒绝。你应该能够写出非常好的英语。
  6. 毅力。准备好应对一系列拒绝,心碎,严重错误,执行失败和一些假性的研究工作。

如果你具备这些特征,你可能属于类型2。这种类型称为“深度学习科学家”。你应该去获得一个硕士学位(或博士学位)。在毕业前,你将被评估依据你在NIPS、ICLR以及ICML等会议论文发表的情况。所以选择适合你的研究实验室。

这里有一些你需要注意的事项:

  • 谨慎地选择你的研究领域。记住,你的目标是完成硕士/博士学位,并在3-5年内完全适应市场。因此,确保你选择的主题在3-5年后仍然很火。而不是一些目前很流行的东西,因为这些很可能在你完成学业时失去热度。
  • 谨慎选择你的导师——他/她是否鼓励前沿科技研究,与外界开展学术和产业的合作,提供实习机会并能和团队中其他研究人员开展自由互动?如果不是,则寻找其他导师。
  • 你是否拥有必要的硬件设备,如GPUs、Xeon Phi/Xeon-scalable处理器、TPU(谷歌云)等。
  • 你是否有一个好的工作环境?记住,你每天将在实验室里度过20小时。
  • 你的团队是否有雄心?是否有追求在顶级会议和期刊定期发表论文的文化?你的团队是否在解决问题后有完善的记录?

是出国,还是留在自己的国家

在我看来,目前一个成功的研究者在海外的确能有很大的发展空间。但国内几所大学都拥有用于深度学习的最先进的硬件基础设施(其中大部分正在建设中,但都会在1-2年内完成)。这些研究机构拥有一些非常有才华的教授和刚起步但很有前途的深度学习研究小组。

但是,如果你倾向于出国,确保你前往的是一所顶级机构。在一所二等大学/研究所开展AI工作并不值得花费那么多开销,而留在国内,在你就读的大学工作显然是一个更好的选择。所以,如果你即将前往美国,尽可能靠近硅谷,那也不用问我了… :)

以上就是我们总结的结果!请确保你用上述特征恰当地描述了自己,并且要好好想想你是属于第一类还是第二类。然后选择就简单明了了。

  • 如果你属于类型一,选择一个初创公司的工作
  • 如果你属于类型二,去获得硕士/博士学位吧!

我上问说到的这种分析可能肤浅,所以我需要更多细节和进一步深度的思考。之后我收到了一些讨论,又有了一些补充想法来完善本文,如下。

补充声明:

Edit #1 on 06 Nov 2017

许多人(尤其是Arijit Patra)指出目前大量非计算机科学期刊/会议里的出版物都包含了使用深度学习的方法来解决各自领域的相关问题。尽管这些项目根据上文提出的分类属于流派1,但S1中列举的技都无关紧要。而S2中列举的技能变得更加重要。这也是我为什么强调S¹ ∩ S² ≠ ∅且交集中列举的技能都非穷尽。

人类不太可能同时掌握S1或S2列举的所有特点或技能。Arijit Patra认为我应该为这种项目给出第三种流派,他们被统称为“应用科学家”。但是我还是希望有所不同并维持我原始的分类。我建议那些对这一行感兴趣的人先去初创公司工作而不仅仅是去获得一个硕士学位。因为参与开发一个真正的产品会给予你重要的人生经验,也有助于找到你在项目中最适合扮演的角色(例如读者、作家、程序员、战略家)。你可能早已注意到发表一篇单个作者的论文在深度学习社区已经不流行了。即使你已经拥有硕士或博士学位,你也需要和一个团队共同工作。在深度学习项目的建立中,找到使你更具有生产力的角色是非常重要的。


原文发布时间为:2017-11-30

本文作者:Anirban Santara

时间: 2024-10-27 01:43:43

硕士学位还是初创公司:哪一个是建立深度学习职业的切入点?的相关文章

英伟达面向开发者群体建立深度学习课程

 深度学习正在"转化计算"方式,英伟达公司在其本届GPU Tech大会上努力传达出这样一条信息.而围绕着这一主题,英伟达公司将自身打造为引领者.催化剂以及深度学习的推动者--当然,从长远角度来看,其自然也将成为主要获利方. 而且有迹象表明,英伟达公司正将其未来押注在人工智能(AI)这一领域当中.其最近发布的"深度学习研究所"项目计划在今年年内吸引到10万名开发人员.另外,英伟达公司已经在2016年年内培训出1万名开发者. 过去几年以来,AI已经逐步涉入"科

【重磅】Bengio 出山建立深度学习孵化器,寄语中国人工智能产业(附新智元独家专访视频)

Bengio 创建深度学习孵化器,试图打造 AI 生态圈 Yoshua Bengio,这位深度学习崛起背后的领军人物,成立了一个专注人工智能的硅谷式创业孵化器. 这个创业孵化器名为 Element AI,将帮助蒙特利尔大学(Bengio 是该大学的教授)和附近的 McGill 大学 AI 研究团队成立公司.Bengio 说,这只是他在蒙特利尔建立"AI生态圈"计划的一部分.Bengio 表示,蒙特利尔对深度学习的学术研究有着"全世界最多的关注",在这里孕育的 AI

干货分享 | 深度学习零基础进阶大法!

pixabay 编者按:新手上路都会有一个疑问,如果自己没有相关基础,如何学习晦涩的专业知识?此前雷锋网编译了<从0到1:我是如何在一年内无师自通机器学习的?>,这篇文章讲述了 Per Harald Borgen 的自学历程.而关于深度学习,GitHub的 songrotek 同样有话要说.原文名为<Deep Learning Papers Reading Roadmap>,雷锋网奕欣及老吕IO整理编译,未经许可不得转载. 0. 深度学习的"圣经" 提到入门级的

预测:深度学习未来的6种可能

文章讲的是预测:深度学习未来的6种可能,即使你是掌握了人工智能和神经网络基础知识的数据科学家,你可能还需要更多的时间来了解卷积,了解通过组合低层特征形成更加抽象的高层表示属性类别或特征的深度学习算法的复杂性.随着深度学习的不断创新,这种技术将面临一种风险,即对于普通开发人员来说,如果不进行深入研究难以掌握这种技术. 深度学习的潜力似乎是无限的,开发人员仍然在想如何高效利用深度学习来创造价值.到这十年结束时,深度学习行业将大大简化其提供的功能,使其对普通开发人员也是易于理解和可用的.深度学习的工具

给深度学习工具新手的一封信

企业需要充分利用已有的大量非结构化数据,而深度学习应用程序无疑是帮助企业完成数据分析等工作的好帮手. 在Twitter公司,Hugo LaRochelle的工作是研究社交网络用户彼此联系的方式,以及想要对内容(包括微博.图片和视频)进行分类和推广,哪些东西会引起他们的兴趣.为了顺利完成这一任务,他和他的同事们使用了一种新兴技术:深度学习工具. LaRochelle分享了在波士顿"深度学习峰会"上发表的演讲.深度学习属于机器学习的范畴,可以解决一些复杂的问题,如用自然语言解释图像或文本.

东北财大撤销抄袭者硕士学位抄袭论文已无法检索

5月27日,东北财经大学学位评定委员会做出决定,撤销2007年第四次校学位评定委员会授予袁新经济学硕士学位的决议,并收回已发放的硕士学位证书. 5月26日下午,笔者就"史上最牛硕士论文抄袭"事件致电东北财经大学,得到的答复是:校方在得知此事后高度重视,已组成由研究生院院长任组长的联合调查组积极展开调查. 如果该"学位论文抄袭"事件经调查属实,校学位委员会将根据国家和学校的相关规定进行严肃处理.当天,东北财经大学副校长马国强赶赴山东,与袁新所在单位进行了沟通.据学生介

商业数据分析专业硕士学位班招生

问题描述 南京大学是直属国家教育部的重点综合性大学,坐落在钟灵毓秀.虎踞龙蟠的六朝古都南京.自1902年创建以来,她先后经历三江师范学堂.两江师范学堂.南京高等师范学校.国立东南大学.第四中山大学.国立中央大学等时期:1949年8月8日,由国立中央大学更名为国立南京大学:1950年10月按教育部规定,去掉"国立"二字,迳名南京大学:1952年全国高校院系调整,南京大学调整出工学.农学.师范等部分院系后与创办于1888年的金陵大学的文学院.理学院等合并,仍名南京大学,并将校址从四牌楼迁至

AI初创公司Bitfusion融资500万美元简化深度学习项目

人工智能工作负载的复杂性可以让这些负载非常难以部署.应用团队必须构建专门的基础设施,有效地支持运行在底层的深度学习神经网络算法,而这正是Bitfusion正在努力解决的问题. 这家初创公司在新一轮融资中获得500万美元,投资方包括Sierra Ventures.Data Collective.Resonant Ventures Partners和Geekcom(一家位于美国德克萨斯州的加速器).Bitfusion宣布该消息的同时,还推出了Bitfusion AI Platform,这是一个革新的

招聘赴日工程师,三年可得硕士学位(成都)

问题描述 面试时间:12月15.16号面试地点:成都高薪赴日工作招募正在报名中1:月薪25万日元(1.5万人民币).根据被招募人员实际编程能力和经验可适度提高.2:提供免费住房(日式公寓,国立大学附近,走路10分钟),补助水电气费.3:工作环境在东京圈内千叶县(去东京坐电车28分钟),国立大学工学部研究室内.4:工作内容由大学教授牵头领导,做软件开发.可以学到日本最新的编程技术和知识.5:签证被招募人员和公司签约3年以上.合同完成后,可以续签合同长期雇用.合同期间职员持工作签证,由会社负责为其申