2.32 直觉概念理解(Intuitive Concept Understanding)
在过去的几年里,深度学习产生了一种更为通用的多模式概念方法:亚符号知识(Subsymbolicknowledge )和推理(reasoning)可以隐式地被系统理解,而不需要明确的编程甚至明确的表示。今年,对于我们人类可以涉及到的概念的亚符号理解的研究已经取得了相当好的进展。这一进展有助于研究古老符号的来源——这些符号或文字的意思如何形成。这种日益流行用来解决这一问题的方式使用了联合嵌入方法(joint embeddings )——深度分布式表示,同一概念上的不同形式或看法,非常紧凑地放置在一个高维度的向量空间中。
去年,这项技术被运用到了例如自动撰写图片标题这些功能上;而今年,来自斯坦福大学和特拉维夫大学的团队将这一基本思想沿用到了联合嵌入图像和三维形状上,以桥接计算机视觉和图形。Rajendran 等人则使用联合嵌入,以不同方式和不同语言,一次性支持多种有意义相关映射的聚集。随着这些嵌入变得更加复杂和详细,它们就可以成为更多复杂人工智能广为使用的技术。Ramanathan 等人已经利用它们创建了一个系统,可以从一组相片和字典的不同行为类型中学习有意义的关系模式。
随着单一系统做的事情越来越多,以及将深度学习作为基础,数据特征和所学概念之间的界限将会消失。这种深度特征实现的另一个例子是,来自康奈尔和 WUStL 的团队,使用一种降维的深度网络权重形成卷积特征表面,可以简单地在该表面滑动,从而自动地、真实地对照片的某一方面做有意义的改动,例如,改变人物的面部表情或者年龄或者为照片着色。
深度学习技术的一个障碍是,它们需要大量的训练数据来产生良好的结果。相反,人类往往能够从单个例子学习。Salakhutdinov、Tenenbaum和 Lake 已经克服了这个困难,他们使用了一项技术叫做从单实例中使用贝叶斯程序归纳法进行人类层次的概念学习(human-level concept learningthrough Bayesian program induction from asingle example)。该系统能够绘制符号的变化形式,而且与人类绘制出来的难以区分。