DeepMind着手指导AI对关系网络进行推理

逻辑思维与更改思考能力无疑是实现智能的关键。而如果能够在机器当中复制这种能力,则将使得AI变得更加聪明。

但这一问题实现难度极大,特别是考虑到目前的深度学习方法还不够先进。深度学习在处理信息方面较为擅长,但却难以解决推理类任务。

这时出现了新的突破方向:关系网络,简称RN。

根据Alphabet公司旗下英国AI事业部DeepMind发布的最新论文,其正在尝试将关系网络引入卷积神经网络与经常性神经网络,从而推动这些在传统上负责实现计算机视觉与自然语言处理的机器获得推理能力。

DeepMind的一位发言人在接受采访时解释称,“并不是说深度学习不适合处理推理任务——更为确切地讲,实际上是不存在正确的深度学习架构或者模块以实现一般性关系推理。举例来说,卷积神经网络在理解本地空间结构方面拥有无与伦比的表现——这也是其被大量应用于图像识别模型中的理由,但其可能在其它推理任务当中遇到障碍。”

关系网络被描述为“即插即用”模块。其架构的设计方式专门用以确保网络能够专注于各对象之间的关系。其在一定程度上类似于图形网络,其中的节点即为各个对象,而连接节点的边界则为不同对象间的关系。

在CLEVR数据集中,这套网络将面对出数个具有不同形状、大小与纹理的对象,同时需要解答一系列用于测试其视觉推理能力的问题:

 

利用多种不同神经网络组件解决单一任务(图片来源:Santoro等)

为了回答以上关系问题,关系网络必须将所有对象的大小与“棕色金属物体”进行比较,且仅考虑圆柱体情况。首先,卷积神经网络会识别场景中的对象,而后利用一套长短期记忆网络将问题交付至关系网络当中。

问题当中嵌入的词汇允许关系网络专注于特定相关对象对,并计算其关系以提供答案。这是一种非常睿智的处理方式,允许利用单一功能解决每种关系。研究人员无需专为查看对象的大小与形状编写具体函数。这意味着关系网络能够更加高效地实现数据处理。

DeepMind在一篇博文当中解释称,“利用行业顶尖标准视觉问题回答架构对CLEVR进行处理,其能够得出68.5%的正确率,相比之下人类的识别准确率为92.5%。不过我们的关系网络增强型方案则带来了超越人类的95.5%的正确率水平。”

DeepMind在论文中同时指出,“我们预计,关系网络将为灵活的关系推理提供更为强大的支持性机制,从而帮助卷积神经网络更加专注于处理本地空间结构。这种在处理与推理层面的差异性非常重要。”

语言推理

关系网络亦在语言推理方面表现出光明的发展前景。由Faebook公司AI研究团队推广的bABI数据集包含20项涉及重复内容、归纳与计数能力评估的问答任务。

首先其会提出一些事实,例如“Sandra拿起足球”以及“Sandra前往办公室”,而后再提出“足球在哪里?”等问题。关系网络通过了20项任务中的18项,这一表现远超以往Facebook与DeepMind所使用的可微分神经计算机记忆网络。

而未能通过的两项bAbI任务确实更加复杂,其要求关系网络分别参考“两项支持事实”与“三项支持事实”。这一结果显示,提升机器智能当中推理原理的工作仍然面对着漫长的前进道路。

必须承认目前研究尚处于早期阶段,而DeepMind希望能够将关系网络应用于多种不同问题,例如社交网络建模以及解决更为抽象的实际问题。

为了使其更加强大,DeepMind团队还希望能够进一步提升其计算效率。目前其测试对象支持数量为100个,但在配合更好的硬件时,其将能够支持更多对象并引入更多并行计算机制。

这项研究受到象征性AI设计思路的启发——在上世纪八十年代之前,学界一直坚持象征性思路,认为知识应能够被明确表示为事实与规则。

DeepMind资深研究科学家兼英国帝国理工学院教授Murray Shartahan认为,象征性AI的研究工作很有可能再度复苏。

Shanahan在接受采访时指出,“我认为机器学习社区长期以来对于这种作法较为忽视,即将符号AI思维引入神经网络架构,但仍有一部分研究人员多年来一直在追寻相关解决方案。近来,这种思路再次获得关注。尽管尚处于起步阶段,但这种构想确实很有希望。”

在实现整体智能这一难题的过程当中,推理无疑是机器必须掌握的其中一大重要组成部分。除此之外,我们还面临着另一些尚未得到解决的难题——包括记忆、注意力与自主判断等等。

原文发布时间为:2017年6月11日 

本文作者:作者:黄雅琦

本文来自合作伙伴至顶网,了解相关信息可以关注至顶网。

时间: 2024-09-16 05:59:04

DeepMind着手指导AI对关系网络进行推理的相关文章

AI 界历史性时刻:美国五大科技巨头联合成立“AI 伙伴关系”组织

美国纽约时间 9 月 28 日,五大科技巨头:Facebook.亚马逊.谷歌.IBM.微软联合成立了一个名为"AI 伙伴关系"(Partnership on AI )的非盈利性组织,旨在研究和形成 AI 领域最好的技术实践,促进公众对 AI 的理解,并作为一个公开的平台来讨论.参与 AI 本身及其影响. 除了这五大公司的常驻代表以外,Partnership on AI 还将邀请学术界人士.其它非营利性机构.政策和伦理专家等一起位列理事会,共同参与讨论.而五大公司更是会在此平台上经常碰头

美国五大科技巨头联合成立“AI 伙伴关系”组织

五大科技巨头:Facebook.亚马逊.谷歌.IBM.微软联合成立了一个名为"AI伙伴关系"(Partnership on AI )的非盈利性组织,旨在研究和形成AI领域最好的技术实践,促进公众对AI 的理解,并作为一个公开的平台来讨论.参与 AI 本身及其影响. 除了这五大公司的常驻代表以外,Partnership on AI 还将邀请学术界人士.其它非营利性机构.政策和伦理专家等一起位列理事会,共同参与讨论.而五大公司更是会在此平台上经常碰头,堪比 AI 界的"五大常任理

Deepmind成立新AI部门,意在处理AI社会和伦理问题

据外媒 The Verge 报道,近日,Google旗下AI研发公司 DeepMind 宣布成立一个AI新部门,主要负责研究AI带来的伦理问题和社会问题,如自动化给未来经济带来的影响等等. 图:DeepMind办公室 据了解,新部门的主要目标是帮助技术人员将伦理应用于实践,帮助社会预测AI的影响,并对其影响给予引导,确保AI造福人类.2016年,DeepMind 开发的AI系统在围棋棋盘上打败世界顶尖选手,因而名声大震. DeepMind 为新部门命名为 DMES(DeepMind Ethics

关系网络从来都是工作中很重要的一方面

关系网络从来都是工作中很重要的一方面,而专门为此服务的智能关系管理RelateIQ正在用大数据的方式帮助用户在这方面的管理.为此它又获得了4000万美元融资,新估值2.45亿美元.其中参与投资的机构包括了KPCB.新闻集团,以及投资过Mint.Rovio.Fitbit.Bump的Felicis Ventures. 那RelateIQ具体是做什么的呢?团队成员可用 RelateIQ 产品管理关系人脉,RelateIQ 可以和 Gmail.Google Calendar.Office 365 关联,

AI将使网络安全系统更加灵活

11月9日消息据外媒(opensources.info)报道,机器学习的进步让人们能够以更方便的方式来训练安全系统以应对不断变化的安全形势. 近段时间,机器学习和人工智能受到越来越多的关注.新技术带来的诸多可能让人们兴奋不已. 一个事物一旦被贴上机器学习的标签,再想撕下来就难了.就像现在几乎所有基于网络发生的事情都能跟"云计算"扯上关系一样,未来"人工智能"这个词可能会跟"电脑"形影不离. "大热之下也有些夸张的成分,"普华永

【预告】田渊栋直播讲解Facebook 围棋 AI 程序 DarkForest 是如何推理的? | AI 研习社

昨天,腾讯围棋 AI 程序"绝艺"(Fine Art)在世界电脑围棋大赛 UEC 上力压多支日韩参赛退伍获得冠军(详见雷锋网(公众号:雷锋网)深度报道"扬名UEC杯,腾讯围棋AI'绝艺'夺冠之路全回顾"),一时间又引发了大家对 AI 和围棋的关注和讨论. 其实,自去年 3 月份 AlphaGo 战胜李世石之后,人们对会下围棋的人工智能程序已经不陌生了.大部分人都知道 AlphaGo 是利用了一种名叫深度学习的技术,然后基于互联网棋谱大数据的支持,每天自己跟自己对弈,

标题党太吓人?这篇文章会告诉你DeepMind关系推理网络的真实面貌

每当DeepMind发表一篇新论文时,媒体都会狂热的跟踪报道,而且会使用很多误导人的短语.比如关于该关系推理网络的报道: DeepMind开发了一种神经网络,能够感知其周围的物体. 实际上这种报导不仅仅是误导性的,而且使得很多不明真相的吃瓜群众感到恐慌:AI真的已经强到如此地步了吗?在这篇文章中,将介绍DeepMind论文:A simple neural network module for relational reasoning,试着通过最简单的方式介绍这个最新的架构. 什么是关系推理(Re

重磅 | DeepMind新神经网络学会关系推理,还击败了人类

雷锋网消息 Google旗下的DeepMind最近开发出了一种用于关系推理的人工神经网络,缩小了人工智能与人类在关系推理方面的差距. 你正考虑入手的房子附近有多少个公园?某家餐厅最好的晚餐和红酒搭配是什么?这些日常问题都需要用到关系推理.关系推理是高级思维的重要组成部分,而AI目前还难以掌握.不过, DeepMind的研究人员已经开发出了一种简单算法来进行关系推理,而且该算法已经在复杂图像的理解测试中击败了人类. 关系推理是一种运用逻辑,联系和比较位置.顺序以及其他实体的思维过程.人类通常十分擅

【马斯克为 AI 怼上扎克伯格】人工智能威胁人类文明,历史争论总结

马斯克谈"AI 威胁"又成新闻头条,这次怼他的是扎克伯格 Facebook CEO 马克·扎克伯格在线上与其他大人物公开互动并不常见.当他这样做的时候,一般都很友善,并且经过编排,比如说当年他请微软创始人比尔·盖茨帮忙做哈佛大学演讲. 但是,他对特斯拉和 SpaceX 的 CEO 伊隆·马斯克就没有那么亲切了.在本周一的一场 Facebook 现场视频问答中,扎克伯格被人问到他对马斯克呼吁世人积极监管人工智能的看法--马斯克在这方面一直很高调,表示要在机器人变得比人更聪明.变危险前开始