想和人脑一样智能? IBM 的芯片级模仿才是关键

 

深度学习软件毫无疑问推动了人工智能的浪潮。现在,许多公司和研究人员都在花大力气在软硬件上对人脑进行模拟。

在硬件方面主要是通过对大型神经网络进行仿真。如 Google 的深度学习系统Google Brain,微软的Adam等。但是这些网络需要大量传统计算机的集群。比方说 Google Brain 就采用了 1000 台各带 16 核处理器的计算机,这种架构尽管展现出了相当的能力,但是能耗依然巨大。

 IBM 则是从芯片着手进行模仿。:它设计了一种叫 TrueNorth 的仿人脑电脑芯片,并把它当做深度学习的硬件平台。目前,公司正在对该芯片的性能进行研究测试。

深度学习之所以能力强大,关键在于其中的一项算法——卷积神经网络( convolutional neural networks )。它包含了大量的节点层( layers of nodes ),也称神经元(neurons)。像这样的神经网络可以通过深度结构过滤大量的信息,进而实现自动识别人脸或理解不同语言的功能。

IBM 不久前的一项研究显示,在能支持多种神经网络的仿人脑硬件上,卷积神经网络算法同样有用。

7 月 9 日, IBM 把自己的一项研究成果刊登在了 Proceedings of the National Academy of Sciences上。该项研究由 U.S. Defense Advanced Research Projects Agency (DARPA) 资助,数额近 100 万美元。这项支持是该机构皮质处理器项目( Cortical Processor program)的一部分,旨在促进能识别复杂情况和适应环境变化的仿人脑人工智能的研究。

Dharmendra Modha 是 IBM 研究中心 Almaden 仿人脑计算项目首席科学家。他表示:

这个研究具有里程碑式的意义,而且证实了一个显而易见的概念:仿人脑计算的运行效率会随着深度学习效率的提升而提升,而这又为新一代芯片和算法提高工作效率和正确率铺平了道路。

2011 年,IBM 第一次对外具体公布 TrueNorth 和其芯片原型,而以卷积神经网络为基础发展起来的深度学习革命却开始于 2012 年。由此可看出,刚开始并不是专门为了应用深度学习而设计 TrueNorth ,反而有了 TrueNorth 才促进了脉冲神经网络去模仿真实生物大脑中的神经元连接构造。

脉冲神经网络中的神经元并不是在每一次迭代传播中都被激活(而在典型的多层感知机网络中却是),而是在它的膜电位达到某一个特定值后才被激活。这有效减少了图形认知或语言处理的运行速度。

但深度学习专家却觉得,同样是用在机器学习上,至少和卷积神经网络相比,脉冲神经网络的效率并不够高。

Yann LeCun 是 Facebook 人工智能研究院理事、深度学习领域的先驱。他曾批评过 IBM 的 TrueNorth 芯片,把它称之为草包族科学。他说,IBM 只是复制了机器的表象,却没有深入理解及其背后的原理。

有反对的声音,但也有支持的声音。 Zachary Chase Lipton 是加州大学(位于圣地亚哥)人工智能团队深度学习研究员。他说,

 TrueNorth 可以促进实现神经形态计算,要知道,深层次模仿和理解生物大脑正是神经形态计算的功劳。

通过对比不同学者们的观点可以发现,深度学习研究人员通常更关心的是如何使实践结果应用到以人工智能为技术支撑的服务和产品上。

还拿那个老套的鸟和飞机的比喻做例子。你可能觉得卷积神经科学研究鸟更多;而脉冲神经科学则更多关注空气动力学,生物学可有可无。

专有计算机硬件对机器学习的好处越来越明显。因此,神经形态芯片并没有让人觉得很兴奋的原因主要是,在深度学习中脉冲神经网络并没有那么流行。

因此,为了使 TrueNorth  芯片能更好的应用机器学习,IBM 必须研究出一种新的算法来帮助卷积神经网络在神经形态计算机硬件上运行的更好。

在研究测试中,TrueNorth 可以给图片数据分类,每秒速度1200-2600帧,能耗25-275毫瓦。处理器还能够识别图片模式,这些图片是50-100个摄像头以每秒24帧的速度拍摄的。

 TrueNorth 刚开始进行深度学习测试就获得这样的结果,给人的印象好像还挺深刻。但是,大家还是谨慎为好, Lipton 说,毕竟视觉数据集在处理32×32 素的图像时,还存在有少量问题。

不过这可影响不到 Modha 。他依旧怀着热切的心情继续着 TrueNorth 深度学习测试。他和他的同事希望芯片测试能在无限制的深度学习环境下进行。这需要他们在训练神经网络时逐步引进硬件限制,而不是从一开始就对其完全限制。

Modha 还指出,TrueNorth 的其中一个优势是它的普适性,其他很多深度学习硬件都只能在卷积神经网络上运行,但 TrueNorth 可以接受多种类型的人工智能网络。

“TrueNorth 不仅可运行卷积神经网络(虽然设计者一开始无意于此),支持多种包括反馈、横向以及前馈的连接模式,还能应用多种其他的算法。”

像这样的类生物芯片只有比其他深度学习硬件应用更出众才能流行起来,Lipton说。同时,他还建议到,    IBM 可以利用它的硬件公司,和 Google 、Intel 一起为设计深度学习专用芯片而奋斗。

“我想,未来肯定会一些神经形态芯片制造商,他们会通过自己的硬件公司来加速芯片的发展以使整个行业更集中于实践性深度学习的应用,而不是纯粹的生物模仿。”

 via:spectrum.ieee.org

延伸阅读:

IBM模仿人脑打造有“思考能力”的芯片

IBM进入下一代大脑芯片研究,可追踪环境变化

大数据之心不死,IBM 推出首个一站式 AI 分析服务

本文作者:夏睿

本文转自雷锋网禁止二次转载,原文链接

时间: 2024-09-22 03:26:47

想和人脑一样智能? IBM 的芯片级模仿才是关键的相关文章

IBM新芯片拥有100万个神经元 可模拟人脑运行

北京时间9月24日消息,IBM一直都有一个梦想,开发一台计算机,它能够像人一样做决定,拥有智力.最近,IBM的研究取得了重大突破,它离目标更近一步. IBM开发了名叫TrueNorth的芯片,能够模拟人脑运行.为了证明它的速度很快,能耗很低,IBM对芯片进行了测试.TrueNorth具有深度学习能力,像人类大脑一样,它也可以进行关联分析,判断各种可能性.虽然其它一些计算机也可以拥有相同的能力,但是它们的能耗高很多. 因为TrueNorth可以自己学习,未来,我们可以将"智力"植入各种计

吊打IBM的芯片 中国研发出第一款类脑芯片

人工智能技术(AI)现在已是火得不要不要的,各种传感器,机器学习,外围设备五花八门,可是,其核心的数据处理硬件架构仍基于经典的冯·诺依曼结构.冯·诺依曼结构已有七八十年历史,这就好比已经直立行走的智人,仍长着一颗猩猩的脑袋. 这就出现了冯·诺依曼瓶颈,也就是说CPU再快,也要等内存,因为CPU和内存之间的性能差距越来越大. 冯·诺依曼结构 冯·诺依曼结构中,计算模块和存储单元是分离的,CPU在执行命令时必须先从存储单元中读取数据.每一项任务,如果有十个步骤,那么CPU会依次进行十次读取,执行,再

美军引进IBM神经芯片 耗能更低视觉计算能力更强大

卫星.飞机.无人机--美国空军在天空部署了很多 "眼睛".现在它又有了新想法:用大脑一样的计算机芯片强化系统,让设备更智能,可以自动识别坦克.防空系统. 美国空军研究实验室从IBM引进了神经形态芯片,它可以从雷达航空图像中识别军事.民用车辆.这块芯片非同寻常,它可以用很高的精准度完成工作,跟普通高性能计算机一样,但是能耗连高性能计算机的二十分之一都不到. 2014年,实验室与IBM签下价值55万美元的合同,它成为第一个付款使用TrueNorth芯片的客户.在芯片中,一百万个元素组成网络

谷歌展示采用 IBM Power芯片的自主开发服务器

IBM近日在扩展超大规模数据中心Power芯片应用方面似乎获得了强有力的推动,因为谷歌开始采用这种Power芯片了.谷歌在周一拉斯维加斯的一次IBM会议中展示了首个采用IBM Power8处理器的自制服务器主板. 谷歌也是OpenPower Foundation项目的创建成员--OpenPower Foundation是IBM为扩展其Power芯片在新型服务器中应用的项目,所以谷歌采用IBM的芯片也不足为奇.不过谷歌先前并未对外宣称正在制造 Power硬件并将软件搭建至该芯片平台之上. 本周一,

你想过没,如果你的银行卡芯片掉了有啥危害?

本文讲的是你想过没,如果你的银行卡芯片掉了有啥危害?, 一个疑问引发的一场试验 最近,ABC 7公司的Jason Knowles问我:"如果你信用卡上的芯片掉了,会对安全性造成什么影响?恶意攻击者可以对此做什么?"当时我的第一反应是,"芯片怎么会从信用卡上掉出来呢?"我立即检查了我所有的银行卡,并快速地得出了一个结论:如果不是恶意为之,这种情况基本不可能发生.毕竟生产商把它密封地很严实,对吧? 但是令我惊讶的是,经过了一番研究后我发现,确实有一些文章和新闻报道过有芯

芯片级存储成云存储智能一体化管理新模式

高性能地提供功能优化被认为是云存储的典型特征,且性能稳定可靠.经济安全.灵活敏捷也是必要条件.而Storage-On-Chip(芯片级存储)具备的多种技术优势,则使其成为与"云"俱进的理想平台. 云计算的核心增值点是能经济.快速地满足不同用户对IT服务的动态需求(SLA).为了达到上述目标,云计算对存储提出了以下要求. Storge-on-Chip(芯片级存储)是System-on-Chip(电子业广为采用的系统级芯片概念)在存储行业的具体应用.其核心是通过在单一芯片中嵌入软件来实现多

智能家居这块“蛋糕”“一起吃”才香

国内智能家居行业迎来近二十年来的最快发展.据外国研究机构最新发布数据预测,2018年市场规模将达到680亿美元.不过,场景碎片化.操作复杂.用户体验差.缺乏有效商业模式仍然是智能家居目前最大的困扰. 智能家居这块"蛋糕""一起吃"才香 企业各自为政,目前仍是"伪开放" 近两年来,家电企业的智能家居基本已经实现从单品智能走向互联互通的阶段.以美的为例,现在基本上所有的美的家电品类都实现了互联互通.美的方面预计,今年智能单品的出货量将达到3000万.

阿里云与Intel联合发布加密计算技术 神龙云服务器提供亚洲首个云上“芯片级”数据保护

10月14日,在2017杭州·云栖大会上, Intel与阿里云达成技术合作.双方联合发布加密计算技术:以Intel SGX (Intel Software Guard Extensions)可信执行环境作为基础,确保加密数据只在安全可信的环境中计算,将云上数据保护做到"芯片级". 图为英特尔软件与服务部平台安全研发总经理Anand Pashupathy 与阿里云首席安全架构师李晓宁共同发布加密计算 亚洲首家,"芯片级"云上数据保护 目前,阿里云是亚洲范围内首家提供加

阿里云与Intel联合发布加密计算,亚洲首个云上“芯片级”数据保护

10月14日,在2017杭州•云栖大会上, Intel与阿里云达成技术合作.双方联合发布加密计算技术:以Intel SGX (Intel Software Guard Extensions)可信执行环境作为基础,确保加密数据只在安全可信的环境中计算,将云上数据保护做到"芯片级". 图为英特尔软件与服务部平台安全研发总经理AnandPashupathy 与阿里云首席安全架构师李晓宁共同发布加密计算 亚洲首家,"芯片级"云上数据保护 目前,阿里云是亚洲范围内首家提供加密