英特尔AI CTO:人工智能训练需要新型芯片架构

英特尔人工智能产品集团新上任的首席技术官Amir Khosrowshahi表示,当你使用GPU水平较低的时候,业界需要新架构用于神经网络的理由就愈加明显了。

Khosrowshahi此前是Nervana System公司的共同创始人兼首席技术官,该公司在去年8月被英特尔收购,金额未对外公布。Nervana的技术迅速成为英特尔人工智能计划的核心。

Khosrowshahi详细介绍了Nervana公司是如何使用GPU的,因为“这是最先进的技术”,Nervana用它自己的汇编器取代了标准的Nvidia汇编器,因为这被Nervana视为可以生成“次优”指令。

“我们在公司发展初期是这么做的,部分是为了我们自己的发展,但后来我们意识到它比Nvidia的库要快2-3倍,所以我们将其作为开源发布了。”

Nervana的努力并没有止步于软件方面,它还创造了自己的硅芯片瞄准神经网络训练。

“神经网络是一系列预定的操作,它不像是用户与系统的交互,它是一组可以被描述为数据流图表的指令。”

据Khosrowshahi称,一些功能有助于图形处理单元执行图形渲染工作——如大量缓存,处理节点,渲染——都是多余的。

“GPU中有很多电路,这对于机器学习来说并不是必需的,随着时间推移有很多东西堆积起来。”

“你并不需要电路,这些电路在芯片中占很大比例,而且能源利用成本也很高。”

“神经网络非常简单,它是很少的矩阵乘法和非线性,你可以直接搭建硅芯片来实现。你可以搭建硅芯片专用于神经网络架构,GPU却不是这样的。”

Khosrowshahi给出的答案是正在开发的Lake Crest,英特尔将在今年向选定客户推出这个独立的加速器,随着时间的推移,它还将更紧密地与至强处理器捆绑在一起。

“这是一个张量处理器,处理矩阵操作的指令。”Khosrowshahi解释说。“所以指令集是矩阵1乘以矩阵2,通过一个查找表,而且这些大指令都是高级别的。”

“在GPU中,它是一个个的寄存器,移入另一个寄存器,做逐个元素的乘法,这是相当低级别的。”

不过Khosrowshahi表示,Nvidia近年来努力让他们的GPU更适合于神经网络,他们的人工智能芯片仍然具有大量图形功能。

“作为一家芯片厂商,我可以看出为什么这对Nvidia来说很困难,”Khosrowshahi说。

另一方面,英特尔通过收购一步步接近人工智能。

“推出一个全新的价格,这在芯片行业是一大挑战;英特尔的方式就是收购。他们收购了FPGA,所以又收购了Altera,Altera是一个非常酷的架构,专注于神经网络,所以FPGA架构对于神经网络来说是非常有趣的……当然,Nervana芯片很大程度上也是一个专注于引擎的神经网络,但是稍微脱离出神经网络一些。”

当谈到神经网络时,Khosrowshahi认为考虑在硅芯片中做蚀刻神经网络是错误的,因为其中很多功能仍然是在软件方面的。

“很多功能都是在软件的,所以即使开发了Lake Crest,针对Lake Crest的指令也不是‘神经网络,这么做’,而是这个矩阵乘以这个矩阵。”

“除了芯片之外,还有一些软件知道这是神经网络,这是训练,用户寻找不同的东西并搜索参数——当你有了神经网络系统的时候这些都是你要做的事情。”

在神经科学的大背景下,Khosrowshahi认为人工智能的重点不是重建人脑,而是超越人脑。

“人脑就是人工智能的一个例子,但这是相当有限的人工智能,我的视觉系统看到了物理世界,它知道去了解世界的统计数据。”

“如果你环顾四周,你能看到很多边缘、很多表面、阴影区等等,如果你看看大脑……主要是视觉皮层,有对这些特征敏感的神经元,所以你的人工智能了解这个世界的统计数据,并且能够对此进行推论——就像是这个杯子快要打碎,我接住了这个杯子。”

但是企业内的数据与人类互动的数据大不相同,Khosrowshahi说。

“这个统计数据是非常不直观的,所以让人工智能处理这些数据是另外一种智能了。”

“这试图向人们解释这一点,因为他们认为我们正在创造一个大脑,我们想做的超越了这一点,我们希望创造一种新的人工智能,可以理解企业、医疗等所有领域的数据统计,这些数据本质上与现实世界中的截然不同。

英特尔人工智能架构的竞争对手之一是Google定制的Tensor Processing Unit,本周Google称这种架构笔当前的GPU和CPU快15-30倍,功效高30-80倍。

本周,IBM和Nvidia也宣布IBM将从5月开始在IBM Cloud中提供Tesla的P100。

原文发布时间为: 2017年4月7日

本文作者:杨昀煦 

时间: 2024-09-21 10:48:38

英特尔AI CTO:人工智能训练需要新型芯片架构的相关文章

宋继强详解英特尔AI战略布局,三大引以为豪的技术优势 | 新智元峰会演讲PPT

3月27日,新智元2017开源·生态AI技术峰会盛大召开.这场中国"AI春节"由新智元携手英特尔联合举办.就在峰会召开的前几天,英特尔对外宣布组建了一个超级AI部门,而此前英特尔收购Mobileye的消息也引发业界震动,可以说今年英特尔对AI的关注达到了一个新的高点.而英特尔在产业里拥有端到端的独特优势,提供从服务器.开源平台到云计算的全方位解决方案,因此,英特尔的动向也是今年中国AI界值得关注的焦点. 在新智元"3·27"AI技术峰会上,英特尔中国研究院院长宋继强

从Curie到Xeon Phi 英特尔如何布局人工智能?

编者按:从人工智能第一次被提出以来,关于它争议从未停歇过,如今时机已经成熟,市场的目光也开始聚焦于此.转型中的英特尔也看到它未来存在着无限的可能性,英特尔希望通过布局人工智能的各个方面而成为行业的领导者,这是英特尔第一次在国内就人工智能问题召开的媒体沟通会. (编者在不修改原意的情况下对本文中所涉及到英特尔方面的讲话内容进行了部分精简.)   这是个人工智能的时代 其实直到今天,依然有许多人认为人工智能离我们很远,遥不可及,殊不知每台Windows设备当中的微软小娜(Cortana).iPhon

英特尔宣布推出基于集成众核(MIC)架构22nm全新产品

&http://www.aliyun.com/zixun/aggregation/37954.html">nbsp;   在近日举办的国际超级计算机会议上(International Supercomputing Conference),Intel公司向外公布了其首款超多核心商用芯片产品" Knights Corner",这款产品借用了Larrabee架构和万亿级计算研究计划(Tera-scale Computing Research Program)的技术,可

英特尔推迟至明年一季度发安腾芯片

北京时间5月22日下午消息,据国外媒体报道,英特尔周四宣布,将安腾(Itanium)芯片发布时间推迟至2010年第一季度,该芯片原定于今年中期发布,此前英特尔已经多次推迟该芯片发布时间. 英特尔在声明中表示,为加强"应用程序可扩展性"(application scalability),推迟安腾芯片的发布时间,但拒绝详细说明想要加强的类别. 一位英特尔发言人表示,在系统测试期间,该公司发现了改进机会. 市场研究公司In-Stat首席技术战略家吉姆·麦克格莱格(Jim McGregor)表

英特尔时代是否已结束:移动芯片成软胁

[搜狐IT消息]北京时间10月15日消息,平板和智能手机从PC手中夺走更多的用户,英特尔面临更大的问题.英特尔是最大的芯片制造商,它曾是PC市场的王者,通过与微软结成"Wintel"联盟,它的利润超高,占据80%的市场份额.但是随着移动世界飞速发展.竞争激烈,英特尔在智能手机领域只占不到1%的份额,落后于高通.三量.ARM.一些投资者本来对全球经济担忧,他们现在还在问,英特尔天下无敌的局面是否到头了,利润与营收增长是否变得更普通了.本周二,英特尔将公布新一季度的财报,一个关键的指标就是

对话英特尔中研院宋继强:英特尔 AI 加持春哥最新 MV 的背后

如果没有2005年的爆红,这些数以万计的陌生人或许就不会站在雨里,为台上的偶像李宇春"打 call",而李宇春也不会在走红12年后,为台下的这些人创作一首给他们的歌--<今天雨,可是我们在一起>. 2005年,除了李宇春夺冠,其实还有两件事在被庆祝着:一件是英特尔正在庆祝自己入华20周年,还专门成立了一支投资基金,规划了一系列投资计划:另一件是中国计算机界正在筹备人工智能诞生50周年的纪念活动,彼时的人工智能还坐在冷板凳上. 12年后,这几条线有了一个交点:李宇春为自己的粉

摆脱对PC、服务器的依赖,英特尔“悄悄”在人工智能布下两颗棋子

科技公司的年度大会有两种,一种是推出普通消费者日常生活使用的用品,如苹果一年一度或一年两度的iPhone 发布会,另一种则是针对技术开发者发布的SDK.API.开发套件等,一如英特尔的开发者技术大会 IDF. 如果说苹果的发布会讲述的是当下最好的软硬件集成,那么英特尔的发布会则是探讨未来的各种可能. 这其中,最让业界关注的恐怕还是英特尔打算如何切入当下最火的人工智能领域.放眼业界, 人工智能成为当下技术公司发力的方向.AlphaGo 用一场完胜将 Google 深度学习推进人工智能的野心展露无疑

英特尔发布新的至强工作站芯片 冀博取虚拟现实和人工智能开发人员的欢心

芯片制造商英特尔公司表示,旗下今天宣布的新至强W(Xeon W)处理器将会改变工作站的格局,理由是这些至强W处理器是专为处理人工智能和虚拟现实开发的巨大处理需求而设计的.   英特尔曾在7月宣布推出旗下基于Skylake的可扩展至强平台,该产品包括一系列企业级处理器,处理内核数起步为8颗,最多可达28颗.至强芯片有些是用于服务器的,但至强 W系列是为诸如iMac Pro等工作站而设计的.据英特尔称,至强W芯片将为新一代虚拟现实和机器学习应用的发展提供动力. 英特尔高管Lisa Spelman表示

英特尔先于AMD推出最新的服务器芯片

3月17日消息,据国外媒体报道,英特尔星期二(3月16日)发布了其最新的服务器处理器芯片以保持其领先于竞争对手AMD的统治地位和准备应对预计的需求的增长. 这种新的处理器旨在用于服务器和高端台式电脑.这些芯片是英特尔首次在服务器芯片中采用更小的晶体管.这些更小的晶体管帮助英特尔增强其笔记本电脑和台式电脑芯片的性能,同时努力保持更好的节能效果. 英特尔还在这些芯片中内置了安全功能.英特尔称,这些安全功能可以更快地编码和解密文件,有效性消除"加密税",也就是由于保护文件而损失的计算机性能.