微软为什么要用英伟达的GPU来支持CNTK?

今天下午,在北京举行的GTC CHINA 2016(GPU技术大会)中,英伟达深度学习研究院对CNTK中图像识别功能进行了简单介绍。

首先,我们来了解下CNTK。

CNTK(Computational Network Toolkit)是由微软研究院开发的开源计算网络工具包,它通过一个有向图对一系列的计算步骤进行描述,也是一个统一的深度学习神经网络工具包。

CNTK的总体架构如上图所示,这里我们可以简单地分几部分进行理解,分别是上中下和左中右两种理解逻辑。先说上中下部分,最下面的包含IDataReader这一层可以理解为基础的数据。

想象训练一个典当行的学徒鉴别古董的真假,你需要先拿一些真真假假的古董让他自己去领会,这个就是学习的过程,也是初始数据的输入过程。

学习的结果就是第二层包含CN的东西

可以理解为典当行学徒通过真真假假的古董所领悟到大脑的知识

最上面的IExecutionEngine

其实可以理解是这个典当行学徒的个人行为,顾客拿了一个古董,让其鉴别其真假,这就是最上层的作用或者是意思。

其次左中右部分,最左边是输入的原始数据,这里引入了CN Description也就是网络的描述

可以理解为典当行学徒的师傅给予的指导性意见或者是古董鉴别教科书

而Features&Labels中的Features就是样本或者古董,Labels可以理解是古董样本上标明真真假假的标签

中间的是ICNBuilder是学习的行为的驱使,IDataReader是仔细观察并且检验所学内容的行为的驱使。最右边的ILeaner是学习方法,CN之前解释过了是学习的成果,IExecutionEngine也就是最终拿来真正东西进行检验的行为。

可以说CNTK的总体架构,描述了一个典当行学徒的从入门到精通的学习过程。从样本训练自己,形成自己的能力,然后使用其所学。

根据研究人员的描述,由于具备更为优秀的交互能力,CNTK工具包中图像识别速度比另外四个当下主流的计算工具包都更加受开发者的欢迎。

在微软最新发布的CNTK1.7版本中,CNTK已经支持英伟达的最新的深度神经网络资料库cuDNN5.1。

其实在Facebook、百度等巨头的人工智能研究中,经常用到英伟达的GPU。

Facebook的Big Sur服务器是围绕本来为图片处理而开发的大功率处理器——GPU来设计的。每8个GPU就配置一台Big Sur服务器,Facebook使用的正是擅长于图像识别的英伟达制造的GPU。

百度将把英伟达的GPU应用到其无人驾驶系统的车载电脑中。这台电脑可以解决汽车厂商在融合无人驾驶技术时面临的一大问题:如何将人工智能技术集成到紧凑的电脑中,从而帮助汽车制定决策。除了为无人驾驶、以及深度学习的复杂计算提供强劲性能支持外,它还能够同时驱动多个高分辨率的显示设备,应用于智能汽车中的仪表盘、地图导航、车载中控面板等。

几乎所有巨头都在依靠强大的图形处理单元(GPUs)来进行深度学习应用,从而处理更为复杂的算法,能提高人工智能和识别能力,微软在此方面也不甘落后。

本文转自d1net(转载)

时间: 2024-10-21 19:49:16

微软为什么要用英伟达的GPU来支持CNTK?的相关文章

英伟达凭借GPU与AI笑傲本届CES展会

 英伟达公司联合创始人兼CEO黄仁勋在本周三晚身着大家熟悉的黑色夹克再度亮相消费电子展(简称CES),并致开幕主题演讲. 我们很难想象其它芯片厂商的CEO会像他这样,在全球最大的贸易展会之一上受到与会者产如此热情的迎接.正如黄先生所言,该公司所打造的GPU与AI技术力量将成为未来游戏.娱乐乃至交通变革的强大推手,而事实上参与者们也对他的每一项发言给出热烈回应. 除了黄仁勋明星般的力量之外,英伟达公司还在本届CES上展示了其在AI驱动型自动驾驶车辆领域的开发成果. 英特尔公司同样在努力推动自己的开

英伟达CEO黄仁勋:我们正处在超级摩尔定律时代,我不太理解英特尔的战略

我们正在进入一个"超级摩尔定律"时代 新智元:中国购买英伟达GPU最多的公司是哪一家?在英伟达全球的布局里,中国占多少份额?      黄仁勋:在中国的互联网公司当中,我们和百度的合作时间是最长的,我们在AI方面的合作,可能已经有五到六年的时间了,李彦宏和他百度的团队,一直在这个方面有坚定的探索.百度是我们一个非常大的客户,非常好的客户,非常好的合作伙伴.其他的GPU大客户也是互联网公司,因为他们有大量的数据需要处理,所以使用GPU是非常自然的事情. 现在还有另外一个非常大的机会,实时

老黄呕心之作,英伟达能凭借Tesla V100技压群雄吗?

上周,英伟达在加州举行了2017年的GPU技术大会(GTC2017).在大会上,英伟达CEO黄仁勋发布了全新力作--NVIDIA Tesla V100.根据英伟达官方介绍,Tesla V100采用了全新架构Volta,不仅会有更强的性能,还增加了TensorCore用以专门针对深度学习.在发布会后,英伟达的股价也随之走高.那么英伟达能凭借Tesla V100强悍的性能在深度学习领域力压群雄吗? Tesla V100的优点和存在的不足 根据英伟达官方介绍,Tesla V100采用台积电12nm F

同是利润增长:英伟达与英特尔股价表现迥异背后

日前,以CPU为主的英特尔和GPU为主的英伟达先后发布了自己今年第一季度财报,其中双方利润分别同比增长了45%和48%,按理说双方利润的增长都相当可观,尤其是对于英特尔,在当季PC市场依然下滑之时,仍以PC芯片为主的英特尔能够实现如此的利润增长实属可贵,但事实远没有看起来那般简单,反映在资本市场中,英特尔在取得了看似不错的财报后,其股价不涨反跌,跌幅高达6%左右,相比之下,英伟达的股价则大幅上扬了14%左右.那么问题来了,为何同是利润增长,且增长幅度几乎相同,但双方在股价上的表现却大相径庭呢?这

英伟达CEO黄仁勋亲自撰文摆数据怼上谷歌TPU

雷锋网按:前不久谷歌发布了关于TPU细节的论文,称"TPU 处理速度比当前 GPU 和 CPU 要快 15 到 30 倍".当时就有人对此种"比较"表示质疑,因其拿来的比较对象并非市场里性能最好的. 而昨晚(美国时间 4 月 10 日)英伟达 CEO 黄仁勋就亲自撰文回应了这一"比较",文章第一段就以谷歌 TPU 开头,炮击意图十分明显,随后更是扔出了 Tesla P40 GPU 与 TPU 的性能对比图,可谓针尖对麦芒. 黄仁勋亲自撰文怼上 T

英伟达发布TensorRT 3可编程推理加速器,比起CPU能实现高达40倍吞吐率

北京时间9月26日,在英伟达GPU技术峰会上,英伟达创始人兼CEO黄仁勋正式发布TensorRT 3 神经网络推理加速器.据官方介绍,TensorRT 3能极大改善处理性能,削减从云到边缘设备(自动驾驶汽车.机器人等)的推理开销.TensorRT 3 是在Volta GPU 实现最优推理性能的关键,比起CPU它能实现高达40倍的吞吐量,时延在7ms之内.目前,对于英伟达开发者计划成员,现在有针对Tesla GPU (P4, P100, V100)和Jetson嵌入式平台的TensorRT 3提供

数据中心业务助力英伟达一季度营收大增48.4%

据外媒报道,由于云服务提供商的数据中心对于芯片的需求非常旺盛,英伟达在今年第一季度的营收超过了预期,增长了48.4%. 在昨日收盘后,英伟达的股价上涨了14.2%,涨到了117.57美元. 在今年第一季度,英伟达数据中心业务的营收增长了一倍以上,增长到了4.09亿美元,轻松击败了分析师预期的3.182亿美元. "现在,全世界各大互联网和云服务提供商都在使用英伟达的GPU芯片."英伟达首席财务官科莱特-克雷斯(Colette Kress)周二在财报电话会议结束后说. 英伟达的芯片包含人工

英伟达回应谷歌威胁论:Volta GPU性能远强于二代TPU

据CNBC北京时间5月25日报道,谷歌上周推出了第二代TPU,专注于人工智能领域.外界普遍认为,谷歌此举最终会削弱图形芯片厂商英伟达的增长势头,毕竟,英伟达的增长主要得益于那些使用其芯片进行人工智能处理的企业客户.不过,英伟达CEO黄仁勋周三驳斥了这种说法,称即将推出的Volta GPU的运算能力远远超过谷歌第二代TPU. 过去几年,英伟达与此类计算形式建立了紧密联系,由于投资者看好英伟达的前景,加上销售量不断增长,该公司股价持续走高.英伟达股价在去年上涨了逾200%,而从2017年初到现在也累

英伟达CEO确认与微软合作开发Surface 2

Surface平板电脑凤凰科技讯 北京时间8月9日消息,据美国科技资讯网站CNET报道,英伟达CEO黄仁勋周四确认,该公司正在与微软密切合作开发Surface 2,以确保该机型取得更大成功.虽然Surface RT未能引起太大反响,但微软已经在着手开发第二代机型.黄仁勋表示,英伟达正在"十分努力"地参与第二代Surface开发,希望它比前代机型取得更大成功.英伟达为第一代Surface RT供货处理器,但是该平板电脑的销量一直疲软.微软上月因为Surface RT存货减记9亿美元,并在