对话阿里云异构计算掌舵人:人工智能爆发三要素

计算,正在撬动人工智能产业这个千亿级的市场。

传统通用计算无法满足人工智能对爆发的计算能力需求,异构计算中GPU/FPGA等高并行、高密集的计算能力被认为是现阶段挑起人工智能产业的大梁。

异构计算是指不同类型的指令集和体系架构的计算单元组成的系统的计算方式,如“CPU+GPU”,"CPU+FPGA“等,”更适合深度学习、基因匹配、金融分析等计算密集型领域。

昨天,阿里云对外展示了异构计算产品家族,将异构计算的能力带到云上对外服务。

会后,我们采访了阿里云异构计算掌舵人张献涛。

张献涛,花名旭卿,武汉大学信息安全博士,是Xen、KVM等多个开源虚拟化项目的主要贡献者,目前主要负责阿里云虚拟化技术、高性能计算产品、异构计算产品以及创新类型产品的技术和研发的团队。

在这次对话中,张献涛分享了对人工智能与异构计算的关系,以及对未来计算大战的思考。

人工智能爆发三要素:算法、计算力、数据

人工智能爆发有三要素:算法,计算力,数据。

张献涛指出,人工智能的概念提出60多年了,这几年才呈现出爆发的趋势,不单单是因为算法改进、数据积累,更重要的是计算能力的变革。一般企业都有自己的算法和数据,但在计算力的获取上一直有比较高的门槛。

异构计算被认为是更适合人工智能的计算形态,它的优点是具有比传统CPU并行计算更高效率和低延迟的计算性能,在处理物联网场景下的AI应用时,异构计算比CPU的处理效率高30倍以上。张献涛表示。

在过去,异构计算的采购、部署以及使用门槛对绝大多数企业、用户来说都很高,比如小量的用户基本上没有议价能力,特别是购买FPGA板卡,量少的话采购价格特别高。此外,交付周期是另一大痛点,从机型选择、硬件架构设计、供应商选择、机房选择、财务审批通常要几个月时间。采购之后型号就固定了,有新品出现只能追加预算购买,线下的GPU/FP又无法和线上服务打通。


面向多场景的异构计算加速平台

张献涛指出,云已经证明了是提供计算能力的最佳交付方式,所以把GPU/FPGA的计算能力放在云端对外服务是一件再自然不过的事。

“阿里云在短时间里先后推出弹性GPU和FPGA解决方案,目的就是降低异构计算资源使用的门槛,对人工智能有计算需求的企业可以随买随用。”张献涛表示,

云是计算能力的放大器

相比CPU,GPU有更高的并行度、更高的单机计算峰值、更高的计算效率;而FPGA则拥有更高的每瓦性能、非规整数据计算更高的性能、更低的设备互联延迟。

“云是计算能力的放大器,将GPU和FPGA解决方案部署在云端意味着优势的进一步放大。”张献涛介绍,虚拟化技术让GPU/FPGA的计算资源可以即买即用,弹性伸缩,无需担心性能瓶颈,还能以更低的价格享受到性能更强的GPU/FPGA计算能力。

同时,阿里云提供了从产品、服务、生态各维度的人工智能平台服务,满足企业在人工智能领域不同层次的需求,比如用户可以在阿里云异构平台上快速搭建TensorFlow深度学习框架,同时调用视频识别、图像识别、语音识别等服务,开发出类似ET工业大脑、环境大脑的应用服务,这跟此前需要东拼西凑还要运维的创业方式相比,体验和效率完全不同。

“我们提供了25/100Gb ROCE走RDMA协议直连,可以多机多卡,用非常多的GPU/FPGA设备集群来共同训练一个模型,大大减少用户训练的时间,从几周到一个月缩短到一天或者几个小时的级别。”张献涛强调。

异构计算的未来:GPU、FPGA、ASIC三分天下

从市场角度来看,GPU处理器占据了异构计算的主流地位,但对未来的趋势,张献涛表示,“随着FPGA的生态环境的建立和完善、ASIC芯片的逐渐成熟,未来异构计算领域会呈现GPU、FPGA、ASIC芯片三分天下的局面,GPU、FPGA、ASIC芯片都会有自己独特的特长和应用领域,有自己独特的客户群体。”


阿里云提供同时覆盖Intel和Xilinx两大FPGA厂商的解决方案

这也是张献涛团队专注的方向,接下来团队会发布包括8卡/16卡GPU产品、下一代的Volta架构的GPU产品、新一代的FGPA的产品,而ASIC芯片的产品上云也正在研发当中。

目前他所带领的团队主要有两个目标:一方面致力于让异构计算变成用户即买即用的计算资源,提供最为全面的异构计算产品方案;另一方面致力于让用户能够用好异构资源,充分发挥云上各个产品之间的统一调度能力,让阿里云在人工智能方面的服务更具备竞争力,把异构计算变成一种普惠的计算能力。

在10月11日举行的2017杭州云栖大会上,阿里云还将推出更多个性化的人工智能产品及服务,期间将有20余场人工智能相关的峰会和分论坛,涉及基础设施、AI基础技术、AI产品以及AI行业解决方案等领域。阿里巴巴及合作伙伴将分享AI在数据中心、电子商务、工业制造、城市管理、艺术设计等行业的前沿经验,并展示最新技术。

时间: 2024-10-31 06:15:47

对话阿里云异构计算掌舵人:人工智能爆发三要素的相关文章

站在你身边的每个人都有可能改变世界,阿里云异构计算加速人工智能

小编的同事带着阿里云的GPU服务器去北京参加GTC大会,在展会现场,有人感慨"站在你身边的每个人都有可能改变世界",新时代新体验来的节奏比想象中要快. GPU技术大会(GTC)是全球人工智能领域最具影响力的盛会之一,全球一系列的 GTC 活动将展出当今人工智能领域最重要的创新成果.并提供人工智能专业课程和培训机会.展示关于云计算.无人驾驶汽车.智慧城市.医疗.金融.制造业.VR/AR.无人机.机器人等人工智能及相关领域创新的技术和应用. 阿里云智能进化,全力推进人工智能,废话不多说,上

阿里云异构计算产品家族亮相,为人工智能提供全球加速能力

计算正推动着人工智能更大规模的爆发. 9月12日,阿里云宣布推出全新一代异构加速平台,为人工智能产业提供多场景化的全球加速能力. 这是阿里云异构计算家族首次亮相,涵盖GPU.FPGA在内等6款异构实例,可满足从图形渲染到高性能计算及人工智能等复杂应用的计算需求.特别是在人工智能领域,可将深度学习成本缩减一半,大幅降低人工智能计算门槛. 此外,基于阿里云异构平台的全新高性能计算产品E-HPC,可一键部署获得媲美大型超算集群环境的"云上超算中心". 这是继企业级ECS家族全线升级后,阿里云

【阿里云资讯】对话阿里云:人工智能时代已来

对话阿里云:人工智能时代已来 2016年10月12日,阿里云对外发布了今年的品牌宣传片.和去年不同,这是一部由人工智能"导演"的片子.<对话阿里云>由杭州政府.华大基因.追光动画及阿里云人工智能ET共同出演. 点击观看视频<对话阿里云> 深度解读 3分40秒,阿里云用一部接地气的片子让8岁到80岁的观众真切感受到,人工智能已经悄悄"导演"起每一个人的日常点滴.片子播出后,不少人在思量,从"无法计算的价值",到人工智能&qu

阿里云异构计算全新升级 全方位使能人工智能产业

随着人工智能的兴起,GPU 借助深度学习,走上了历史的舞台,活跃在各个领域.FPGA 也借着这股浪潮,慢慢地走向数据中心,走向人工智能,发挥着它的优势. "人工智能浪潮催生的计算迭代需求远超摩尔定律,阿里云希望为人工智能产业提供最强的计算能力,我们开放了视频识别.语音识别.图像识别等人工智能服务及ET工业大脑.医疗大脑场景解决方案,今天我们推出的异构计算加速平台,将进一步完善人工智能产业生态,满足更多客户的核心业务需求."阿里云异构计算负责人张献涛表示. 9月12日,阿里云宣布推出全新

从IaaS到AI,马云为何让阿里云去扛人工智能大旗?

免费开通大数据服务:https://www.aliyun.com/product/odps 绝大多数人对阿里云的定位仍是国内市场最大的IaaS提供商.不过,随着国内人工智能市场在2016年迎来爆发,阿里开始在人工智能领域发力,阿里云的这一角色正在悄然转变. 布局AI领域,阿里云扛起阿里人工智能大旗 虽然阿里不是BAT三座山头中在人工智能领域的声势最旺的那个(百度躺枪),但事实上阿里从2015年也已经开始了人工智能领域的布局. 2015年6月,阿里巴巴联合富士康以145亿日元的价码战略投资软银旗下

专访阿里云异构计算负责人:异构计算,GPU、FPGA、ASIC芯片将三分天下

在IT界,异构计算并不是一个新兴的词. 近十年来,计算行业经历了从32bit."x86-64".多核心.通用GPGPU以及2010年"CPU-GPU"异构计算的变迁.而最近几年,随着人工智能.高性能数据分析和金融分析等计算密集型领域的兴起,异构计算才突然火了起来. 因为传统通用计算的方式已经无法满足我们对计算能力的需求,异构计算被认为是现阶段挑起计算大梁的关键技术,阿里云异构计算产品解决方案就在这样的大环境下诞生了,这支团队的掌舵人正是张献涛. 张献涛,花名旭卿,武

阿里云异构计算产品家族亮相 覆盖全场景AI和高性能计算需求

本文讲的是阿里云异构计算产品家族亮相 覆盖全场景AI和高性能计算需求[IT168 云计算]计算正推动着人工智能产业更大规模的爆发. 9月12日,阿里云宣布推出全新一代异构加速平台,为人工智能产业提供多场景化的全球加速能力.这是阿里云异构计算家族首次亮相,涵盖GPU.FPGA在内等6款异构实例,可满足从图形渲染到高性能计算及人工智能等复杂应用的计算需求. 特别是在人工智能领域,可将深度学习成本缩减一半,大幅降低人工智能计算门槛;而基于阿里云异构平台的全新高性能计算实例E-HPC,可一键部署获得媲美

阿里云异构计算产品集结完毕 覆盖全场景AI与高性能计算需求

科幻小说<三体>里,世界上最快的计算机,运算速度达到100万亿次.而如今的机器计算力,已达到500万亿次,阿里云高性能计算研发负责人何万青博士表示,由此可见,科学幻想在机器计算方面,已经是很落后的了. 现实世界中,高速发展的计算力正推动着人工智能产业更大规模地爆发. 9月12日,阿里云异构计算家族首次亮相,推出全新一代异构加速平台--涵盖GPU.FPGA在内等6款异构实例,可满足从图形渲染到高性能计算及人工智能等复杂应用的计算需求.特别是在人工智能领域,可将深度学习成本缩减一半,大幅降低人工智

阿里云资深数据专家闵万里:阿里云与中国人工智能的未来息息相关

阿里云与中国人工智能的未来息息相关 面对采访,阿里云资深数据挖掘专家闵万里博士信心满满:"阿里云今天选择的,就是中国人工智能未来产生价值的必经之路,这也决定了阿里云与中国人工智能接下来的发展息息相关." 如果非要问一个问题:"谁才是中国目前人工智能技术积累最强的公司?"你心中或许第一个出现的是常打技术牌的百度,或是刚靠围棋人工智能程序"绝艺"刷了屏的腾讯,相比之下,阿里的基因似乎和人工智能显得"画风不符".可你或许不知道,20