浪潮发布业界最高GPU密度的SR-AI整机柜

 在不久前结束的2017浪潮云数据中心全国合作伙伴大会(IPF)上,浪潮秉承坚持围绕"计算+"战略,进一步明确业务重心,聚焦智慧计算,发展开放融合的计算生态,建立智慧计算市场的领导力。

智慧计算的未来在商业应用, 随着人工智能应用的快速发展,AI所需的计算力也急剧攀升。此前,浪潮就已在AI计算平台、架构领域布局,拥有业界完整的支持2、4、8 GPU卡的异构超算服务器阵列。而本次IPF上,浪潮发布了业界最高密度的、单机点支持16块GPU卡的SR-AI整机柜,进一步优化了AI计算硬件架构,改变原有CPU-GPU紧耦合状态,实现GPU资源的灵活池化扩容。

人工智能成为未来社会发展重要动因

更复杂的AI应用呼唤更强大的计算平台

深度学习概念和浅层学习算法已经被提出多年,而人工智能近年才开始逐渐升温,原因是人工智能技术的进步受限于计算平台的性能和数据量的积累。举个例子,从IBM深蓝战胜卡斯帕罗夫,浪潮天梭战胜五位象棋大师,再到谷歌AlphaGo战胜围棋冠军李世石,解决问题的博弈树空间扩大了237数量级,这其中需要更优化的算法,也需要更强大的计算平台来支撑实时运算。

除了AI游戏,在现实生活中人工智能的应用也越来越广泛和复杂,从人脸签到打卡,到行动轨迹追踪,再到无人驾驶汽车,更复杂的AI应用呼唤更强大的计算平台。传统的单机单卡、2卡甚至8卡已经不能满足多样化的业务需求,浪潮SR-AI整机柜服务器以单节点16卡的更高密度,满足当下快速膨胀的AI计算能力需求。

SR-AI整机柜服务器

更高密度+资源解耦,10倍于传统AI计算设备性能

此次,浪潮与百度联合发布的SR-AI整机柜服务器,符合最新的天蝎2.5标准,是全球首个采用PCIe Fabric互联架构设计的AI方案,通过PCI-E交换机和GPU BOX两个模块的配合,打破GPU和CPU的物理耦合,让两者可以灵活扩展,相对于传统的GPU服务器,这是种颠覆式的创新,带来了高密度、低延迟、易扩展等优势。

首先,传统的AI计算设备集群需要通过高速网络实现数据的交互,着会带来us级以上的延迟,而SR-AI整机柜中GPU BOX间的互联是通过PCI-E交换机来实现,并借助GPUDirect RDMA技术可以大幅下降跨节点GPU间的通信延迟,能够实现ns级网络延时。

第二,SR-AI整机柜的I/O BOX单节点即可实现支持16个GPU的超大扩展,并且可以通过PCI-E交换机实现4个BOX、64块GPU的级联,峰值处理能力达到为512TFlops。

第三,SR-AI整机柜的GPU资源扩展无需同步配置高成本的IT资源(比如IB交换机),成本可优化5%以上,并随着规模上升成本优势越明显。

SR-AI整机柜是面向更大规模数据集和深层神经网络的超大规模AI计算平台,能够高效支撑复杂的深度学习线下模型训练任务,适用于图像识别、语音识别、自然语言处理、搜索排序等AI应用。百度实际业务的测试数据显示,SR-AI整机柜相比传统的AI方案性能提高5-10倍!

高效开发框架+算法协同优化,AI计算效率最大化

与 CPU 少量的逻辑运算单元相比,GPUFPGAMIC这种协处理加速设备整个就是一个庞大的计算矩阵,可实现 10-100 倍应用吞吐量。但同时,这种庞大的并行能力需要付出代价:需要较强的软件开发能力和算法优化能力。

为此,浪潮将高效深度学习框架Caffe-MPI开源,与众多开发者共同优化,为深度学习的用户提供了更便捷、更高效的应用手段。浪潮Caffe-MPI能够在保证正确率相同的情况下,在4节点下16卡的性能较单卡提升13倍,并增加了对cuDNN库的支持,使程序开发人员能够轻松实现高性能深度学习代码的开发。

在算法方面,此前浪潮与客户在GPU加速加速流量特征分析技术开展合作,通过软硬件和算法的协同优化,使训练24万样本的时间单节点4GPU相对于单GPU加速3倍,单机4GPU卡程序性能较原始版本加速270倍。

数据显示,2016年浪潮在人工智能计算领域的市场份额超过60%,为百度、阿里巴巴、腾讯、奇虎、科大讯飞、Face++等中国人工智能企业,提供基于GPU、FPGA、KNL等协处理加速服务器和caffe-MPI等软件、算法优化。

原文发布时间为: 2017年5月11日

时间: 2024-08-22 19:29:16

浪潮发布业界最高GPU密度的SR-AI整机柜的相关文章

聚焦深度学习应用 浪潮发布基于Tesla GPU 加速器整机柜服务器

2月4日,中国数据中心领导厂商浪潮在其"整机柜服务器2015年度产品策略发布会"上,正式发布了基于NVIDIA Tesla GPU 加速器的整机柜服务器--SmartRack 协处理加速整机柜服务器,这是一款密集型高度并行计算服务器,主要面向人工智能.深度学习等应用. 通过和全球视觉计算领域的领导者NVIDIA公司紧密合作,浪潮SmartRack 协处理加速整机柜服务器实现了在1U空间里完美部署4个Tesla GPU 加速器,实现"CPU+协处理器"协同计算加速,合

人工智能爆点:浪潮发布新版Caffe-MPI,较谷歌TensorFlow 性能翻倍!

5月9日,浪潮在美国圣何塞举行的2017 GPU技术大会(GTC17)上发布了新一代并行深度学习计算框架Caffe-MPI.测试数据显示,在基于国际通行的Imagenet数据集进行深度学习模型训练时,Caffe-MPI表现出良好的并行扩展,其性能是Google最新深度学习框架TensorFlow的近两倍.Caffe-MPI是全球首个集群并行版的Caffe深度学习计算框架,由浪潮主导开发并已在Github上开源公布所有代码. 浪潮GTC17发布新一代Caffe-MPI现场 浪潮新一代Caffe-M

单集群64卡的浪潮SR-AI整机柜,做AI的你不试试?

 前段时间,浪潮与百度联合发布了面向智慧计算的创新产品--SR-AI整机柜服务器.这款产品符合最新的天蝎2.5标准,是全球首个采用PCIe Fabric互联架构设计的AI方案,为更大规模数据集和深层神经网络领域,提供更强性能的AI计算平台.  浪潮百度联合发布SR-AI整机柜服务器 单节点16卡.单物理集群64卡的超高密扩展能力,512TFlops的性能,ns级的延迟等性能参数都让人眼前一亮.但是或许你还有些疑问,为什么要设计如此强大的AI计算设备?能够给我带来什么样的价值?这么大的功率密度下能

浪潮发布GPU 深度学习一体机,大幅提升性能及生产力

美国当地时间11月16日,在盐湖城举行的全球超算大会SC16上,浪潮发布了深度学习一体机D1000,该产品部署了采用NVIDIA Tesla GPU技术的浪潮高性能计算集群,运行多节点并行深度学习框架Caffe-MPI,可大幅提升在人脸识别.图片分类.物体识别等应用场景的深度学习计算性能,并有效提高用户在实际业务使用深度学习的生产力.   强强联手产硕果 D1000产品整合了浪潮深度学习领域的最新技术成果,包括浪潮推动开发的并行版开源深度学习框架Caffe-MPI,英伟达专为深度学习定制的Tes

浪潮发布服务器虚拟化InCloud Sphere 4.5,开启“超级玛丽”模式

在云计算这条高速路上,伴随虚拟化的广泛使用,软硬件产品迭代速度越来越快,如传统百兆以太网,甚至千兆以太网难以适应未来资源池的互联要求,CPU引入了更多硬件辅助的芯片和寄存器功能等新的问题给用户带来困扰,以防形成"蝴蝶效应",我们需要把问题扼杀在萌芽. 浪潮云海OS InCloud Sphere是IaaS层的核心组成部分,通过服务器虚拟化将存储.网络和其它外设有机地结合到一起,使整个IT环境比单独的物理硬件具有更高的可用性.扩展性和安全性,为企业核心业务云化迁移.构建企业云数据中心提供了

美国IDF2016浪潮发布新一代融合架构整机柜SmartRack4.5

美国当地时间8月16-18日,IDF16在美国旧金山举行,180多家赞助商.4000多名来自世界各地的IT技术专家和企业高层参加大会.作为大会的黄金赞助商,浪潮携云计算软硬件装备参展,并发布了基于融合架构2.0的产品SmartRack4.5整机柜服务器.该产品专为云服务供应商.电信运营商等公有云用户设计,在集中供电.散热和管理的基础上,新增了SAS.PCI-E的交换技术以及BBS(Battery Backup System)后备电池节点,实现从IT外围资源的集中到内部资源的重构和池化.   新一

浪潮发布国产飞腾CPU服务器

3月24日下午消息,继"十一五""核高基"重大专项国产FT-1000高性能通用多核微处理器研发成功之后,浪潮在京正式推出首批基于飞腾处理器的通用服务器产品. 此次浪潮发布的产品涉及四大系列七款机型,实现了从整机架构.核心部件处理器到操作系统的全自主化研制.同时该系列产品在数据库商业应用.高性能计算等领域表现良好. 此次浪潮发布的全国产化服务器产品序列,涵盖了单路塔式.2U两路.1U两路及刀片服务器全产品形态,在研制过程中突破了完整系统设计.高速信号仿真平台.板卡La

浪潮发布NF8460M3 更新其四路服务器产品线

[天极网服务器频道消息]5月22日,浪潮在京召开以"洞察·按需·融合"为主题的媒体沟通会,分享了浪潮对通用服务器市场发展趋势的分析.据介绍,浪潮服务器在2014年第一季度出货量同比增长超过100%,并制定了中国服务器市场份额第一的业务发展规划,通过渠道.产品.人才.敏捷供应链向MNC曾经垄断的行业进行全面渗透和冲锋.而四路及四路以上服务器市场则是浪潮的战略布局重点. 媒体沟通会现场 在四路服务器产品线,浪潮发布包括包括旗舰产品NF8480M3.主力产品NF8460M3和中间产品NF84

浪潮发布首款可信服务器 填补云安全领域空白

9月25日,在2014中国互联网安全 大会上,浪潮发布了业内首款面向云数据中心的可信服务器.此次发布意味着浪潮 主机安全战略的延续和落地,可信服务器终将以可信芯片为起点,为客户构建从硬件到软件.从底层到顶层的平台信任链,从而为 云计算数据中心提供安全可信的环境.498)this.w idth=498;' onmousewheel = 'javascript:return big(this)' border="0" alt="" width="472&quo