百度云计算硬件基础设施首度曝光

2013年1月11日,随着百度南京数据中心的“开放日”迎来首批嘉宾访客,百度云计算硬件基础设施的神秘面纱也逐步显现。记者从嘉宾的口中以管窥豹,了解到五大核心看点,为您首度披露百度背后的数据中心硬件架构。

业内专家同时对记者表示,以前只是对百度的搜索引擎技术、软件专利比较熟悉,但没有想到,百度在硬件和软硬结合的数据中心领域,也有惊人的表现。通过百度南京数据中心的“开放日”,专家们认识到,以百度为代表的中国互联网公司,已经在互联网技术领域积累了先进技术经验,丝毫不落后于国外领跑者。可以相信,在百度等公司的推动下,中国互联网与移动互联网,必将迎来更加蓬勃发展的明天。

云数据中心:因何而生?

当越来越多的网民开始“百度一下”的时候,百度公司面临的数据处理的压力也与日俱增。据统计,百度拥有的数据总量达到上百PB,日处理量达几十PB。

PB是Petabyte的简称,它是较高级的存储单位,1PB=1024Tb(Terabyte)=1024*1024GB(Gigabyte)。1PB相当于4千亿页文本。

按照百度的日处理量几十PB,我们假设按照60PB来计算,平均分摊到15亿中国人头上,相当于每个中国人要处理16000页文本,约等于700多页厚的新华字典,要摞起来厚厚的20多本。

如此巨大的数据量,还并不是困难的全部。百度要处理的数据,往往是结构化与非结构化并存,系统数据对数据一致性要求强弱程度不同,用户对数据的访问行为存在不确定性,即在毫无征兆的情况下,对某些信息进行突发式访问等。

面对新时期的挑战,传统的数据中心的成本就显得格外高昂。相比传统数据中心功耗高、IT设备负载低的弱点,云数据中心具有天生的优势,IT负载可以灵活调配,资源可被近实时的按需调节,极大地避免了浪费。

数年前,百度技术高管已经有了决断:要加快数据中心节能降耗进程,大幅降低成本。“以单体10万台服务器的数据中心为例,PUE(电能使用效率指标)每降0.1,一年就可为百度节约上千万元的成本;如果选择能源丰富的地理位置以降低电价,百度每年还可节约千万元成本。”数据中心节能的价值不言而喻。数据将爆发增长,数据中心规模也将随之快速扩张,因而,提前进行数据中心节能设计,为百度未来数据中心降低能耗、节省成本打下了坚实的基础。

百度云计算硬件基础设施亮点之一:ARM服务器体系架构全球首次正式商用

传统以来,PC与服务器界,INTEL INSIDE的标志几乎是不可更改的习惯,但是,你知道iOS、Windows Phone、Android这3大平台的手机共通点是什么吗?那就是这些手机CPU全都是采用ARM芯片。i美股《移动处理器“小巨人”ARM》报告披露,2011年全球智能手机出货4.7亿部,ARM架构芯片占90%,功能手机出货6.6亿部,ARM架构芯片占95%,硬盘和固态驱动器出货7亿,ARM占90%,数码相机1.5亿台,ARM占80%……

图:百度云数据中心在全球首次实现了ARM体系架构的正式商用

百度云计算硬件基础设施的第一大亮的即是在全球首次实现了ARM体系架构的正式商用,也是ARM体系首次服务于云数据中心的规模化应用。ARM专为百度云服务设计,基于云平台将软件与CPU指令集解耦,实现了轻计算负载,高存储密度,存储密度提升了70%,TCO降低了25%。而为了达成低功耗,低成本,百度也实现了指令集变迁,即一套代码,两种平台(X86&ARM)。

百度ARM服务器拥有10个以上的发明专利,是ARM全球首个Server端规模应用,并且是服务于云数据中心的规模应用,充分彰显了百度在移动计算上的技术领先性。

百度云计算硬件基础设施亮点之二:国内首个大规模部署定制化整机柜服务器

国内第一个大规模部署自主设计的定制化整机柜服务器,该项成果承载着百度自主研发与百度数据中心相匹配的、贴近业务需求的、具备最佳TCO的整机柜服务器解决方案的重任。

图:百度定制化整机柜服务器

第一批百度自主开发的整机柜服务器(200个rack机柜)已经在南京云数据中心上线。TCO(整体拥有成本)下降10%,峰值交付效率提升10倍。

百度云计算硬件基础设施亮点之三:中国互联网业内最大万兆接入服务器集群

据参观了百度南京云数据中心的专家透露,目前,该数据中心建成了目前国内互联网行业最大的万兆集群,集群规模超过5000个节点。基于百度自主研发的万兆ToR交换机以及低成本低功耗接入介质,该集群相对于传统的千兆集群,服务器节点带宽提升了3-10倍,同时硬件采购成本以及TCO仅分别上升8%和不超过5%。

另据了解,该机房使用了百度自主研发的,基于64核处理器的负载均衡系统,该系统可以为业务提供最大320G的负载均衡以及DDoS攻击防御服务,而其成本不到商用设备的10%。

百度南京云数据中心实现了两大革命性突破:不仅是国内互联网行业最大的万兆集群,也是国内首家大规模部署自研万兆交换机的数据中心。

百度云计算硬件基础设施亮点之四:SSD自主研发

如何处理海量数据的实时存储?面对百度海量数据存储需求的不断提升、软硬件架构从传统层次结构向竖井结构的变迁、On Demand定制软硬件的业界趋势,百度推动了SSD自主研发的进程。

在系统上,百度实现了从传统层次结构向竖井结构的变迁,同时,也实现了软硬件的高度协同和融合,如硬件多通道对应用可见,应用控制数据并发应用,显式擦除无用数据,避免性能波动;在软件上,实现了轻量级文件系统和IO系统,绕开Linux文件系统及IO协议栈,降低了访问延时和系统开销;而在硬件上,则根据百度数据访问模式定制,写放大系数恒为1,不需要预留冗余空间,同时,实现计算和存储的融合,可以作为计算协处理器应用。

SSD自主研发为百度云数据中心带来的好处是显而易见的,性能比主流PCIE flash卡好2倍,每GB成本降低40%;性能比主流SATA SSD好6倍,每GB成本降低10%,目前在百度网页库大规模使用,已经获得3个发明专利,完成和投出2篇学术论文。

百度云计算硬件基础设施亮点之五:自建数据中心年均PUE1.37,国内最佳

PUE(Power Usage Effectiveness)是国际上通用的数据中心能源使用效率衡量指标。PUE=数据中心总设备能耗/IT设备能耗,是一个比值,PUE越接近1表明能效水平越高。国内数据中心PUE目前平均值约为2.5,这意味着IT设备每消耗1度电,就有多达1.5度的电被IT配套基础设施消耗掉了。若全国数据中心PUE均值从2.5降低到百度的1.37,则节能率达到45.2%,保守估计全年可节电超过35亿度。

经过多年探索与实践,百度提出“节能从源头开始,软件、IT设备与基础设施协同”节能理念;“关注基础设施系统的每一个环节,把每一个方面做到极致”,最大限度地降低各个系统的能耗。百度结合国内自然环境及产业条件,推动多种节能技术在自建数据中心最佳实践。如:优化供电结构,减少转换损耗;首次规模应用市电主供、冗余电源备份方案;采用冷机变频、空调末端Ecfan等技术提高设备能效;提高供回水温度,延长免费冷却时间;采用CFD优化气流组织设计…… 最终通过运维调优,自建数据中心全年约50%时间实现完全免费冷却,年均PUE 1.37,最佳PUE 1.18,成为国内最节能、最环保的数据中心。

(责任编辑:施柏鹏)

时间: 2024-09-20 05:42:56

百度云计算硬件基础设施首度曝光的相关文章

百度云计算硬件基础设施首度曝光 惊艳业界

中介交易 SEO诊断 淘宝客 云主机 技术大厅 2013年1月11日,随着百度南京数据中心的"开放日"迎来首批嘉宾访客,百度云计算硬件基础设施的神秘面纱也逐步显现.记者从嘉宾的口中以管窥豹,了解到五大核心看点,为您首度披露百度背后的数据中心硬件架构. 业内专家同时对记者表示,以前只是对百度的搜索引擎技术.软件专利比较熟悉,但没有想到,百度在硬件和软硬结合的数据中心领域,也有惊人的表现.通过百度南京数据中心的"开放日",专家们认识到,以百度为代表的中国互联网公司,已经

摩尔定律都二变三了 硬件基础设施还有救吗

前几天收拾房间的时候,笔者从杂物间里搜出来一个壁挂钟.没错,就是晚上会发出"滴答.滴答"声的老式壁挂钟,相信70后或80后对这种老古董还记忆犹新,多少个夜晚就是这有节奏的钟摆声陪着我们入眠.但在这个电子设备消灭一切机械设备的时代,大部分人家里早就没有了这美妙的"滴答"声,可能甚至连电子壁挂钟也没有了,一台手机搞定一切. 在另一个维度的世界,"Tick-Tock, Tick-Tock"也像钟摆声一样维持着电子世界的秩序,不管是PC.服务器还是数据中

什么将成为云计算的基础设施

本文讲的是什么将成为云计算的基础设施,[IT168 资讯]行业标准服务器近几年是平稳发展的,新产品的重点是以同样的价格得到改善的性能和密度.刀片式服务器一直领跑高密度系统,并且成为部署虚拟服务器的首选的平台. 因此,通过把新的硬件和软件结合起来实现所谓的云计算式的基础设施,刀片式服务器与虚拟化的结合正在迅速发展.市场研究公司Gartner提出了2009年应该关注的10个战略技术和趋势.其中的一个趋势是传统的刀片式服务器和虚拟化的成熟将实现更精细的各种服务器资源的配置,包括从处理器.内存到存储和输

如何搞定云运维——云计算IT基础设施与自动化运维论坛掠影

5月18日~20日,第八届云计算大会在京召开,工业和信息化部副部长怀进鹏出席会议并讲话,云计算大数据领域的9位院士和200多位专家在全体大会和专题论坛上作报告,三天共有超过15000人次听众参会.这个数字远远超过了往届会议,从侧面也足以说明,云计算在国内已经取得了足够的认可和关注. 事实上,有一种趋势无法忽视.企业对云计算的主要诉求从"经济"转变为"业务",也就是说,云计算推广初期所高举的"省钱"大旗不再是企业关注的主要方向,企业更关注云对其业务

游戏安全资讯精选 2017年 第五期:国际网络犯罪基础设施被曝光,WireX 僵尸网络袭击全球,游戏行业最大攻击流量有所下降

  [每周行业DDoS攻击态势]     [游戏安全动态] 国际网络犯罪基础设施被曝光.点击查看原文   概要:Palo Alto Networks近日发现一批 Nymaim.Locky.Hancitor 等家族共用的横跨多国的基础设施,共计707个IP和2611个域名.目前707 个IP和2611个域名已经被公布在GitHub 上.   点评:不同黑客组织之间共享基础设施的合作模式预示着网络犯罪正逐渐走向国际化,同时传统依靠同域名.同C&C的同源溯源方式将很难证明某次 campain 由同一黑

窦唯八岁小女儿首度曝光浓眉大眼神似窦靖童

窦唯八岁小女儿首度 曝光(1/13张) 1996年,王菲嫁给摇滚歌手的窦唯,成为当时娱乐圈最轰动的事件.然而这段爱情并没有持续太久,两年后就爆出了窦唯和摄影师高原有染的消息.在一片指责声中,窦唯终于高调承认了新恋情.1999年8月,窦唯与王菲正式办完离婚手续,这场轰轰烈烈的爱情最终以王菲带着女儿离开收场.离婚后的舆论对窦唯相当不利.歌迷们纷纷指责窦唯的不是,认为是窦唯的花心伤害了王菲.作为摄影师的高原,很快受到这次绯闻事件的影响,她所在的那家杂志社不希望因此影响到自己的声誉,将她辞退了.高原没有

林俊杰新专辑《她说》封面照首度曝光(图)

<她说>预购视觉海报 林俊杰<她说>官方封面照 新浪娱乐讯 日前,林俊杰最新概念自选辑<她说>首度 曝光了专辑的封面照,照片中林俊杰侧耳倾听,寓意要用心去"听"身旁所重视.所爱的人"说",不管男生还是女生.家人或是朋友,都能打开心门,好好.静静地听"她说". <她说>即将于12月初全球同步发行.今年适逢林俊杰出道10年,他首度诠释了生命中重要的10首经典金曲.专辑首波同名主打歌<她说>已

百度云计算中心开工奠基 目标亚洲一流

百度19日在山西阳泉市举行百度http://www.aliyun.com/zixun/aggregation/13644.html">云计算中心项目奠基仪式.预计建成后的百度云计算(阳泉)中心可存储的信息量相当于20多万个中国国家图书馆的藏书总量. 通俗来说,云计算目的就是让用户像使用水和电一样,可以自由使用各种IT资源,云计算已经成为高科技领域的主要发展趋势之一.目前,百度的日数据处理量达到数十PB,在行业内处于领先地位. 百度云计算(阳泉)中心建成后,一方面将全面支撑百度互联网业务,实

百度云计算项目负责人阳振坤或已跳槽阿里巴巴

比特网(ChinaByte)5月13日消息 在昨日传出"百度云计算项目负责人阳振坤正在办理项目交接手续,即将离职"的消息后,今日,据接近阿里巴巴人士透露,阳振坤基本已经选择阿里巴巴做为新东家,不过目前消息并没有对外公布. 据消息人士透露,高级科学家阳振坤是在敲定好下一个工作机会后提出离职报告的,而新东家很可能是一家电子商务企业,双方已经在洽谈中,分析人士认为,阳振坤的离职或与百度不重视云计算有关. 业内人士推测,鉴于阳振坤的工作经历,挖人方必然是面临到需要并行处理并每天产生大量数据的大