揭秘淘宝286亿海量图片存储与处理架构,互联网营销

  【IT168 专稿】8月27日下午,在IT168系统架构师大会存储与系统架构分论坛上,淘宝网技术委员会主席,淘宝网核心工程师章文嵩向我们详细介绍了淘宝网图片处理与存储系统的架构。章文嵩博士的演讲日程包括了淘宝的整个系统架构、淘宝图片存储系统架构,淘宝网独立开发的TFS集群文件系统,前端CDN系统以及淘宝网在节能服务器方面的应用和探索。

  本文侧重介绍淘宝网后台的图片存储系统架构、包括TFS集群文件系统,以及前端处理服务器架构。

  解决海量并发小文件的系统噩梦

  对于淘宝网这类型访问量极高的电子交易网站来说,对图片系统的要求和日常的照片分享完全不在一个级别。日常照片分享往往集中在几个有限的亲朋好友之间,访问量不会特别高,而淘宝网商铺中的商品照片,尤其是热门商品,图片的访问流量其实是非常大的。而且对于卖家来说,图片远胜于文字描述,因此卖家也格外看重图片的显示质量、上传时间、访问速度等等问题。根据淘宝网的流量分析,整个淘宝网流量中,图片的访问流量会占到90%以上,而主站的网页则占到不到10%。

淘宝网电子商城首页截图,淘宝网的后端系统上保存着286亿多个图片文件,淘宝网整体流量中,图片的访问流量要占到90%以上。且这些图片平均大小为17.45KB,小于8K的图片占整体图片数量61%,整体系统容量的11%

  与此同时,这些图片的存储与读取还有一些头疼的要求:例如,这些图片要求根据不同的应用位置,生成不同大小规格的缩略图。考虑到多种不同的应用场景以及改版的可能性,一张原图有可能需要生成20多个不同尺寸规格的缩略图。

  淘宝整体图片存储系统容量1800TB(1.8PB),已经占用空间990TB(约1PB)。保存的图片文件数量达到286亿多个,这些图片文件包括根据原图生成的缩略图。平均图片大小是17.45K;8K以下图片占图片数总量的61%,占存储容量的11%。

  这就给淘宝网的系统带来了一个巨大的挑战,众所周知,对于大多数系统来说,最头疼的就是大规模的小文件存储与读取,因为磁头需要频繁的寻道和换道,因此在读取上容易带来较长的延时。在大量高并发访问量的情况下,简直就是系统的噩梦。

  分析自主研发和商用系统的经济效益

  淘宝网成立于2003年,在整个系统的构建和规划上也做过相当多的尝试和探索。

  下图是淘宝网2007年之前的图片存储系统。淘宝网之前一直采用的商用存储系统,应用NetApp公司的文件存储系统。随着淘宝网的图片文件数量以每年2倍(即原来3倍)的速度增长,淘宝网后端NetApp公司的存储系统也从低端到高端不断迁移,直至2006年,即时是NetApp公司最高端的产品也不能满足淘宝网存储的要求。

淘宝网2007年以前的图片存储系统架构图,由于淘宝网图片速度已每年2倍的速度增长,商用系统已经完全不能满足其存储需求,目前淘宝网采用自主研发的TFS集群文件系统来解决海量小图片的读取和访问问题。

  章文嵩博士在这里总结了几点商用存储系统的局限和不足:

  首先是商用的存储系统没有对小文件存储和读取的环境进行有针对性的优化;其次,文件数量大,网络存储设备无法支撑;另外,整个系统所连接的服务器也越来越多,网络连接数已经到达了网络存储设备的极限。此外,商用存储系统扩容成本高,10T的存储容量需要几百万¥,而且存在单点故障,容灾和安全性无法得到很好的保证。

  谈到在商用系统和自主研发之间的经济效益对比,章文嵩博士列举了以下几点经验:

  1. 商用软件很难满足大规模系统的应用需求,无论存储还是CDN还是负载均衡,因为在厂商实验室端,很难实现如此大的数据规模测试。

  2. 研发过程中,将开源和自主开发相结合,会有更好的可控性,系统出问题了,完全可以从底层解决问题,系统扩展性也更高。


自主研发和采用商用系统的经济效益对比

  3. 在一定规模效应基础上,研发的投入都是值得的。上图是一个自主研发和购买商用系统的投入产出比对比,实际上,在上图的交叉点左边,购买商用系统都是更加实际和经济性更好的选择,只有在规模超过交叉点的情况下,自主研发才能收到较好的经济效果,实际上,规模化达到如此程度的公司其实并不多,不过淘宝网已经远远超过了交叉点。

  4. 自主研发的系统可在软件和硬件多个层次不断的优化。

  TFS 1.0版本的集群文件系统

  从2006年开始,淘宝网决定自己开发一套针对海量小文件存储难题的文件系统,用于解决自身图片存储的难题。到2007年6月,TFS(淘宝文件系统,Taobao File System)正式上线运营。在生产环境中应用的集群规模达到了200台PC Server(146G*6 SAS 15K Raid5),文件数量达到上亿级别;系统部署存储容量: 140 TB;实际使用存储容量: 50 TB;单台支持随机IOPS 200+,流量3MBps。

淘宝集群文件系统TFS 1.0第一版的逻辑架构,TFS最大的特点就是将一部分元数据隐藏到图片的保存文件名上,大大简化了元数据,消除了管理节点对整体系统性能的制约,这一理念和目前业界流行的“对象存储”较为类似。

  图为淘宝集群文件系统TFS 1.0第一版的逻辑架构:集群由一对Name Server和多台Data Server构成,Name Server的两台服务器互为双机,就是集群文件系统中管理节点的概念。

  • 每个Data Server运行在一台普通的Linux主机上

  • 以block文件的形式存放数据文件(一般64M一个block)

  • block存多份保证数据安全

  • 利用ext3文件系统存放数据文件

  • 磁盘raid5做数据冗余

  • 文件名内置元数据信息,用户自己保存TFS文件名与实际文件的对照关系–使得元数据量特别小。

  淘宝TFS文件系统在核心设计上最大的取巧的地方就在,传统的集群系统里面元数据只有1份,通常由管理节点来管理,因而很容易成为瓶颈。而对于淘宝网的用户来说,图片文件究竟用什么名字来保存实际上用户并不关心,因此TFS在设计规划上考虑在图片的保存文件名上暗藏了一些元数据信息,例如图片的大小、时间、访问频次等等信息,包括所在的逻辑块号。而在元数据上,实际上保存的信息很少,因此元数据结构非常简单。仅仅只需要一个fileID,能够准确定位文件在什么地方。

  由于大量的文件信息都隐藏在文件名中,整个系统完全抛弃了传统的目录树结构,因为目录树开销最大。拿掉后,整个集群的高可扩展性极大提高。实际上,这一设计理念和目前业界的“对象存储”较为类似,淘宝网TFS文件系统已经更新到1.3版本,在生产系统的性能已经得到验证,且不断得到了完善和优化,淘宝网目前在对象存储领域的研究已经走在前列。

  TFS 1.3版本的集群文件系统

  到2009年6月,TFS 1.3版本上线,集群规模大大扩展,部署到淘宝的图片生产系统上,整个系统已经从原有200台PC服务器扩增至440台PC Server(300G*12 SAS 15K RPM)+30台PC Server (600G*12 SAS 15K RPM)。支持文件数量也扩容至百亿级别;系统部署存储容量:1800TB(1.8PB);当前实际存储容量:995TB;单台Data Server支持随机IOPS 900+,流量15MB+;目前Name Server运行的物理内存是217MB(服务器使用千兆网卡)。


TFS 1.3版本逻辑结构图

  图为TFS1.3版本的逻辑结构图,在TFS1.3版本中,淘宝网的软件工作组重点改善了心跳和同步的性能,最新版本的心跳和同步在几秒钟之内就可完成切换,同时进行了一些新的优化:包括元数据存内存上,清理磁盘空间,性能上也做了优化,包括:

  • 完全扁平化的数据组织结构,抛弃了传统文件系统的目录结构。
  • 在块设备基础上建立自有的文件系统,减少EXT3等文件系统数据碎片带来的性能损耗。
  • 单进程管理单块磁盘的方式,摒除RAID5机制。
  • 带有HA机制的中央控制节点,在安全稳定和性能复杂度之间取得平衡。
  • 尽量缩减元数据大小,将元数据全部加载入内存,提升访问速度。
  • 跨机架和IDC的负载均衡和冗余安全策略。
  • 完全平滑扩容。

  在后面“图片服务器部署与缓存”一节中详细介绍了淘宝网整个图片处理系统的拓扑图。我们可以看到,TFS在淘宝的部署环境中前端有两层缓冲,到达TFS系统的请求非常离散,所以TFS内部是没有任何数据的内存缓冲的,包括传统文件系统的内存缓冲也不存在。

  TFS主要的性能参数不是IO吞吐量,而是单台PCServer提供随机读写IOPS。由于大家硬件型号不同,当然也是因为一些技术保密的原因,淘宝网很难给出一个参考值来说明性能。但基本上可以达到单块磁盘随机IOPS理论最大值的60%左右,整机的输出随盘数增加而线性增加。

  开发中的TFS2.0与开源TFS

  TFS 2.0已经在开发过程中,主要解决的问题是大文件存储的难题。TFS最早开发的时候针对小文件频繁并发读取的难题而开发,设计的块大小是64MB,意味着每个文件小于64MB,这对于一般的图片存储来说完全足够用了,但对于大文件存储还有一些瓶颈。

  TFS 2.0将重点针对大文件跨越块的存储进行优化。此外,还包括SSD、SAS硬盘不同硬盘特性的应用优化。根据淘宝网的资料数据,SSD的存储成本大约是20¥每GB左右,SAS硬盘的存储成本约在5-6¥每GB,SATA盘的每GB成本不到1¥。随着对应用性能的要求提升,应用SSD是未来的趋势,针对不同硬盘的存取特性进行优化是十分必要的。

  此外,章文嵩宣布,TFS将在9月份完全开源,完全开源则意味着淘宝网将提供所有的源代码,开源版本的TFS将与淘宝网线上应用的系统完全一致。

  图片服务器部署与缓存

淘宝网图片存储与处理系统全局拓扑,图片服务器前端还有一级和二级缓存服务器,尽量让图片在缓存中命中,最大程度的避免图片热点,实际上后端到达TFS的流量已经非常离散和平均

  上图为淘宝网整体系统的拓扑图结构。整个系统就像一个庞大的服务器一样,有处理单元、缓存单元和存储单元。前面已经详细介绍过了后台的TFS集群文件存储系统,在TFS前端,还部署着200多台图片文件服务器,用Apatch实现,用于生成缩略图的运算。

  这里需要补充一点,根据淘宝网的缩略图生成规则,缩略图都是实时生成的。这样做的好处有两点:一是为了避免后端图片服务器上存储的图片数量过多,大大节约后台存储空间的需求,淘宝网计算,采用实时生成缩略图的模式比提前全部生成好缩略图的模式节约90%的存储空间,也就是说,存储空间只需要后一种模式的10%;二是,缩略图可根据需要实时生成出来,更为灵活。

  图片文件服务器的前端则是一级缓存和二级缓存,前面还有全局负载均衡的设置,解决图片的访问热点问题。图片的访问热点一定存在,重要的是,让图片尽量在缓存中命中。目前淘宝网在各个运营商的中心点设有二级缓存,整体系统中心店设有一级缓存,加上全局负载均衡,传递到后端TFS的流量就已经非常均衡和分散了,对前端的响应性能也大大提高。

  根据淘宝的缓存策略,大部分图片都尽量在缓存中命中,如果缓存中无法命中,则会在本地服务器上查找是否存有原图,并根据原图生成缩略图,如果都没有命中,则会考虑去后台TFS集群文件存储系统上调取,因此,最终反馈到TFS集群文件存储系统上的流量已经被大大优化了。

  淘宝网将图片处理与缓存编写成基于Nginx的模块,淘宝网认为Nginx是目前性能最高的HTTP服务器(用户空间),代码清晰,模块化非常好。淘宝网使用GraphicsMagick进行图片处理,采用了面向小对象的缓存文件系统,前端有LVS+Haproxy将原图和其所有缩略图请求都调度到同一台Image Server。

  文件定位上,内存用hash算法做索引,最多一次读盘。写盘方式则采用Append方式写,并采用了淘汰策略FIFO,主要考虑降低硬盘的写操作,没有必要进一步提高Cache命中率,因为Image Server和TFS在同一个数据中心,读盘效率还是非常高的。

  演讲人简介

  章文嵩博士是淘宝网的研究员,主要负责基础核心软件研发、推进网络软硬件方面的性能优化、搭建下一代高可扩展低碳低成本淘宝电子商务基础设施。他也是开放源码及Linux内核的开发者,著名的Linux集群项目--LVS (Linux Virtual Server)的创始人和主要开发人员,LVS集群代码已在Linux 2.4和2.6的官方内核中。在设计和架构大型系统、系统软件开发、Linux操作系统、系统安全和软件开发管理上有着丰富的经验。他一直在自由软件的开发上花费时间,并以此为乐。

时间: 2024-09-16 07:49:51

揭秘淘宝286亿海量图片存储与处理架构,互联网营销的相关文章

淘宝开放平台高级技术专家顾风胜:淘宝开放平台海量订单实时同步与处理实践

大流量高并发互联网应用实践在线峰会官网:https://yq.aliyun.com/activity/112 峰会统一报名链接:http://yq.aliyun.com/webinar/join/49 议题名称:<淘宝开放平台海量订单时实同步与处理实践> 议题简介:对商家后台系统在双十一订单处理过程的关键场景进行分析,如何利用淘宝开放平台的数据推送.奇门.批量API等技术,解决商家双十一海量订单的及时可靠同步.低成本的对接仓库发货.高效的调用API进行订单状态回写. 关于分享者 顾风胜,淘宝开

淘宝终于启动赚钱动作,试水网络营销

今天,淘宝网副总裁邵晓锋在艾瑞营销年会上对外宣布即将试水网络营销业务.此举被视为继打败ebay后,淘宝网又一个里程碑式的事件,同时有力反击了此前业内人士认为"淘宝会抢市场不会赚钱"的观点.淘宝为何要试水网络营销? 此次淘宝试水的网络营销业务,主要将集中在如何利用自身的独特优势,为客户提供精准.高效的网络营销服务.比如,帮助客户提升品牌,帮助客户促进销售. 为什么淘宝现在才决定试水网络营销业务,而之前没有动作呢?这是因为在2007年之前,淘宝还没有能力为客户做大规模整合营销.经过3年的长

淘宝网运营支撑研发部招聘架构师

问题描述 淘宝网运营支撑研发部招聘架构师如果你对软件架构,优化充满激情,如果你想在事业上寻找更大的突破,如果你的软件生涯想在挑战中度过,不妨来我们部门一展身手.附要求:运营支撑系统架构师职位描述:1.分析设计淘宝网会员.营销.收费.服务保障.信息安全等核心应用系统的架构:2.根据业务需求,进行系统的分析.方案提供.方案评审.核心架构的设计:3.参与核心模块的开发:4.指导高级软件工程师的设计工作:5.了解业界的技术发展.评估外部技术与解决方案:6.提升团队的技术分析与设计能力.职位要求:1.计算

淘宝双12推“愿望清单”进行精准化营销

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 11月29日消息,据亿邦动力网了解,在双十二期间淘宝网为进行大规模的精准化营销,12月3日将上线每个用户专属的"愿望清单"(也称"我的双12"). 在愿望清单中,每个用户不但能看到自己收藏夹和购物车中的商品,还还能看到对应商品所对应的商家的双十二优惠承诺.宝贝宣言.价格走势.商家标注的商品的标签. 近期

中小网站有望分淘宝10亿广告蛋糕

中介交易 SEO诊断淘宝客 站长团购 云主机 技术大厅 4月8日,淘宝网宣布启动网络联盟体系"淘宝联盟".淘宝方面预计,联盟网站将共同分享来自淘宝联盟带来的10亿元的"蛋糕". 据悉,"淘宝联盟"将为联盟内网站量身定制营销策略,让那些曾以广告位形式存在的网站真正享受到电子商务基础服务,成为淘宝海量商品的销售渠道. 98%中小网站没有固定收入 据CNNIC发布的最新报告显示,截至年底,中国共有各类网站323万家,其中超过98%的为没有固定广告及收入

照关月:淘宝“10000亿”背后的深思!

"2012年11月30日21时50分18秒,淘宝.天猫年成交额突破10000亿大关!". 以2011年社会消费品零售总额的排名统计,淘宝加天猫的成交额仅次于广东.山东.江苏.浙江四省,而1万亿的成交额,也占到2011年中国社会消费品零售总额5.4%的份额.盘点阿里巴巴的发展成长史,也正是中国电子商务发展历程的见证者. 顺应市场,是发展的唯一真理 2003年,淘宝网成立.在当时,阿里巴巴的主营业务还是B2B,面对慧聪网等竞争者,我们无法确定,推出淘宝网,马云的初衷是"另开项目,

淘宝4亿送“旺铺”170万卖家收“红包”

本报记者 赵明 节后这几天,不少淘宝新 卖家发现,自己订购的淘宝旺铺服务免费了. 这份新年"红包",来自于淘宝网推出的一项中小卖家扶植计划--对全网一钻以下信誉卖家,免费开放"旺铺扶植版"服务,无需再交任何费用. 据统计,此项政策将惠及淘宝170万家中小卖家,淘宝将为此项扶植计划首期投入大约4亿元,之后将随着计划的深入继续追加投资. 淘宝网商户平台事业部总经理喻策对中国经济时报表示,此次免费开放旺铺服务,是为了进一步降低中小卖家的创业门槛和成本,扶持中小卖家在淘宝平

阿里巴巴计划在五年内投资淘宝50亿元

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 淘宝网10月8日宣布,阿里巴巴集团将在未来五年内对淘宝网投资50亿元. 在此次宣布的50亿元投资中,包括列入阿里巴巴预算的30亿元投资,以及于7月宣布的20亿元追加投资.这是继今年9月初淘宝网和阿里妈妈整合,以及淘宝网开放平台计划之后,阿里巴巴对其网络购物板块进行的最大手笔的推进计划. 据淘宝网方面介绍,此次50亿元将用于淘宝网的人才引进,网

千岛湖小岛山庄淘宝2亿元开拍

本报讯 (记者 任翀)网络拍卖起拍价再次被刷新了.淳安县http://www.aliyun.com/zixun/aggregation/31896.html">人民法院近日发布消息称,将于5月20日10时至5月21日10时在淘宝网上对千岛湖镇的一处房产进行公开拍卖,网络起拍价高达2亿元.如果此次拍卖成功,将创下中国网络司法拍卖的新纪录. 此次拍卖的标的物包括淳安县千岛湖镇清心岛(清心山庄)房地产及配套工程,评估价约为2.336043亿元,起拍价为2亿元.负责此前国有工业出让土地使用权的海宁