存储帮助Facebook 150万用户顺畅交友

Facebook的用户现在每个月都上传超过800万张数码照片,截至去年夏天,Facebook是全球排名第一的网络照片存储网站,共存储了6.5亿张图片,同时,Facebook还拥有500多万部影片,以及其他内容,其中包括约20万件网络新闻、博客文章以及报告和评论,总计存储的数据量达到数个PB,所有这些数据都需要安全的存储,而且需要马上就进行检索。而这,是一个极为艰巨的任务。

事实上,Facebook就像是一个传奇,很难相信,前哈佛大学二年级学生Mark Zuckerberg创建的Facebook到目前为止仅仅只有5岁,在如此短的时间内积累下如此庞大的数据简直让人不可思议,但是,这的确是事实。

其实,Facebook的增长一直这么快且乐观,在2007年12月,该公司在美国加州的数据中心达到了满载的容量,幸运的是,Facebook的存储管理团队已经看到了存储的未来,并且在数据增长的过程中在美国东海岸的弗吉尼亚州建立了一个数据中心,并在几周前正式上线。不过,能够积极地管理PB级别的数据是很不容易的事情,因此,Facebook的团队一直在寻找可行之道。

“对于存储容量来说,我每天早餐的时候都会看到一个图表,那上面显示着我们正在做的。”Facebook公司存储工程经理Anoop Nagwani表示,他已经在Facebook工作了一年半,“我们每个月都会评价整个我们的组织机构,然后每周都会有一个小组讨论。”

MySQL越来越庞大

Facebook的用户数据存储在MySQL数据库上,Facebook拥有一个全球最大的MySQL数据库系统,骑在超过1800台服务器上运行着MySQL数据库。Facebook选择了MySQL的开放性,因为其代码的可修改性是必要的。Facebook同时还是用了大量的内存缓存服务器(Memcached Server),其速度大幅度超过了MySQL服务器,从而能够更好的跟上存储数据副本的要求。此外,每个晚上,Facebook都会进行数据复制,将Facebook在西海岸数据中心的数据复制到东海岸的数据中心中,并进行一次数据转储,这些数据通过重复数据删除技术专业厂商Data Domain的技术进行重复数据删除后进行长期存储。
Facebook处理图片和视频略有不同,其使用NetApp的NFS系统以及SATA硬盘来进行存储,因为NetApp能够在一个很大的容器中存储很大的对象。但是,随着Facebook上存储的照片数量的增长,NetApp的系统因由元数据已经不堪重负,造成了带宽的瓶颈。

因此,今年晚些时候,Facebook计划推出自己的对象存储系统“Haystack”,该系统被其描述为“一个标示数据所在的用户级别的抽象对象都存储在一个单一的文件中(类似于LUN)”。

Facebook也使用NFS来存储视频,“因为我们有许多设备要存储相同的数据在一线系统,这事最具成本效益和高性能的方式做到这一点。”Nagwani谈到。Facebook的系统正在像Isilon的集群存储系统一样良好工作着。但是Nagwani和他的团队仍然在积极寻找其他平台,比如Sun的Storage 7410统一存储系统,其能够扩展到576TB。

能耗和性能取得均衡

另一个备受Nagwani和他的团队关注的话题是能耗问题。

“我们一直都在关注电力问题。”他表示,“我们担心我们数据中心机架的能耗。话虽如此,我们正在制定一个解决方案,例如,当我们转移到NetApp,特别是当我们的照片都转移到运行着SATA硬盘的NetApp系统时,我们很看重电力消耗。我们期待系统能够做到的I/O指数,他们提供的容量和性能。而且我们还希望从根本上创建一个cookie刀片设计,我们要知道该系统有多少能力能够支持多少的用户使用。”

正如他的MySQL的数据,Facebook的照片和视频从西海岸数据中心利用快照复制到东海岸的数据中心,这样一来,“如果有人和类型的应用程序或是管理错误,我们可以随时通过快照来返回,或者,在最坏的情况下,出现系统故障,我们能够转移到东海岸,并将数据复制到西海岸那边。”Nagwani表示。

另一个大的问题是,Facebook的团队关注扩展性,因为,大约每周用户上传到Facebook的数据达到25TB,“这是我们的第一要务,是我们的规模、和扩展水平能够领先市场需求的原因。”

“闪存将是我们今年巨大的进步。”——Anoop Nagwani

作为其始终创建最佳的数据存储平台的长期战略,Facebook目前正在研究闪存技术,特别是以PCI为基础的高容量闪存设备,加入到固态存储(SSD)的用户大军中去。

“我们正在寻求将高容量的闪存设备到我们的MySQL数据库中去,因为我们的数据库内容需要非常快的I/O操作,这样做就能更快的进行ETL处理、数据仓库并且可以更快的获得数据。”Nagwani表示,“我们也在寻求将Sun的ZFS平台作为我们的一个新的系统,就像我们使用NetApp一样。我们喜欢他们,因为他们有一系列的闪存,因此,我们可以缓存大量的数据,所以基本上我们今年在闪存存储上的进步将是巨大的。”     

 

 

来源:51CTO

时间: 2024-10-31 02:25:56

存储帮助Facebook 150万用户顺畅交友的相关文章

交友网站数据库曝光了150万用户信息

据外媒报道, 近日一个新西兰交友网站对一个包含150多万用户信息的数据库进行了安全性保护.这家网站的运营商C&Z Tech Limited表示, MacKeeper安全研究中心的安全专家在发现这个问题后向该公司发出提醒. C&Z 在发给MacKeeper的邮件中表示,这个数据库只是包括了测试数据,而Mackeeper团队认为这并不属实. C&Z Tech在邮件中表示:"感谢让我们知道我们数据库中存在的漏洞.MongoDB数据库的有效期只有几个小时,因为我们正在测试将数据从

错误配置的交友网站数据库曝光了150万用户的详细信息

据外媒报道, 近日一个新西兰交友网站对一个包含150多万用户信息的数据库进行了安全性保护.这家网站的运营商 C&Z Tech Limited表示, MacKeeper安全研究中心的安全专家在发现这个问题后向该公司发出提醒. C&Z 在发给 MacKeeper的邮件中表示,这个数据库只是包括了测试数据,而Mackeeper团队认为这并不属实.   C&Z Tech在邮件中表示:"感谢让我们知道我们数据库中存在的漏洞.MongoDB数据库的有效期只有几个小时,因为我们正在测试

手机僵尸病毒感染150万用户

本报讯 (记者 古晓宇) 日前,央视对手机僵尸网络的泛滥进行了 曝光,昨天,记者从网秦全球安全中心了解到,目前手机僵尸病毒变种已达10种以上,累积用户感染量已突破150万以上. 据了解,手机僵尸网络就是将手机僵尸病毒伪装为短信链接,骗取用户点击,和将病毒伪装为手机常用程序,骗取用户下载安装后,迫使用户感染和以其手机为病毒传播源,外发给其对应联系人进行二次扩散传播,使更多的手机感染此病毒后成为新的"僵尸手机".网秦手机安全专家介绍,其危害方式包括:将信息外发给手机中的对应联系人,因此被感

Facebook:70万用户行为数据测试情绪传染

Facebook 的数据科学家在<美国国家科学院院刊>发布的一篇论文表明,人类的情绪在社交网络上具有传染性,但由于论文涉及的试验是在用户不知情的情况下篡改了其动态消息(News Feed),这也引发了不少的争议. 这项试验由 Facebook 的数据科学家 Adam Kramer 领衔,其目标是研究社交网络(积极与消极)影响的传播方式,最终他们得出的结论是,"面对面互动和非语言线索并非情绪传染的绝对必要条件." 为了验证假设,研究者挑选了 689003 名 Facebook

美创业公司增速排名:Path居首 上线2周用户达150万

美国科技博客网站BusinessInsider今日撰文,盘点了当前最炙手可热的15家创业公司,房屋租赁网站Airbnb和照片共享应用Path榜上有名.其中,Path上线两周用户量即达到150万,可谓发展最快的科技创业公司. 以下为文章主要内容: 创业公司的发展速度似乎超过以往时候.例如,老版Path下载量突破100万次大关,用了一年时间.如今,新版Path发布后还不到两个月,下载量便已达到200万次.老版Fab在市场上也未获成功,但在去年四月新版重新推出后,轻松突破了100万用户大关. 我们在下

Evernote付费用户达150万 计划2015年进行IPO

中介交易 SEO诊断 淘宝客 云主机 技术大厅 腾讯科技讯(无忌)北京时间8月25日消息,据国外媒体报道,网络笔记和文件存储服务Evernote计划将首次公开招股(IPO)时间放在至少2015年,因为该公司当前正在把免费产品用户转变成为付费用户. 考虑到Facebook自今年5月份进行首次公开招股以来市值已经损失了一半,Evernote首席执行官菲尔·利宾(Phil Libin)希望"尽可能长时间的让公司保持私有性."利宾表示,虽然在过去的一年当中,Evernote的用户增长两倍以上,

美照片共享应用Path上线2周用户达150万

照片分享应用Path 导语: 美国科技博客网站BusinessInsider今日撰文,盘点了当前最炙手可热的15家创业公司,房屋租赁网站Airbnb和照片共享应用Path榜上有名.其中,Path上线两周用户量即达到150万,可谓发展最快的科技创业公司.以下为文章主要内容:创业公司的发展速度似乎超过以往时候. 例如,老版Path下载量突破100万次大关,用了一年时间.如今,新版Path发布后还不到两个月,下载量便已达到 200万次.老版Fab在市场上也未获成功,但在去年四月新版重新推出后,轻松突破

WiFi万能钥匙全球日新增用户突破150万

随着WiFi日益成为与水.电.煤一样不可或缺的生活必需品,专注于用分享经济模式为广大用户提供免费上网服务的WiFi万能钥匙受到持续热捧,新增用户数不断攀升.1月28日,连尚网络宣布,旗下WiFi万能钥匙全球日新增用户突破150万,成为中国移动互联网领域发展最快的应用之一. WiFi万能钥匙是中国移动互联网领域杀出的一匹"黑马",通过优质的产品和服务,以及"以慢打快"等独特运营方式快速积累海量用户.截止2015年12月,WiFi万能钥匙总用户数超过7亿,月活跃用户数达

和Facebook竞争,社交平台Mico怎样在1年内获得3000万用户?

在海外,这款社交应用产品在很多国家的APP Store排名甚至一度压过了Facebook. 在国内,你或许并没有听说过Mico.但在海外,这款社交应用产品发布一年,就圈到了3000万用户,在很多地区的APP Store排名在前五名之内,在有的国家甚至一度压过了Facebook.这在很多同类产品里,也是很亮眼的成绩.在去年年底,Mico获得了A轮3000万美元的融资,估值2亿美元. 作为一款面向全球市场的移动社交平台,Mico主打"基于兴趣的智能社交推荐系统",有近 20 种不同的语言版