揭秘全球最大网站Facebook背后的那些软件

  2010年6月,Google公布全球Top 1000网站。
Facebook独占鳌头。

   以Facebook现在的经营规模,诸多传统服务器的技术均将崩溃或根本无法支撑。那么面对5亿的活跃用户,Facebook的工程师们又将如何让网站平稳运转呢?伯乐在线 - 职场博客的这篇文章将展示Facebook的工程师完成这个艰巨任务所用到的一系列软件。

   Facebook级别规模的挑战

   在我们
深入细节之前,先了解一组Facebook不得不面对数据,你就可以想象这种规模。

Facebook每月的PV量:630,000,000,000 (6万3千亿) Facebook上的图片数量超过其他图片网站的总和(包括诸如Flickr这样的图片网站) 每个月有超过30亿的图片上传到Facebook Facebook系统每秒可以处理120万张图片。这还不包括Facebook的CDN处理的图片。 每月处理超过250亿的信息内容(包括用户状态更新,评论等) Facebook的服务器数量超过3万台(此数据为2009年的数据)

   Facebook所用的软件

   从某些方面来说,Facebook还是属于LAMP类型网站,
但是,为了配合其他
大量的组件和服务,Facebook对已有的方法,已经做了必要的改变、拓展和修改。

   比如:

Facebook依然使用PHP,但Facebook已重建新的编译器,以满足在其Web服务器上加载本地代码,从而提升性能; Facebook使用Linux系统,但为了自身目的,也已做了必要的优化。(尤其是在网络吞吐量方面); Facebook使用MySQL,但也对其做优化。

   还有定制的系统,比如, Haystack -- 高度可扩展的对象存储,用来处理Facebook的庞大的图片;Scribe -- Facebook的日志系统。

   下面展现给大家的是,
全球最大的社交网站Facebook所使用到的软件。

   Memcached

   Memcached是
一款相当有名的软件。它是分布式内存缓存系统。Facebook(还有大量的网站)用它作为Web服务器和MySQL服务器之间的缓存层。经过
多年,Facebook已在Memcached和其相关软件(比如,网络栈)上做了大量优化工作。

   Facebook运行着成千上万的Memcached服务器,借以及时处理TB级的缓存数据。可以这样说,Facebook拥有全球最大的Memcached设备。

   HipHop for PHP

   和运行在本地服务器上代码相比,PHP的运行速度相对较慢。HipHop把PHP代码转换成C++代码,提高编译时的性能。因为Facebook很依赖PHP来处理信息,有了HipHop,Facebook在Web服务器方面更是如虎添翼。

   HipHop诞生过程:在Facebook,一小组工程师(最初是3位)用了18个月研发而成。

   Haystack

   Haystack是Facebook高性能的图片存储/检索系统。(严格来说,Haystack是一对象存储,所以它不一定要存储图片。)Haystack的工作量超大。Facebook上有超过2百亿张图片,每张图片以四种不同分辨率保存,所以,Facebook有超过8百亿张图片。

   Haystack的作用不单是处理大量的图片,它的性能才是亮点。我们在前面已提到,Facebook每秒大概处理120万张图片,这个数据并不包括其CDN处理的图片数。这可是个惊人的数据!!!

   BigPipe

   BigPipe是Facebook开发的动态网页处理系统。为了达到最优,Facebook用它来处理每个网页的分块(也称“
Pagelets”)。

   比如,聊天窗口是独立检索的,新闻源也是独立检索的。这些Pagelets是可以并发检索,性能也随之提高。如此,即使网站的某部分停用或崩溃后,用户依然可以使用。

   Cassandra

   Cassandra是一个没有单点故障的分布式存储系统。它是前NoSQL运动的成员之一,现已开源(已加入Apache工程)。Facebook用它来做邮箱搜索。

   除了Facebook之外,Cassandra也适用于很多其他服务,比如Digg。

   Scribe

   Scribe是个灵活多变的日志系统,Facebook把它用于多种内部用途。Scribe用途:处理Facebook级别日志,一旦有新的日志分类生成,Scribe将自动处理。(Facebook有上百个日志分类)。

   Hadoop and Hive

   Hadoop是款开源Map/Reduce框架,它可以
轻松处理海量数据。Facebook用它来做数据分析。(前面就说到了,Facebook的数据量是超海量的。)Hive起源于Facebook,Hive可以使用SQL查询,让非程序员比较容易使用Hadoop。(注1: Hive是是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。 )

   Thrift

   Facebook在其不同的服务中,使用了不同的语言。比如: PHP用在前端,Erlang用于聊天系统,Java和C++用于其它地方,等等。Thrift是内部开发的跨语言的框架,把不同的语言绑定在一起,使之可以相互“交流”。这就让Facebook的跨语言开发,变得比较轻松。

   Facebook已把Thrift开源,Thrift支持的语言种类将更多。

   Varnish

   Varnish是一个HTTP加速器,担当负载均衡角色,同时也用于快速处理缓存内容。

   Facebook用Varnish处理图片和用户照片,每天都要处理十亿级的请求。和Facebook其他的应用应用一样,Varnish也是开源的。

   Facebook可以平稳运行,还得利于其他方面

   虽然上面已经提到了一些构成Facebook系统的软件,但是处理如此庞大的系统,本身就是一项复杂的任务。所以,下面还将列出使Facebook能平稳运行的一些东西。

   逐步发布&暗启动

   Facebook有一个系统,他们称之为“门卫”。该系统可以针对不同种类的用户运行不同的代码。(它简单介绍了代码库中的不同条件。)该系统让Facebook逐步发布新特性、A/B测试、激活仅针对Facebook员工的特性 等等。

   门卫系统也让Facebook做些“暗启动”的事情。比如,在某一特性上线之前,可以激活该特性背后的元件。另外,它还可以做模拟压力测试,发现瓶颈和潜在的问题。默默启动一般都是在正式启动之前的2周完成。

   实时系统的简介

   Facebook会仔细监控自身系统,有趣的是,它还监控每个PHP函数在实时生产环境下的性能。这一实时PHP环境监控是通过一个叫XHProf的开源工具完成的。

   逐步禁用某些特性,借以提高性能

   如果Facebook遇到性能问题,Facebook有大量的途径来逐步禁用不很重要的特性,以提高其核心特性性能。

   尚未提到的东西

   虽然这里无法过多深入硬件方面,但硬件绝对是Facebook能达到空前规模的重要因素。比如,和其他大型网站一样,Facebook也用CDN来处理静态内容。Facebook还在美国西部的俄勒冈州建有一超大的数据中心,可以随时增加服务器。

   当然了,除了前面已经提到的,还有其他大量的软件没有说到。但是,希望能突出其中非常有特色的。

   Facebook和开源之间的“恋情”

   Facebook和开源之间联系,此文不能不提,虽不能说Facebook是多么地钟爱开源,但至少可以这样说,Facebook是“爱”着开源的。

   Facebook不仅使用(也捐赠)开源软件,比如,Linux、Memcached、MySQL、Hadoop等等,它还内部开发不少软件,并且也将之开源。

   Facebook开发的开源工程,包括HipHop、Cassandra、Thrift和Scribe。另外,Facebook也把Tornado开源了。Tornado是一个高性能的Web服务器框架,由FriendFeed幕后团队开发而成。(2009年8月,Facebook收购FriendFeed。)

   (Facebook所用到的开源软件,可以在Facebook的开源页面找到。)

   面临更多的大规模挑战

   Facebook以一种令人难以置信的速度成长。它的用户群几乎是成倍增加,活跃用户数量现已接近5亿。而且,谁都无法预测今年底,活跃用户量会到
多少。

   Facebook甚至成立了一个专门的“成长小组”,该小组不断思考如何让人们使用facebook并融入到facebook中。

   这一快速成长,意味着Facebook将遇到不同的性能瓶颈。Facebook会面临来这如下方面的挑战:PV、搜索、上传的图片和状态消息,用户之间的交互和用户和Facebook之间的交互带来的挑战。

   这也是Facebook面对的事实。Facebook的工程师们将继续寻求新方法来扩展(这不只是增加服务器的问题了)。比如,随着网站成长,其图片存储系统已经多次完全重写。

   所以,我们将看到Facebook的工程师们奔向下一个“山头”。我们相信他们不会辜负众望。毕竟,他们正跨越山头,那个我们大多数人仅能向往的山头;他们正扩展网站,那个用户来自全球各地的网站。当你实现那个里程碑时,你将彪炳史册。

   数据来源:Facebook工程师们的报告和博客。

   本文首发:伯乐在线 - 职场博客

   本文地址:http://blog.jobbole.com/entry.php/73

   特殊申明:此文耗费笔者不少精力。如若转载,必须保留本文地址和出处,否则视为侵权。谢谢合作。

时间: 2025-01-27 08:29:44

揭秘全球最大网站Facebook背后的那些软件的相关文章

揭秘Facebook背后的那些软件

对于Facebook这样超大规模的网站,很多传统的解决方案根本不适用.Facebook工程师们面临的巨大挑战是保证一个近5亿活跃用户的网站一直稳定可靠地运行.他们是如何做到的呢,这篇文章将介绍一下他们所使用的软件和技术. Facebook飞速发展面临的挑战 在进入讨论细节之前,先看下面的一些数据,也许让你对Facebook所面临的巨大挑战有一些直观的认识: Facebook每月有5700亿页面浏览量 (据Google Ad Planner). Facebook的照片量比其他所有图片网站加起来的还

全球最大社交网站Facebook的IPO

早报记者 曹虹 全球最大社交网站Facebook(脸谱)的IPO(首次公开募股)交易本月可能实现. 彭博社.路透社.CNBC电视频道.道琼斯等多家通讯社昨日援引知情人士的话称,脸谱最快将于下周启动IPO路演.最先曝出这一消息的CNBC称,Facebook可能最快于7日上午路演,5月16日或17日在纳斯达克上市,交易代码为"FB". 知情人士同时提醒,虽然已经规划了时间表,该公司仍可能把IPO活动推后一到两天. 知情人士透露,不爱抛头露面的Facebook首席执行长扎克伯格将现身路演现场

全球社交网站排名:Facebook高居第一

近日,市场研究机构GlobalWebIndex公布了全球社交网站的活跃用户排名,排名显示Facebook仍然高居第一,Google++.Youtube.Twitter.Qzone(QQ空间)分居后四位.GlobalWebIndex总部位于英国,所统计的活跃用户为12月份使用那些社交网站的用户.简单介绍下这份报告: 全球社交网站 1.Facebook仍然是全球第一,活跃用户有7亿左右,全球互联网用户所占比例为51%; 2.Google+全球活跃用户数量已达到3.43亿,全球互联网用户所占比例为25

全球社交网站份额Facebook占半壁江山

3月30日消息,据国外媒体报道,市场研究公司InSites Consulting的数据显示,从全球来看,Facebook仍是最受欢迎的社交网站,50%的社交网站用户使用Facebook,MySpace和Twitter的比例分别为20%和17%. 东欧和亚洲的社交网站参与度最低,约为40%:南美的参与度最高,达到95%.英国人最常访问的网站包括Facebook和Twitter,比例分别为50%和42%.从全球来看,Facebook仍是最受欢迎的社交网站,50%的社交网站用户使用Facebook,M

全球用户数量最大的社交网站Facebook周二表示

据国外媒体报道,全球用户数量最大的社交网站Facebook周二表示,该公司正在就本周色情暴力视频和图片频繁现身部分Facebook用户账户事件进行调查. 近日,描绘色情和暴力的图片.网络链接以及视频已经数次出现在Facebook用户的Newsfeed页面. Facebook新闻发言人安德鲁-诺伊斯(Andrew Noyes)在发给路透社的一份电子邮件声明中写道:"近期媒体相继对此事进行了报道,我们正在调查和处理此事." 诺伊斯表示:"我们提供服务的一项重要内容就是保护Face

世界最大社交网站Facebook的神话

据美国媒体报道,世界最大的社交网站Facebook,最早将于2月1日提交首次公开招股(IPO)申请文件.Facebook目前对公司的估值为750亿美元到1000亿美元,筹资最多100亿美元.Facebook上市将是美国有史以来规模最大的IPO之一. 这一令人瞩目的IPO不仅引发了投行的争夺,也让全球的风投们陷入忙碌之中,Facebook的IPO可能带来的丰厚账面回报将是风投行业前所未有的.同时,如果其估值能够达到预期,无疑也为相关概念股带来了溢价空间. 投行.交易所争夺美国最大IPO Faceb

全球社交网站排名:QQ空间第五 Twitter增长最快

市场研究机构GlobalWebIndex近日公布了全球社交网站的活跃用户排名:Facebook仍然高居第一,Google+. Youtube.Twitter.Qzone(QQ空间)分居后四位.GlobalWebIndex总部位于英国,所统计的活跃用户为12月份使用那些社 交网站的用户.简单介绍下这份报告: 全球社交网站 1.Facebook仍然是全球第一,活跃用户有7亿左右,全球互联网用户所占比例为51%: 2.Google+全球活跃用户数量已达到3.43亿,全球互联网用户所占比例为25%.去年

《使命召唤》在社交网站Facebook的粉丝数量已达到1000万人

摘要: 北京时间5月10日消息,据国外媒体报道,全球最大的视频游戏开发商动视暴雪周一宣布,该公司将针对中国游戏玩家推出微支付网络游戏<使命召唤>.这是动视暴雪首次在亚洲市场推 北京时间5月10日消息,据国外媒体报道,全球最大的视频游戏开发商动视暴雪周一宣布,该公司将针对中国游戏玩家推出微支付网络游戏<使命召唤>.这是动视暴雪首次在亚洲市场推出免费版<使命召唤>.动视暴雪周一同时宣布,<使命召唤:黑色行动>(Call of Duty: Black Ops)当前

【独家】邵贵虎:全球知名网站的50大惊人数据

中介交易 SEO诊断淘宝客 站长团购 云主机 技术大厅 本文系站长网独家专稿,转载务必注明来源:站长网 作者:邵贵虎 互联网业已成为人们学习.娱乐以及进行全球沟通的信息中枢,然而人们却很容易忽视互联网上产生的一些惊人数字.本文旨在展示几个全球知名网站的最新最全的统计数据. Google 1.1,000,000,000,000-Google索引到的网址 2.2,000,000,000-Google每天搜索的网页 3.$110,000,000-Google每年因为"手气不错"所损失的广告金