Google副总裁泄玄机:Google搜索技术揭秘

Google副总裁泄玄机:Google搜索技术揭秘- -
                     
 Google将其成功部分地归功于公司所发明的独有运算机制,令其搜索引擎可以在极短时间内对数以百万计的网络用户的搜索请求提供答案。
   上周三,Google副总裁Urs Hoelzle在Eclipse会议上的一番发言,令与会者有机会了解Google的搜索技术是如何产生以及该技术现在是如何运作的。
  Hoelzle对与会者说,要发明Google的技术,开发者必须抛弃过去大型数据库所使用技术的思维定势。由于一天里面所有搜索请求的内容都是不可预计的,因此手头上就必须拥有100亿左右的网页数据,这是确实是很大的挑战。
  Hoelzle出示了一系列早期Google硬件数据中心的照片。1997年拍的照片中是两台破旧的台式电脑。1999年,是数台Intel服务器,机器后面露出一堆乱七八糟的数据线。2000年的数据中心内,摆放的是1000台排列整齐的双处理器服务器。
  Hoelzle表示,"底层的硬件价格十分低廉,但却完成了许多工作。"同时,使用如此多的服务器,可靠性是Google关心的另一重点。Hoelzle表示,"Google使用自动控制的机制进行运作。否则,工程师们需要为重启服务器而疲于奔命。"
  为了抵抗不可抗力带来的影响,Google搭建了Google文件系统,该系统与Google的搜索运算系统紧密结合,并且对服务器故障有很高的承受能力。
  Google的所有操作均基于一系列的大容量文件,这些文件被拆分为64M大小的数据包,分布在多个"数据包服务器"中。文件的描述、数据包的数目和数据包的位置等资料都存放在中央服务器中。每一个64M的数据包都会在另外两个服务器上备份,三份拷贝的路径亦存放在中央服务器中。
  由于所有的文件都存放在Red Hat Linux服务器中,Google以很低的成本就保证了服务的可靠性。中央服务器会定时向数据包服务器发出脉冲信号,确定数据包服务器是否在正常运作。如果没有收到应答信号,又或者应答信号中显示某台数据包服务器的数据受到损害,中央服务器会从其他数据包服务器上取出数据包修复受损的服务器。这一工作通常在一分钟内则可以完成。
  Hoelzle指出,只有三台服务器上的拷贝同时受损,才会对Google的服务有所影响。这时候,就需要用一段长时间去收集互联网的数据以重建受损文件。

时间: 2024-07-30 22:19:52

Google副总裁泄玄机:Google搜索技术揭秘的相关文章

副总裁泄玄机:Google搜索技术揭秘-搜索引擎技术

Google将其成功部分地归功于公司所发明的独有运算机制,令其搜索引擎可以在极短时间内对数以百万计的网络用户的搜索请求提供答案. 上周三,Google副总裁Urs Hoelzle在Eclipse会议上的一番发言,令与会者有机会了解Google的搜索技术是如何产生以及该技术现在是如何运作的. Hoelzle对与会者说,要发明Google的技术,开发者必须抛弃过去大型数据库所使用技术的思维定势.由于一天里面所有搜索请求的内容都是不可预计的,因此手头上就必须拥有100亿左右的网页数据,这是确实是很大的

副总裁泄玄机:Google搜索技术揭秘

  Google将其成功部分地归功于公司所发明的独有运算机制,令其搜索引擎可以在极短时间内对数以百万计的网络用户的搜索请求提供答案. 上周三,Google副总裁Urs Hoelzle在Eclipse会议上的一番发言,令与会者有机会了解Google的搜索技术是如何产生以及该技术现在是如何运作的. Hoelzle对与会者说,要发明Google的技术,开发者必须抛弃过去大型数据库所使用技术的思维定势.由于一天里面所有搜索请求的内容都是不可预计的,因此手头上就必须拥有100亿左右的网页数据,这是确实是很

光速安振创投副总裁张矩:Google教会我的事

Google充分扁平.彻底分权.小型自我管理的团队文化中,唯有人才是创新的主体,也唯有以人为本,才能真正获得创造力的释放,塑造出具有长期进化优势的企业.泰勒的管理原理和韦伯的科层体制曾成功打造出高效和规范化的组织,却已无法适应一个需要想象力和创新精神的新世界.Google充分扁平.彻底分权.小型自我管理的团队文化中,唯有人才是创新的主体,也唯有以人为本,才能真正获得创造力的释放,塑造出具有长期进化优势的企业.本文的访谈对象张矩,是光速安振创投副总裁.张矩拥有超过20年的高科技领域行业经验,曾负责

去哪儿副总裁戴政:搜索营销是赢家的选择

中介交易 SEO诊断 淘宝客 云主机 技术大厅 尽管"去哪儿"网本身便是一家业内领先的垂直型旅游搜索引擎,但这却并不妨碍其与百度的密切合作.令人惊叹的是,如果从2006年最初开始关注搜索营销算起,去哪儿网与百度的合作历程如今已经进入了第五个年头,合作范围几乎覆盖了百度旗下的各个产品领域. 作为"去哪儿"网的副总裁,戴政认为是百度持续不断的产品技术创新,以及对合作伙伴完备的支持体系,让双方的合作水到渠成.按照戴政的回忆,早在2006年便已经注意到了搜索营销的价值,并于

360副总裁颜水成博士:技术与产品并重,1×1卷积让深度学习更出彩 | CCF-GAIR 2017

7 月 7 日,由中国计算机学会(CCF)主办,雷锋网与香港中文大学(深圳)承办的CCF-GAIR 2017全球人工智能与机器人峰会在深圳大中华喜来登酒店如期开幕.奇虎360副总裁.首席科学家.IEEE Fellow.IAPR Fellow颜水成博士带来了主题为<深度学习:精度极限VS用户体验>的演讲.这是大会首日最后一场演讲. 作为360 人工智能研究院院长,颜水成博士曾在新加坡国立大学领导机器学习与计算机视觉实验室,他的主要研究领域是计算机视觉.机器学习与多媒体分析,其团队提出的"

Facebook照片搜索技术揭秘

今天的人们使用智能手机拍摄的照片数量激增,这对传统的照片分类方式造成了不小的挑战.我们每个人整理自己手机中存储的海量照片尚且如此困难,对我们来说,要为所有人的照片定义一种更有序的分类方式无疑更是困难重重. 每天,人们会将数十亿张照片分享到Facebook,想想你自己向下滚屏查找几天前发布的照片有多麻烦,如果要找几个月甚至几年前的照片呢?为了帮大家更容易找到自己的照片,Facebook照片搜索团队使用机器学习技术深入了解照片内容,改善照片的搜索和获取过程. 我们的照片搜索功能基于一种名为Unico

Google美女副总裁:女子也能做极客

相信很多人都知道Google副总裁Marissa Mayer,这位美女在Google这个顶级搜索公司的地位不容小觑.Mayer近日在接受采访时谈到了两性择业问题,她 认为女性也可以从事IT工作,希望能通过自己的努力帮助打破女性不适合科技类工作的 偏见.为什么在技术行业女性从业人员非常少?Mayer:我喜欢技术,我认为 这不应该以性别做分界线,想要在这个行业消除性别歧视还有很多努力需要做.我也曾经 看过一些研究,这些研究指出女孩子在初中和高中时候开始对数学和科学不感兴趣.我想我是幸运的,我一直非常

Google美女副总裁谈Google过去和未来十年

中介交易 SEO诊断 淘宝客 云主机 技术大厅 北京时间9月8日消息,据国外媒体报道,在Google十周年之际,美国<洛杉矶时报>网站对Google美女副总裁玛丽莎?梅耶尔(Marissa Mayer)进行了一次专访,梅耶尔在专访中回顾了Google过去10年中所取得的成就,同时展望了未来10年Google的发展蓝图. 玛丽莎?梅耶尔 梅耶尔或许不能和Google创始人拉里?佩奇(Larry Page)和塞吉?布林(Sergey Bring)齐名,不过在很多方面,这位美女副总裁已经成为Goog

百度副总裁向海龙:技术创新实现“想用户所想、想用户未想”

偶然听到一首歌,却不知道歌名;看到别人穿的衣服很好看,却不知道去哪儿买;孩子询问植物的名字,爸爸却答不上来--互联网时代,信息量迅猛增长,信息的表现形式也越来越多元化,这让信息处理技术面临着更大的挑战.如何获取信息,找到所求,成为行业公认的难题.百度副总裁向海龙在5月29日举办的2014年百度联盟峰会上,百度副总裁向海龙表示,技术创新让百度的产品能够"想用户所想.想用户未想",技术是搜索引擎的核心竞争力.大数据让搜索更智能向海龙首先给大家展示了一张植物图片,外形很像枇杷,大部分人都没有