Google停用MapReduce,高调发布Cloud Dataflow

Google已经停用自己研发的,部署在服务器上,用以分析数据的MapReduce,转而支持一个新的超大规模云分析系统Cloud Dataflow。

MapReduce一直是服务器集群上做并行分布式计算的一个非常受欢迎的基础架构和编程模型。它是被广泛部署并已经成为很多公司商业产品的大数据基础架构平台Hadoop的基础。 

但是近日,这项技术已经不能处理谷歌想要分析的大量数据。技术基础设施部高级副总裁UrsHölzle表示,一旦数据规模达到数PB级字节,处理起来将变得非常困难。 

我们已经不再使用MapReduce。”Hölzle在周三于旧金山举行的谷歌I/O大会上发表主题演讲时表示,公司已经在几年前停止使用这个系统。

Cloud DataFlow,将作为一项服务提供给使用它们云服务的开发者,这些服务并没有MapReduce的扩展限制。 

Cloud Dataflow是这近十年分析经验的成果。”Hölzle说,它将会比现存的所有的系统运行的更快,更易扩展。 

“这是一个完全托管服务,它可以自动优化、部署、管理以及扩展。它使开发人员对批处理和流媒体服务能够使用统一编程轻松地创建复杂的管道。“他表示。

所有这些特点,谷歌认为在MapReduce上无法完成:很难迅速获取数据,不能进行批处理和流处理,而且经常需要部署和运行MapReduce集群。

Hölzle在展示会上也宣布谷歌云平台上其他一些新的服务:

  • Cloud Save是一个API,它使应用程序能够在云中或其他地方保存单个用户的数据而不需要任何服务器端的编码。提供App Engine的PaaS用户和提供Compute Engine的用户都可以利用这特征构建App。
  • Cloud Debugging简化了筛选出部署在云端的多台服务器中的软件缺陷的过程。
  • Cloud Tracing提供了不同群体(数据库服务调用,例如等待时间)的延时统计数据以及分析报告。
  • Cloud Monitoring是一款与Stackdriver(谷歌5月份收购的一个云监控初创公司)集成的智能监控系统。该系统监控云基础设施资源,如磁盘和虚拟机,还有一些为谷歌提供服务的服务等级以及十几个非谷歌提供的开源软件包。

原文发布时间为:2014-06-30

时间: 2024-08-03 14:57:33

Google停用MapReduce,高调发布Cloud Dataflow的相关文章

谷歌弃用 MapReduce, 推出替代品 Cloud Dataflow

谷歌在周三发布了 Cloud Dataflow,一个用来既可以使用流式处理又可以使用批处理模式的大数据分析服务. 这个消息是在旧金山举行的谷歌 I/O 大会上公布的.它帮助完成了搜索巨头的云计算格局,为了对抗亚马逊的网络服务而一直在添加新功能. 谷歌高级副总裁乌尔斯·霍泽尔简要介绍了 Dataflow,并演示了一个围绕处理推特上的数据和世界杯人气的 demo.Dataflow 是介绍的一系列云服务里的头条. 霍泽尔说谷歌内部已经使用 Dataflow 替代了 MapReduce(MapReduc

三星将会在下周举行Google I/O大会上发布一款新型的智能手表

摘要: 三星将会在下周举行Google I/O大会上发布一款新型的智能手表,该设备将运行Google最新为可穿戴设备量身定做的新操作系统Android Wear. 消息灵通人士称三星目前同时在研发至少两款可穿 三星将会在下周举行Google I/O大会上发布一款新型的智能手表,该设备将运行Google最新为可穿戴设备量身定做的新操作系统Android Wear. 消息灵通人士称三星目前同时在研发至少两款可穿戴设备,其中一款用高通的芯片,另一款则用三星自己的芯片.但目前尚不清楚6月25号时将发布哪

Google财报遇提前发布闹剧 净利大跌股价下降8%

北京时间10月19日消息,Google今天公布了2012年第三季度业绩.其中,营收113亿美元(不计流量采购成本27.3亿美元),低于分析师预期. 纽约时间中午12点31分,Google意外在盘中公布财报,其营收.利润均远低于市场也预期.财报公布后,正在交易的Google股票股价下跌9%,报688美元,随后纳斯达克交易所被迫暂停了该股票的交易. Google三季度的净利为21.8亿美元,每股收益6.53美元.一年前同期净利为27.3亿美元,每股收益8.33美元. 三季度,Google每股收益9.

华为高调发布“麒麟”芯片

本报记者 施建 深圳报道 手机芯片行业颇有"新桃换旧符"的意味. 那边厢,全球第二大芯片设计企业博通(Nasdaq:BRCM)刚刚无奈宣布退出手机基带芯片业务:这边厢,华为旗下芯片企业海思首次以"麒麟"品牌发布了一款世界级芯片. "目前发布的这颗芯片不仅满足8核.4G等手机业前沿要求,还在全球首个支持Cat6."一位参加了海思最新芯片发布会的业界人士对21世纪经济报道记者表示,支持Cat6使其可以达到峰值300M的下载,"这一点连手机芯

Google允许开店 面向企业发布Google+ Pages

中介交易 SEO诊断 淘宝客 云主机 技术大厅 CNET科技资讯网 11月8日 国际消息:Google终于开始允许企业在其Google+社交网络上开商店了.Google已经创建了Google+ Pages,企业能够在该网页上添加自己的内容,以便客户和粉丝与之联系. Google工程高级副总裁维克·刚多拉(Vic Gundotra)周一在博客中称:"Google+一直致力于人们之间的联系.我们希望确保用户能够与自己关心的所有事物建立关系,范围覆盖了从地方企业到全球品牌.因此,我们今天在全球范围内推

搜狐畅游高调发布次世代系列产品线

5月2日消息,国内网游巨头搜狐畅游近日高调发布了次世代系列产品线,一次放出5款次世代大作的举动在行业内引起了轩然大波,不过这还不够4月27日,搜狐集团董事局主席兼首席执行官张朝阳也加入了为畅游打气的行列,在接受央视媒体采访中,张朝阳明确表示,继<天龙八部>之后,公司积蓄了一批新的游戏,将为畅游的下一步增长注入动力. 张朝阳是在谈到最近几年游戏行业增速放缓的趋势时,做出上述表示的.中国网游行业诞生数十年来,前六七年都保持着60%以上的年增速,但是到2010年,增速首次放缓到30%以下,为26.3

机械硬盘要完?希捷高调发布12TB硬盘

固态硬盘发展迅速,不仅速度非常快,而且在容量方面越来越大,使得机械硬盘的境地越来越尴尬.但作为机械硬盘厂商中的主力厂商之一,希捷正是发布了容量高达12TB的机械硬盘.这个容量对于固态硬盘来说,目前普及还是不太可能. 希捷高调发布12TB硬盘 不过,虽然容量高达12TB,但以目前固态硬盘的发展速度,相信不久将来固态硬盘在容量方面将全面超越机械键盘.就目前而言,机械硬盘作为存储仓库还是非常具有优势的,毕竟价格要便宜很多.希捷本次发布的12TB机械硬盘,售价应该不会低于500美元.      本文转自

电商高调发布降价宣言

京东商城负责人刘强东14日称,15日起京东大家电价格会比苏宁易购低10%;随后,苏宁易购和国美电器网上商城也宣布加入价格混战,各大电商纷纷称会将大家电价格压到最低.可是家电价格真的降了吗?福州不少网友15日一大早就打开各大电子商务网站准备"血拼",但让人失望的是,这些商品不是没货就是价格没怎么降. 电商高调发布降价宣言 14日上午,京东商城负责人刘强东称:"今天,我再次作出决定:京东大家电三年内零毛利!如果三年内,任何采销人员在大家电加上哪怕一元的毛利,都将立即遭到辞退!从今

传三星将在下周的Google I/O大会上发布一款运行

摘要: 三星将会在下周举行Google I/O大会上发布一款新型的智能手表,该设备将运行Google最新为可穿戴设备量身定做的新操作系统Android Wear. 消息灵通人士称三星目前同时在研发至少两款可穿 三星将会在下周举行Google I/O大会上发布一款新型的智能手表,该设备将运行Google最新为可穿戴设备量身定做的新操作系统Android Wear. 消息灵通人士称三星目前同时在研发至少两款可穿戴设备,其中一款用高通的芯片,另一款则用三星自己的芯片.但目前尚不清楚6月25号时将发布哪