微软首席架构师Yaniv Pessach谈微软大数据COSMOS(中文意思是宇宙)

微软首席架构师Yaniv Pessach谈微软大数据COSMOS(中文意思是宇宙)

参考:http://www.quora.com/Distributed-Systems/What-is-Microsofts-Cosmos

宇宙是微软内部大数据分析平台。

COSMOS宇宙是由分布式计算组件(有点相当于Hadoop的Map/Reduce了使用微软Dryad的解决方案,它(不像的map-reduce)允许计算任意DAG。

COSMOS宇宙支持类似SQL的语法(类似于HIVE/PIG),包括分布式存储组件(与HDFS);总体而言,宇宙提供了高度可扩展的,可靠的,容错以及自动缩放计算的海量数据集的操作。

根据文献[1],[3],宇宙允许使用类似SQL的语法,如

source = EXTRACT col1, col2 FROM “A”
Data = SELECT * FROM source where (condition)

用来提取数据,而不需要明确的Map/Reduce是由用户开发者原始的使用它。

SCOPE语言,就像SQL中,还支持[3]等操作符那里,连接,缩小,以及用户定义的操作符。这些包括减速器(基本上,输入解析)等可编程操作中用户代码[1,3],并且产生平行的,优化的[1]“执行计划”的定义的查询。

COSMOS宇宙是Microsoft内部使用广泛,在巨大的服务器[4]的数量,存储大量数据,并且每天处理数据量庞大的:“我们每一天以 处理数百个PB量级的数据从必应,AdCenter,MSN和Windows Live“[Software
Development Engineer, Principal-BING Job
] .

我认为这是所有至今所我们公布。

参考公共资源: Page on Microsoft
Stuff Yaron Finds Interesting http://hpts.ws/papers/2011/sessi...
Page on Microsoft
Cloud Storage @Microsoft (with the Cosmos Team)
is hiring!

 

时间: 2024-09-11 14:43:50

微软首席架构师Yaniv Pessach谈微软大数据COSMOS(中文意思是宇宙)的相关文章

蚂蚁金服首席架构师贝菈谈区块链

一.蚂蚁区块链--信任链接器如果在蚂蚁平台上看到一些打上区块链logo的项目,说明该项目底层平台已经用区块链来实现.首先,蚂蚁金服已经实现了用户所有资金划拨.资金全流程上链,资金可以像包裹一样让用户看到进度:其次,如果用户资金转为保险,比如为贫困孩子转的保险.这本质上代表了这部分资金不仅上了链,而且在链上做了一笔资产的转换,即转换成了保险资产,那么这个保险资产有没有赔付.它的运行状况又如何,都可以在链上进行公示.所以,区块链能为客户带来温暖而可信的改变,是因为它带来的是一种捐款人和受益人之间的链

豆瓣首席架构师洪强宁 谈豆瓣网技术架构

概要如何应对高并发.大访问量?如何保证数据的安全性以及数据库大吞吐量?在海量数据下,如何进行数据表变更?DoubanFS以及DoubanDB的特点以及技术实现?在QConBeijing2009期间,InfoQ中文站有幸采访了洪强宁,探讨了相关话题. 个人简介洪强宁,2002年毕业于清华大学,现任北京豆瓣互动科技有限公司首席架构师.洪强宁和他带领的技术团队致力于用技术改善人们的文化和生活品质,在网站架构.性能.可伸缩性上进行深入研究.豆瓣网曾获软件中国2006年度最佳技术应用网站. 关于会议QCo

驻云科技首席架构师肖凯:要融合云,不要混合云

混合云是当前企业云化的主流思路,但反对者认为,混合云并不能反映中国云计算市场的实际需求.驻云科技COO兼首席架构师肖凯表示,目前多个公有云混合的需求并不明显,企业关注的其实是公有云和内部部署IT集成的"融合云". 肖凯日前接受了记者的采访,给出了他对企业业务迁移到云服务的建议,并介绍了驻云科技相关产品和服务的设计理念.他表示,云计算的未来是公有云,私有云一定没有前途,但目前确实存在一些因素导致中国企业不可能直接完全迁移到公有云上,所以用户对所有的IT资源是需要一个统一的资源管理平台的.

灵雀云首席架构师:Docker容器的监控技术

前言     在Docker容器技术飞速发展之时,监控容器的效率与健康也变成了至关重要的需求.在Docker资深提供的监控技术逐渐成熟时,来自第三方的监控工具也同时步入了人们的视线.   本文将为大家介绍Docker容器的监控技术,并讨论时下在容器生态圈最受欢迎的监控工具.同时,来自美国的Saurabh也将分享容器技术在国外的应用趋势以及他个人的技术洞察.      大家好,我是Saurabh Wagh,目前在灵雀云负责容器服务相关的产品技术架构.我本人base在美国西雅图,恰好近期在北京参观几

首席架构师警告“公共云不能修复愚蠢”

企业使用适当的策略为其业务带来利益时,公共云是一个很好的事情.虽然对某些工作负载而言,可以降低成本,但是对于其他工作负载来说,它可能更昂贵,因为没有周密的战略方法,它可能会破坏价值而不是创造价值.换句话说,"公共云不能修复愚蠢的决策".这是美国明尼苏达州云计算服务提供商Datalink公司首席架构师Jason Anderson得出的结论,其提供的报告基于Datalink公司委托的美国IT主管IT最新调查结果. Anderson在最近的采访中讨论了这次调查报告,Datalink公司从中收

阿里云首席架构师唐洪:下一个技术飞跃是将应用程序的特性与适合的计算模型动态匹配

阿里云正在加大对客户自有环境下的容器服务支持.近日,阿里云首席架构师唐洪在接受国际容器技术垂直媒体<containerjournal>采访时表示,下一个伟大的技术飞跃是将应用程序的特性与适合的计算模型动态匹配. 据了解,近日,阿里云新推出了一个专有云产品:客户可以在自己的物理服务器上运行Docker企业版.这被称之为阿里云飞天专有云敏捷版(Apsara Stack Agility). 唐洪表示,阿里巴巴将持续推动在公共云上使用虚拟机来支持Docker容器.与此同时,一些企业组织也希望使用阿里云

消息称土豆网首席架构师赵亮加盟盛大集团

4月2日下午消息,据知情人士透露,土豆网首席架构师赵亮已经因个人原因离职,目前已经加盟盛大集团,将负责盛大集团下相关公司及部门的技术业务. 今年3月初新浪科技曾披露土豆网首席架构师赵亮因个人原因离职,当时已有包括百度视频.盛大集团等多家公司在与其接触,希望邀请其加盟,而赵亮最终选择加盟盛大集团. 虽然目前未有赵亮在盛大集团的具体职务,有行业人士认为根据其之前在土豆网CTO.首席架构师的职务经历,其有可能会负责盛大集团旗下酷6网的技术工作. 目前盛大方面及土豆网并未对此事做出评论. 赵亮于2007

百度云计算和大数据首席架构师林仕鼎辞职 投身创业

据可靠消息,百度的重要技术精英骨干, 云计算和大数据首席架构师林仕鼎今天正式辞职!离开百度. 近几年来,百度的框计算使得其搜索结果呈现出更丰富的内容,在这背后,离不开百度数据中心.百度网页存储与处理平台的贡献,这些都是林仕鼎在百度7年间最重要的工作. 林仕鼎于2007年10月加入百度,任网页搜索部高级研究员.主任架构师,主持开发了百度新一代网页存储与处理平台--百灵,这个平台帮助百度搜索引擎实现了网页与索引的跨量级增长. 2011年10月开始,开始担任百度云首席架构师,推动了百度建立了百度·移动

百度云首席架构师林仕鼎: 30年PC时代终结

2013年1月11日,百度全国数十个数据中心之一的南京云计算数据中心首度对外曝光.百度云首席架构师林仕鼎在与倪光南.侯自强等业界专家的参观交流中指出,数据中心和企业市场是x86 PC的最后一个堡垒,随着百度云带领ARM进入数据中心,30年PC时代宣告终结. 走向移动物联网:变革的时代 从1990年开始普及的桌面互联网(Internet),到2000年萌芽的移动互联网(Mobile Internet),再到2009年随着美国"智慧地球"概念兴起的物联网(The Internet of T