云平台下图数据处理技术

云平台下图数据处理技术

刘超 唐郑望 姚宏 胡成玉 梁庆中

针对Hadoop云平台下MapReduce计算模型在处理图数据时效率低下的问题,提出了一种类似谷歌Pregel的图数据处理计算框架——MyBSP.首先,分析了MapReduce的运行机制及不足之处;其次,阐述了MyBSP框架的结构、工作流程及主要接口;最后,在分析PageRank图处理算法原理的基础上,设计并实现了基于MyBSP框架的PageRank算法.实验结果表明,基于MyBSP框架的图数据处理算法与基于MapReduce的算法相比,迭代处理的性能提升了1.9~3倍.MyBSP算法的执行时间减少了67%,能够满足图数据高效处理的应用前景.

云平台下图数据处理技术

时间: 2024-08-01 03:49:25

云平台下图数据处理技术的相关文章

数字化转型正当时 PWorld2016探云平台背后的技术架构与实现

在CTO.CIO群体现在什么话题最火?企业数字化转型.微服务.精益运营.DevOps.容器.大数据,而这些话题在今年8月26日由普元.CSDN联合主办以"开放·连接"为主题的PWorld 2016上可以一次性听到. "以前企业总是在抱怨架构不够灵活,而现在已经进入了大软件.大应用难以适应快速变化的环境."普元CTO焦烈焱说道,现在则可以使用微服务架构进行服务和管理,提高应用.管理.交付.运维的整体效率,实现数字化时代的企业敏捷. 普元CTO焦烈焱 普元在2014年就

如何通过云平台充分发挥私有云的价值?

  随着云计算技术和产品的逐步成熟,以及对安全性和可控性的要求,不少大中型企业已经建成或者正在建设私有云.私有云对企业带来的效益包括提高 IT 资源利用率.提高 IT 运维效率.降低信息化 TCO.提升 IT 服务质量.加快业务系统的 TTM 等等很多方面.但实际情况是公司花了大把资金建设了一个甚至多个高大上的云平台,但感觉资源发放还是慢,资源利用率依然低,运维起来反而更复杂,完全没有收获当初厂商承诺的效益. 资源的发放不仅仅是通过镜像克隆一台虚拟机实例那么简单,还需要做很多配置拉通工作,例如配

基于高性能计算的开源云平台性能评估

基于高性能计算的开源云平台性能评估 李春艳   张学杰 云计算是一种提供各种IT服务的互联网资源利用的新模式,已经广泛地应用在包括高性能计算的各种领域.然而,虚拟化带来了一些性能开销;同时,不同的云平台实施虚拟化技术的不同,使得在这些云平台上应用高性能计算服务的性能也千差万别.通过HPC Challenge (HPCC) Benchmark和NAS Parallel Benchmark(NPB)分别对CPU.内存.网络.扩展性和高性能计算真实负载进行评估,比较并分析了诸如Nimbus.OpenN

五年磨一剑 初志云平台正式服务于用户

  近日,初志正式推出全新的国产自主可控初志InitCloud云平台,其产品是基于自身云存储技术优势结合云安全领域相关技术,并将先进的openstack技术进行了深度二次开发的基础架构云平台,通过云平台建设可全面满足用户云化的需求,帮助用户打造自己的云计算生态系统.初志InitCloud云平台的设计之初严格参照了国家对云平台的相关标准,并且对标公安行业警务云标准,以此为打造行业私有云奠定了坚实的基础.伴随产品的发布,其产品设计背景以及初志为用户提供云服务业务的相关问题被大家所关注. 厚积薄发 初

EasyStack陈喜伦:云计算进入收获季节 聚焦行业云平台和场景化

云计算大时代的特征 上述生态圈的构架缘于对进入"云计算正进入大时代"的判断.从2006至2016,十年云计算发展,中国云计算的十年,基本解决了"有和无"的问题,概念导入期已经完成.下一步需要解决的是"有和优"的问题.我们看到,10年来云服务的对象从初创企业.互联网企业起步,已逐渐呈现行业化和大客户化趋势;云计算技术从封闭走向开放,更多的行业客户和大型企业开始采用开源云架构去全面拥抱云计算,意味着云计算正跨越边缘创新走向主流市场. 基于此,Easy

基于MongoDB的高并发高可用政府云平台架构实践

3月12日下午在阿里巴巴西溪园区,举行了MongoDB杭州用户交流会.微软MSDN特邀讲师徐雷分享<基于MongoDB的政府云平台高并发高可用HA架构实践 >,从自身实践出发,讲述了政府云平台分层.技术栈选型.物理架构.API架构及DB数据库架构的设计思路和方法.   以下内容根据现场分享和演讲PPT整理而成.   学习MongoDB的重要性 目前,几乎所有国内外的互联网大公司都在用MongoDB,学习企业需要的技术很重要.   MongoDB优点   相比较关系型数据库而言,MongDB有两

落地警务云平台存储标准 规范公安信息

随着IT技术的不断发展,数据的生成方式也随之发生变化.2000年以前,数据主要由各企业的ERP系统被动生成,数据总量可控:到了互联网特时代(特别是移动互联网时代),大量数据由个人主动生成,数据总量快速增加:而到了物联网时代,海量数据由各类感应器.视频摄像头源源不断地自动生成,数据总量呈几何级数膨胀.面对需要存储的海量数据,采用传统存储设备存储虽然在性能和可靠性上有比较好的保障,但海量数据的存储成本给各信息主管部门带来了巨大的经济压力,用户迫切需要一种新型的存储技术来应对这个挑战.因此,云存储技术

VisualOps赵鹏:云平台,性价比和对新技术的敏感性是关键

10月30日-31日,2014腾讯全球合作伙伴大会在海南博鳌顺利举行.随着互联网科技的高速发展,互联网行业出现了爆发式的增长,大量资金与人才纷纷投入互联网创业大潮之中.10月30日腾讯云"大云端·大生态"峰会设立"如何打造互联网精品"的圆桌讨论,众多来自互联网新兴领域的大佬们展开了探讨. 腾讯云计算公司副总裁陈晓建.Rayvision瑞云渲染董事长梁幸尧.南京泥巴怪公司首席技术官秦川.上海良栀之志网络科技有限公司首席执行官冯良会.未来电视首席执行官张宇霞.Visua

基于微服务和Docker容器技术的PaaS云平台架构设计

本文讲的是基于微服务和Docker容器技术的PaaS云平台架构设计[编者的话]在系统架构上,PaaS云平台主要分为微服务架构.Docker容器技术.DveOps三部分,这篇文章重点介绍微服务架构的实施. [3 天烧脑式容器存储网络训练营 | 深圳站]本次培训以容器存储和网络为主题,包括:Docker Plugin.Docker storage driver.Docker Volume Pulgin.Kubernetes Storage机制.容器网络实现原理和模型.Docker网络实现.网络插件.