云计算下MapReduce多组容错机制架构的分析与研究

云计算下MapReduce多组容错机制架构的分析与研究

张治斌   李燕歌

提出了MapReduce多组容错机制,在传统的Hadoop MapReduce架构上进行改进,即在同机柜中的Task-T racker节点之间增加了多组关系,这样可以缩短发现失效节点的时间,同时减轻JobT racker节点的负荷,减低了带宽使用率,减少网络拥塞。通过实验证明,MapReduce多组容错机制提高了M apReduce的工作效率。

云计算下MapReduce多组容错机制架构的分析与研究

时间: 2024-09-30 22:42:54

云计算下MapReduce多组容错机制架构的分析与研究的相关文章

云计算下的技术雨:谈云计算对于IT技术影响

随着互联网络的深入,云计算对现有的IT技术产生了深远的影响,本文着重分析两个方面的变化. 一.云计算对于软件产业的影响 1.软件开发模式发生革命性的变化 1)开发模式由单机版向面向云计算转变.单机版的软件所使用的资源,是基于PC机的物理资源(如PC机的内存和硬盘):在云计算时代,这种开发模式完全改变,使用的资源不再受到物理资源的限制,内存的使用可以基于数据中心的服务器群,数据库可以通过互联网存储到远端的数据中心中. 2)开发工具发生变化.过去的程序员擅长C/C++/Java语言,对单一主机(PC

云计算下的“技术雨”

随着互联网络的深入,云计算对现有的IT技术产生了深远的影响,本文着重分析两个方面的变化. 一.云计算对于软件产业的影响 1. 软件开发模式发生革命性的变化 1) 开发模式由单机版向面向云计算转变.单机版的软件所使用的资源,是基于PC机的物理资源(如PC机的内存和硬盘):在云计算时代,这种开发模式完全改变,使用的资源不再受到物理资源的限制,内存的使用可以基于数据中心的服务器群,数据库可以通过互联网存储到远端的数据中心中. 2) 开发工具发生变化.过去的程序员擅长C/C++/Java语言,对单一主机

云计算下的这些细分领域 你都了解吗?

本文写的是云计算下的这些细分领域 你都了解吗?[IT168 评论]云计算的"云"源于绘制互联网的网络图表时的一个习惯--会将其画成一朵云.最受认同的关于云计算含义的解释是,在一个商业供应者的数据中心上通过互联网远程运行工作负载--也就是所谓的"公有云"模式.AWS.Azure.谷歌云等平台都是这一云计算概念的例证. 但是,云计算还有一个更精确的解释:数据中心资源的虚拟化和中心管理.其关键优势是敏捷性:根据工作负载的需求,使用抽象计算.存储和网络等资源,且具备大量的预

施奈德金东:云计算下数据中心构建策略

本文讲的是施奈德金东:云计算下数据中心构建策略,数据中心对于企业来说,正如我们笔记本与个人,它帮助我们提高工作的效率.2012年,3月22日,2012年中国云计算峰会在北京召开,这次会议的主题是以云计算加速.业务与商业变革.在会上施奈德电气IT事业部数据中心解决方案拓展经理金东先生描述了<云计算下的数据中心构建策略>. 金东 金东先生表示银行.保险这一类的企业,数据中心对于银行.保险这一类企业来说,是构建核心竞争力的核心资产.对于电信.托管和云计算的提供商来说,数据中心就是他们的生命.无数的企

《循序渐进学Spark》一3.5 容错机制及依赖

3.5 容错机制及依赖 一般而言,对于分布式系统,数据集的容错性通常有两种方式: 1) 数据检查点(在Spark中对应Checkpoint机制). 2) 记录数据的更新(在Spark中对应Lineage血统机制). 对于大数据分析而言,数据检查点操作成本较高,需要通过数据中心的网络连接在机器之间复制庞大的数据集,而网络带宽往往比内存带宽低,同时会消耗大量存储资源. Spark选择记录更新的方式.但更新粒度过细时,记录更新成本也不低.因此,RDD只支持粗粒度转换,即只记录单个块上执行的单个操作,然

专访尚易:解密“云计算”下的iCoremail

金秋9月,在首都北京尚易隆重举办了"海纳百川,有"融"乃大--盈世2011"云时代"下邮箱产业发展研讨会",推出采用"云计算"平台的,企业邮箱应用"私云"服务--iCoremail.并在会议期间设立了专访室,接待了来自"计算机世界"."信息方略"."IT经理世界"."中小企业IT采购"四家媒体记者的访问. 在专访中,各位记者纷纷

云计算下服务器自行采购冲击品牌厂商

[天极网服务器频道2月19日消息]目前服务器市场仍然是被惠普.戴尔等品牌厂商占据,不过随着云计算的深入发展,企业自行采购服务器加上ODM的方式来降低成本的趋势越发明显.这里面特别是互联通提供商如谷歌.亚马逊等为代表,通过提供服务器设计标准,然后通过ODM厂商进行组件化生产,最后进行采购. 开放计算项目就是以Facebook为代表的互联网提供商提出的服务器设计标准,Facebook可以从台湾的原始设计制造商(ODM)那里购买廉价的服务器组件,而不是从思科.戴尔.惠普或者IBM那里购买完整的服务器.

第一章 容错机制 &amp;gt;

容错 第一章 容错机制 以国内最流行ASP为例,我不知道有多少人会在写代码时想到"容错"这个概念,实际上当我遇到这种事时,也是不了了之.为什么呢,想想最初的意思是认为写如下代码就能容错了,见示例1-1. <%@ Language=VBScript %> <%option explicit%> <% '出错过滤 on error resume next -----(代码略) %> 示例1-1 常见代码一瞥 以上代码就经常出现在各位同仁的手中,不用说出个

正确处理ASP动态网页中的容错机制

动态|容错|网页 以国内最流行ASP为例,我不知道有多少人会在写代码时想到"容错"这个概念,实际上当我遇到这种事时,也是不了了之.为什么呢,想想最初的意思是认为写如下代码就能容错了,见示例1-1.<%@ Language=VBScript %><%option explicit%><%'出错过滤on error resume next-----(代码略)%>示例1-1 常见代码一瞥 以上代码就经常出现在各位同仁的手中,不用说出个中原因,我完成能理解各