应对大数据挑战 企业需共享式服务模型

本文讲的是应对大数据挑战 企业需共享式服务模型,大数据来袭!当企业准备把自己的MapReduce应用从实验环境迁移到生产环境时,共享式服务模型将为这种迁移提供许多重要功能,并加快迁移步伐。

  大数据是当今科技行业发展速度最快的领域之一。大数据具有前所未有的大量化、快速化和多样化三大特点,这些是许多新技术背后的驱动力,这些技术可帮助企业处理大数据带来的多种新问题。

  在诸多的新兴解决方案中,Hadoop和MapReduce被视为是两种大有希望的方法,可高效管理和分析大数据。但目前针对MapReduce应用的运行时引擎还无法提供足够功能来满足企业希望在生产环境中部署MapReduce应用的实际需求。

  对企业IT部门来说,先进的运行时引擎应该是这样一种管理工具:它可以在满足高标准服务水平协议(SLA)的同时,支持企业里的各业务部门。这类管理工具应该能够支持混合类型的工作负载,包括MapReduce应用及业务部门在共享式网格上智能化提交的其他应用。

  此外,如今的IT部门正在经历重大转变。在许多情况下,IT部门不再只是个成本中心,相反,它被视作是支持企业里各业务部门的服务提供者。预算有限、工作负载需求加大,使得IT部门面临巨大的压力,必须进一步充分利用现有的基础架构,最大限度地提高总的资源利用率。

  让在基础架构方面的投资迅速获得回报是IT部门在做采购决策时最重要的考量因素之一。能充分利用现有的基础架构,满足更高的工作负载需求,并实时动态地满足需求,进一步节省成本,提高投资回报,无疑是企业希望寻找的解决方案。

  为了支持MapReduce应用等新型应用,IT部门迫切需要一种共享式服务运行时平台以获得更好的性能、更高的资源利用率、自动监控和诊断功能,同时也需要IT基础架构能提供更高级的应用生命周期支持。

  何谓共享式服务模型?

  共享式服务模型是指这样一种基础架构平台:它允许多个应用(无论其类型和要求是什么)能够在共享式基础架构上并行执行。共享式服务模型常常由一种先进的应用调度和资源管理引擎来管理,为它所支持的企业里的多个业务部门提供有保障的服务。

  共享式服务IT模型提供以下几个重要好处:

  •少花钱多办事

  •迅速获得基础架构方面的投资回报

  •提供更好的可管理性

  •有更好的可扩展性和灵活性以支持不断变化的应用需求

  •利用收费政策,让IT部门的角色从成本中心转变成盈利中心

  现有的Hadoop MapReduce运行时引擎面临的挑战

  遗憾的是,目前MapReduce运行时引擎的Hadoop实现无法提供上述的共享式服务功能。这归因于Hadoop作业跟踪器(Hadoop JobTracker)的基本架构设计——Hadoop作业跟踪器是一个管理层,在运行期间为MapReduce作业提供必要的服务。

  目前的Hadoop作业跟踪器还无法把作业调度逻辑与资源管理逻辑分离开来,这直接导致了下列重大缺陷:

  •缺少企业级能力。在任何一个时间,只有一个MapReduce应用可以在集群上运行。因而,资源变成了静态的和用途单一的;而应用也是串行执行,而不是并行执行,导致无法有效利用的资源、形成烟囱式的IT环境,限制了可扩展性。

  •作业跟踪器成为单一故障点。如果作业跟踪器出现故障,所有运行中的作业都将停止。

  很显然,目前Hadoop作业跟踪器能力有限,无法提供IT部门在生产级环境中部署MapReduce应用所需的共享式服务功能。

  借助Platform Symphony MapReduce提供共享式服务

  Platform Symphony MapReduce是一种生产级、分布式的运行时引擎,用于管理规模化的大数据应用。Platform Symphony MapReduce为企业运行大数据应用提供了下列独特好处:

  •能够为IT部门带来一种共享式服务平台

  •提高资源利用率,加大基础架构方面的投资回报

  •能够在企业里实现完善的服务水平协议

  •提供更高的性能、缩短获得结果的时间

  •简化IT管理,降低管理复杂IT环境的总成本

  •加强IT敏捷性

  如何部署共享式服务模型?

  企业应该视不同的业务要求使用以下方法部署共享式服务模型:

  1. “烟囱式共享模型”——为不同的业务部门提供有保障的资源。IT部门根据不同业务部门的特定需求,为它们提供有保障的资源。业务部门向集中式IT部门请求一定数量的资源,专门供自己使用。然后,那些请求被定义为策略,加入到资源分配方案中。不同业务部门之间不共享资源。集中式IT部门负责管理资源分配、系统监控和故障排除。

  2. “代理式共享模型”——企业内部跨各职能领域的资源共享。企业内部的不同职能部门共享一组通用的IT资源,资源共享策略根据不同业务部门的特定需求来予以定义,然后加入到资源分配方案中。不是为某个业务部门单独分配静态资源,而是通过动态共享整个基础架构,从而为用户提供有保障的资源。

原文发布时间为:2012-04-23

本文作者:    李隽

时间: 2024-08-22 15:13:54

应对大数据挑战 企业需共享式服务模型的相关文章

Hadoop的虚拟化之恋:应对大数据挑战

文章讲的是Hadoop的虚拟化之恋:应对大数据挑战,高速增长的数据量和日益增加的竞争压力,让越来越多的企业开始思考如何挖掘这些数据的价值.传统的BI系统.数据仓库和数据库系统都不能很好地处理这些数据.原因包括: 1.数据量太大,传统数据库不能有效存储并维持可以接受的性能; 2.新产生的数据往往是非结构化的,而传统方式都是为处理结构化数据而设计的; 3.传统数据处理所需的硬件往往相对昂贵,随着数据量增加而继续用传统方式处理的成本让很多企业不能承受.为此,倍受互联网界推崇的Apache Hadoop

大数据挑战:企业需要共享式服务模型

大数据正如火如荼,是继云计算之后的又一热词.大数据具有前所未 有的 大量化.快速化和多样化三大特点,这些是许多新技术背后的驱动力,这些技术可帮助企业处理大数据带来的多种新问题. 在诸多的新兴解决方案中,Hadoop和MapReduce被视为是两种大有希望的方法,可高效管理和分析大数据.但目前针对MapReduce应用的运行时引擎还无法提供足够功能来满足企业希望在生产环境中部署MapReduce应用的实际需求. 对企业IT部门来说,先进的运行时引擎应该是这样一种管理工具:它可以在满足高标准服务水平

IBM:应对大数据挑战的十大绝技

IBM提供了一系列平台应对大数据带来的三方面挑战--大量化(Volume).多样化(Variety)和快速化(Velocity).无论是能源公司分析气象数据,还是司法机构在众多视频资料中分析有价值信息,亦或是银行为审查资产判别客户级别分析多年的交易数据.IBM大数据平台,都可以帮助企业将数据当成战略资产进行管理.IBM研究机构在大数据领域工作有超过3年时间,目前已经拥有100个大数据项目客户.在商业分析领域IBM已经投入巨资140亿美元--其中包括24项收购以及集聚了8000名分析顾问. IBM

保险公司“大都会人寿”以新兴企业态度应对大数据挑战

大都会人寿是一家规模庞大的保险企业,在跨越美洲.欧洲以及亚洲的庞大市场当中拥有超过9000万客户.不过在本周三于纽约市举办的Gigaom Structure Data大会的舞台上,该公司区域应用程序开发部门副总裁兼CIO Gary Hoberman指出该公司在部署大数据应用程序时.更倾向于学习规模精干的小型新兴企业--这一点在其最近部署客户服务工具MetLife Wall时体现得尤为明显. "我们约有八十到九十位开发人员共同打理该项目,而且整个开发周期被成功控制在九十天之内,"Hobe

如何利用“小数据”战略应对大数据挑战?

ManageEngine公司是一家http://www.aliyun.com/zixun/aggregation/13597.html">企业IT管理软件提供商,总裁Raj Sabhlok表示:现如今,大数据为忙碌的IT部门提出了新的挑战,其中许多麻烦早已不仅仅只是实施并部署一项新的数据管理平台的后勤问题那么简单了.企业的IT部门的问题早已经从收集不到足够的数据转变为数据太多了. "如果倒退到10年前,从IT的角度来看,我们严重的缺乏收集的数据.彼时,我们对于企业相关的系统.网络

大数据能让警察被开除,政企如何应对大数据落地

大数据不是魔力水晶球,不能预知未来的一切,不能改变一切;大数据也不是空中楼阁,不接地气. 大数据到底有什么用 好像这个事情困扰大家已久,其实大数据的作用非常实在,美国有一程序员哥们,他去缴纳违章罚款的时候看了一眼罚款统计表,发现自己家门前那段路上的罚款单相较于其他街区数量特别多,这哥们就心生疑问:怎么回事?我们这个街区的司机都不遵守交通规则还是这个街区的红绿灯有问题还是什么其他的原因? 面对这一蹊跷,身为程序员的他当然没有只是一想而过,而是充分发挥了理工男较真的精神去调查清楚这件事. 要调查清楚

联通黄文良:“Hadoop+至强”应对大数据

7月24日,以"芯动大数据,智领大机遇"为主题的英特尔大数据论坛在北京举行.中国联通研究院副院长黄文良先生在大会上介绍了联通应用英特尔Hadoop发行版和基于英特尔至强处理器平台的服务器应对大数据挑战的真实案例. 伴随着智能手机的普及,广大用户利用手机上网和社交越来越频繁,这由此也带来了一个新的挑战:用户想清清楚楚了解自己的上网流量究竟用在了哪里?在这种状况下,联通从去年开始部署针对移动互联网用户的上网记录.和其他运营商以省为单位不同,联通是在全国部署了一套上网记录查阅系统,用户可以通

Teradata大中华区CEO:企业如何应对大数据时代

Teradata天睿公司大中华区首席执行官辛儿伦 5月21日消息,Teradata天睿公司大中华区首席执行官辛儿伦(微博)日前接受新浪科技专访时表示,随着大数据时代的到来,企业应该在内部培养三种能力:第一,整合企业数据的能力:第二,探索数据背后价值和制定精确行动纲领的能力:第三,进行精确快速实时行动的能力. 数据快速增长 Teradata天睿公司是一家智能分析解决方案厂商,主要为企业和政府机构做数据整合,分析,探索.挖掘数据背后的价值,从而提高客户生产的竞争力.目前,Teradata天睿公司在大

Teradata:企业如何应对大数据时代

本文讲的是Teradata:企业如何应对大数据时代,5月21日消息,Teradata天睿公司大中华区首席执行官辛儿伦日前接受新浪科技专访时表示,随着大数据时代的到来,企业应该在内部培养三种能力:第一,整合企业数据的能力;第二,探索数据背后价值和制定精确行动纲领的能力;第三,进行精确快速实时行动的能力. 数据快速增长 Teradata天睿公司是一家智能分析解决方案厂商,主要为企业和政府机构做数据整合,分析,探索.挖掘数据背后的价值,从而提高客户生产的竞争力.目前,Teradata天睿公司在大中华区