Hadoop迈入2.0时代 更适合企业应用

  “现在是企业应用Hadoop的最佳时机。”Hortonworks公司首席技术官Jeff Markham在11月底举行的2013中国Hadoop技术峰会上演讲时表示。在本次峰会上,Hadoop进入2.0时代成了人们谈论的焦点。Jeff Markham表示,Hadoop 2.0拥有更强大、更广泛的符合企业用户需求的新特性,弥补了Hadoop 1.0的不足之处,更符合企业用户的需求。

  Hadoop改头换面

  Jeff Markham在介绍Hadoop 2.0的新特性时,记者听到身后有人窃窃私语:“你看,Hadoop 2.0的框架中多了几个奇怪的功能模块。”是的,这些功能模块中最重要的就是YARN。YARN其实是一个资源管理器,它从某种程度上说颠覆了Hadoop的数据处理核心MapReduce,能让用户以与批处理完全不同的新的交互方式来运行Hadoop。众所周知,Hadoop的设计初衷是为了搜索和索引Web网页,而负责操控数据的MapReduce擅长处理和分析非结构化或半结构化的数据,比如日志文件等,但并不适合处理所有类型的数据。随着数据量的增长以及数据复杂性的增加,人们更希望能够在一个集群中处理多种类型的应用程序。这也是Hadoop 2.0诞生的背景。

  有人认为,YARN本质上就是Hadoop的新操作系统,它突破了MapReduce的性能瓶颈。Hadoop与YARN的组合更适合企业大数据的应用。YARN的设计思想是将资源管理与作业调度/监控功能分离,其架构实现是通过一个全局的ResourceManager与若干个面向具体应用程序的ApplicationMaster的组合,其中ResourceManager负责将资源分配到各个应用程序,而ApplicationMaster负责运行和监控任务。Jeff Markham表示:“加入YARN这一管理层,让Hadoop可以更好地满足企业级用户对大数据平台的需求。我们公司从安全、管理、配置等多个层面已经为Hadoop 2.0进入企业做好了准备。”

  Hadoop 2.0已经不是一个设想,而是实实在在的解决方案。中国本土的大数据公司星环信息科技(上海)有限公司(以下简称星环科技)就在峰会上宣布,正式推出融合Spark与Hadoop 2.0的大数据平台产品Transwarp Data Hub。“企业用户的一个共同想法是,更高效地处理更大量的数据,同时降低时延。”星环科技联合创始人、CTO孙元浩介绍说,“以前,针对不同数量级的数据,人们会采用不同的处理技术,比如内存技术、索引技术以及一些性能优化技术等。Transwarp Data Hub的一个最突出的优势是,可以在一个平台上处理从GB级到PB级的数据。”

  正是因为Transwarp Data Hub具备了这样的能力,所以它的应用范围十分广泛,包括离线分析、统计与挖掘、在线存储以及在线的基于内存的高速分析等。Transwarp Data Hub将数据集成/ETL、大数据存储和在线服务系统、基于内存的高效计算引擎、高性能SQL、统计分析和机器学习等融为一体,实现了性能上的突破。用孙元浩的话说,Transwarp Data Hub具有“闪电”般的速度,其速度比开源Hadoop 2.0快10~100倍。此外,Transwarp Data Hub还具有强大的分析能力,并与Hadoop生态系统全面兼容。

  以Transwarp Data Hub为核心,星环科技还与许多大数据厂商进行了合作,包括Revolution R、Informatica、Tableau等,将这些厂商的数据处理与分析工具进行整合,构成了完整的大数据平台。

  降低应用门槛

  由于Hadoop本身的复杂性,以及企业中缺少相关的大数据专业技术人员,Hadoop若想在企业用户中得到快速普及其实并不容易。因此,很多IT厂商纷纷向Hadoop抛出“橄榄枝”,有的提供基于Hadoop的硬件解决方案,有的则推出了Hadoop软件的商业发行版,其目的只有一个,就是降低Hadoop的应用门槛。

  在本次峰会上,许多知名IT厂商,包括英特尔、VMware、华为等以及众多电信运营、互联网企业都现身说法,为Hadoop在中国的推广站脚助威。英特尔亚太研发有限公司总经理何京翔表示,除了发布Hadoop商业发行版以外,英特尔从硬件(包括处理器、固态硬盘等)、安全性、管理和优化等多个角度对Hadoop提供全方位支持,目的就是让Hadoop更能满足企业用户的需要。

时间: 2024-10-06 12:52:01

Hadoop迈入2.0时代 更适合企业应用的相关文章

网站转化率加速提升 B2C全速迈入3.0时代

去年是我国电子商务产业发展十二年来的网络购物"爆发之年",2009年我国网购用户规模与交易规模的迅速增长,特别是B2C网站的快速发展,使得开展网购业务的传统制造零售渠道商和电子商务企业不断采取措施提升自身的产品质量.技术水平.平台建设.支付方式.仓储物流.售后服务等.2010年作为网络购物的"繁荣之年",如何吸引更多的网站会员,提升网站转化率,已经成为了众多B2C网站发展的重要一步. 丰富产品品类,提升网站实力 记者看到,2009年10月正式上线的誉购网上商城,作为

中国信通院技术与标准研究所副所长何宝宏:云计算正在迈入2.0时代

云计算正在迈入2.0时代.自2008年概念兴起至今,云计算已经走过了热热闹闹的7年.这7年,云计算经历了存在Bug的试验性1.0时代,真正可用的2.0时代正在来临,今天,云计算市场的争夺焦点开始从公有云市场转向行业云市场,面向企业和行业的云服务正在兴起,云计算市场格局将重新建立. 互联网技术普遍存在"7年之痒"的定义.一个新技术从诞生或引起关注到第7年就应该有个"交代"了.今天的云计算正在遭遇"7年之痒".从市场发展看,最具代表性的特征就是云计算

互联网金融将迈入2.0时代

摘要: 银监会主席尚福林今天披露,已确定5个民营银行试点方案,互联网巨头阿里巴巴和腾讯入围.其中,阿里巴巴采用小存小贷模式(存贷款额度均有上限),腾讯为大存小贷模式(存款有下限 银监会主席尚福林今天披露,已确定5个民营银行试点方案,互联网巨头阿里巴巴和腾讯入围.其中,阿里巴巴采用"小存小贷"模式(存贷款额度均有上限),腾讯为"大存小贷"模式(存款有下限,贷款有上限).互联网金融将迈入2.0时代. [事件] 百度CEO李彦宏:我也想办民营银行,可惜没牌照! 中国广播网

云计算2.0时代:传统企业的转型之路

云计算的不断深入发展,改变的不仅仅是传统企业IT系统由产品到服务的使用方式,更重要的在于创新企业组织管理体系,以消费者需求为中心向个性化商业之路探索. 云计算作为IT产业的革命性发展趋势已经不可逆转,并逐步成为一个领域.一个产业.一个城市甚至一个国家的基础设施之一,规模宏大.市场前景广阔,对于电子政务.医疗信息化.教育信息化.移动互联网.物联网以及智慧城市,云计算将是其实现的最基本的前提. 而未来,其对全社会各行业.各部门将加速渗透和扩张,改变传统的产销模式,带来创新商业模式,直接影响冲击传统产

关于2.0时代的小型机 企业用户应该知道什么?

以高价格与系统封闭"著称"的小型机,留给人们的印象貌似一直停留在高冷不可及.又爱又恨的状态,以及近两年市场上主流小型机厂商的转型现象:IBM开放POWER平台以面对来自x86平台的竞争压力:惠普将基于安腾平台的小型机Superdome不惜代价转而支持x86平台,并且通过建立全面开放的生态系统以替代原本薄弱的小型机生态圈.现在,又有一家厂商将小型机带入了x86领域. "现在很多业务都已经发生了云化,这是一个显著的.不可逆转的趋势.但是,包括数据库.ERP在内的最核心的关键业务还

IE10和Chrome哪个更适合企业用户

IE10在10月底与Windows 8一同发布,随后又针对Windows 7平台发布了预览版.现在,微软也鼓励企业用户开始部署IE10.在官方博客中,微软列出了IE10的十大优点,看完这十大优点,你会接受IE10吗? 1.快 11月的时候第三方测试机构New Relic称IE10和IE9是Windows平台上响应最快的浏览器,使用IE10你的工作效率肯定会提高不少. IE10渲染页面比Chrome还快8% 2.流畅 IE10中的所有图片.视频和文本都实现了硬件加速. 3.最适合触控操作 4.界面

什么样的咨询顾问更适合企业?

调查问题: 如果你是客户,你倾向于哪种类型的实施顾问? 甲方:曾经在企业中组织过CRM实施和运行,但是参与过的项目仅此一个 乙方:CRM老油条,实施过多个项目,但是往往是上线以后就撤了 乙方:首先这个选择应该在一个前提下:两者的其他条件基本一样,如背景,知识,沟通能力,职业道德等等 在这个前提下,我选后者. 实际上,对于实施顾问来说,经验是最重要的.而经验的获得,是要通过大量案例的积累.如果只有一个项目的经历,哪怕是从头跟到尾,他也是只有一个项目的经历而已,接触的情况有限.而所谓的老油条的经验(

洞悉搜索引擎营销和社交媒体营销谁更适合企业营销

中介交易 SEO诊断 淘宝客 云主机 技术大厅 随着客式营销得到的极大发展,社会化媒体营销和搜索引擎营销越来越成为客式营销的关注焦点.那么究竟谁是最有效的呢?下面我们分别从消费目的.提高品牌知名度.本地化的商务服务.互动公关四个方面来对两者进行PK. 消费目的 应该说对于绝大多数的中小型企业,企业业主考虑的更多的是眼前的利润创造.通过对500位电子商务企业的营销专家做的调查发现,搜索引擎更有效.从饼式图表中还可以看出对于B2B业务的企业来说,搜索引擎营销依然是最直接最有效的,而社交媒体所占的比例

为什么说私有云更适合企业,仅仅因为安全吗?

作为企业拥有大量宝贵的数据资料,文档需要管理,管理过程是否有这些烦恼? 1.急需要的资料找不着:匆忙需要某份资料时从何找起?大量文件犹如大海捞针. 重要的资料只保存在电脑上,一个不小心删除/清除了怎么办? 2.员工积累的数据资料财富没有沉淀: 不同员工产生的数据财富如何保存? 保存后如何共享? 如何规范化文档资料,集中管理并持续为企业创造财富? 3.企业发给客户的资料竟然······:重要的资料在传递和分享中如何保证安全? 万一被竞争对手获取后果不堪设想! 离线安全不靠谱啊! 昨日刚整理的资料今