星环科技孙元浩:Hadoop应用的三个阶段

文章讲的是星环科技孙元浩:Hadoop应用的三个阶段,2013年11月22-23日,作为国内唯一专注于Hadoop技术与应用分享的大规模行业盛会,2013 Hadoop中国技术峰会(China Hadoop Summit 2013)将于北京福朋喜来登集团酒店隆重举行。届时,来自国内外各行业领域的近千名CIO、CTO、架构师、IT经理、咨询顾问、工程师、Hadoop技术爱好者,以及从事Hadoop研究与推广的IT厂商和技术专家将共襄盛举。

  Haoop中国技术峰会由China Hadoop Summit专家委员会主办,由IT168、ITPUB、ChinaUnix协办,渠达传媒负责承办。本届大会将秉承“效能、应用、创新”为主题,旨在通过开放、广泛的分享和交流,着力于促进中国企业用户提高应用Hadoop的能力和水平,降低Hadoop技术应用门槛和投资预算门槛,推广大数据的应用价值。


▲点击进入2013 Hadoop中国技术峰会官网

  在2013 Hadoop中国技术峰会即将召开之际,记者采访到大会联合主席——星环信息科技(上海)有限公司联合创始人兼CTO孙元浩,分享了自己对Hadoop应用现状和未来的理解。

  Hadoop应用的三个阶段

  孙元浩认为,Hadoop在中国的应用可以分为三个阶段:第一阶段是2009-2010年,随着云计算数据中心的建设,数据趋于集中,Hadoop开始用于数据存储和离线分析。当时运用Hadoop的企业既有传统企业也有互联网企业,但成功的主要是互联网企业,这是由于互联网企业比传统企业拥有更大的数据量。当数据量大于100TB时,Hadoop成为唯一的选择;而当数据量小于1TB时,Hadoop的性能仅为MPP数据库的1/15~1/10。


▲星环信息科技(上海)有限公司联合创始人兼CTO 孙元浩

  第二阶段是2011年到2012年,随着物联网的风潮和数据在线透明化的要求,HBase成为数据在线展现和实时数据采集存储的技术手段,被广泛应用于电信行业和交通行业。

  第三阶段是2012-2013年,随着大数据热潮的兴起,Hadoop开始增加SQL支持,降低应用门槛,提高技术易用性。传统数据库和BI厂商也纷纷推出Hadoop接口,为用户提供Hadoop服务。对于业界呼声比较高的、将Hadoop与MPP数据库的整合方案,孙元浩并不看好,他认为Hadoop的未来必将支持完整的SQL和所有的报表工具,随着性能的提升,未来完全可以用Hadoop替代MPP数据库。

  未来,Hadoop还将在精细数据挖掘、机器学习和图推理等新技术方面逐步推进,重点在于数据价值的挖掘。总的来说,数据量增长是推动Hadoop发展的最初和最大源动力,而价值挖掘成为推动Hadoop未来发展的主要动力。除了Hadoop,孙元浩还看好内存计算技术、流处理、图计算、预测分析等大数据技术的发展。

  Hadoop初学者指南

  对于Hadoop的初学者,孙元浩为大家推荐了两本书,即《Hadoop权威指南》和《HBase权威指南》,通过学习可以对Hadoop有一个初步的认识。除此之外,更重要的是对Hadoop的实践操作,包括安装、测试、开发测试用例、开发应用四个阶段,其中优秀的技术人员会成为Hadoop的开发者。

  他认为,学习Hadoop最好的方法就是看源代码,只有这样才能真正了解Hadoop。初学者开发测试用例需要1-2周,开发应用需要1-2个月,而读懂源代码、开始做Hadoop底层代码开发起码也要6个月,成为Hadoop 贡献者则需要至少1年。

  谈到2013 Hadoop中国技术峰会的亮点,孙元浩表示,对Hadoop新技术的探讨、Hadoop在各个行业的应用案例,以及对大数据创业和投资的探讨是他最关注的三个话题。他希望开发人员能在此次大会上了解到最新的技术;用户能在此次大会上了解到更多的使用案例,以及商业模式的探索,向国外的Hadoop Summit看齐。

  据了解,孙元浩于2003年加入英特尔,曾任英特尔亚太研发有限公司数据中心软件部亚太区CTO,负责英特尔Hadoop发行版的研发和产品化工作。曾是英特尔Hadoop发行版的创始人,带领团队研发企业级Hadoop发行版。2013年离开英特尔创办星环科技,致力于Hadoop之上的高效计算引擎和数据分析算法的研发。在2013 Hadoop中国技术峰会上将会发布这一最新产品。

作者:小野

来源:IT168

原文链接:星环科技孙元浩:Hadoop应用的三个阶段

时间: 2024-08-01 04:13:12

星环科技孙元浩:Hadoop应用的三个阶段的相关文章

星环科技陈祖峰:2017年金融行业大数据十大应用的趋势展望

过去的2016年可称之为"智能金融"元年.相比过去五年,以云计算.大数据.区块链为首的新兴技术创新全面渗透至金融业的方方面面,用科技手段解决供需矛盾.用机器解放人力资源,以数据驱动的决策实务出现了前所未有的爆发式增长.  作者 | 陈祖峰 本文长度为4500字,建议阅读9分钟 回顾2016,中国金融业经历了不平凡的一年.金融市场环境瞬息万变: 银行业不良率攀升.净利润收窄.公司营业收入规模下降; 证券行业资管与投行业务增长.经纪业务占比下滑.A股市场整体处于震荡形式; 保险业万能险.另

星环科技CTO孙元浩:统一、廉价、实时、融合,2015大数据趋势

[CSDN现场报道]2014年12月12-14日,由中国计算机学会(CCF)主办,CCF大数据专家委员会承办,中科院计算所与CSDN共同协办,以推进大数据科研.应用与产业发展为主旨的 2014中国大数据技术大会 (Big Data Technology Conference 2014,BDTC 2014)暨第二届CCF大数据学术会议在北京新云南皇冠假日酒店盛大开幕. 星环科技CTO孙元浩的演讲主题是"2015年大数据基础技术的演进趋势".期间,他一共总结了四大趋势:SQL on Had

浪潮与星环科技发力大数据核心技术与产品

[天极网服务器频道8月18日消息]近日,浪潮信息与星环信息科技正式签署http://www.aliyun.com/zixun/aggregation/5488.html">战略合作协议,双方将携手推进中国自主研发的大数据核心技术与产品,及其在行业.企业市场的应用. 星环科技是掌握企业级Hadoop和Spark核心技术的高科技创业公司,其产品TranswARP Data Hub的整体架构及功能特性在业界居于领先水平.星环科技的核心开发团队参与部署了国内最早的Hadoop集群,并在中国的电信.

星环科技上榜Gartner 2016年数据仓库及数据管理解决方案魔力象限

近日,国际知名咨询机构Gartner在对全球21家厂商进行对比分析后,发布了2016版数据仓库及数据管理解决方案市场的魔力象限--报告中首次出现了来自中国的公司星环科技(Transwarp).该公司不仅是唯一一家来上榜的中国公司,也是魔力象限远见者(Visionaries)领域中全球最具有前瞻性的公司. HPE = Hewlett Packard EnterpriseSource: Gartner (January 2016) 星环信息科技从事大数据时代核心平台数据库软件的研发与服务.作为一家H

预测2015大数据趋势 星环孙元浩为你揭秘

2014年12月12-14日,由中国计算机学会(CCF)主办,CCF大数据专家委员会承办,中科院计算所与CSDN共同协办,以推进大数据科研.应用与产业发展为主旨的 2014中国大数据技术大会?(Big Data Technology Conference 2014,BDTC 2014)暨第二届CCF大数据学术会议在北京新云南皇冠假日酒店盛大开幕. 星环科技CTO孙元浩的演讲主题是"2015年大数据基础技术的演进趋势".期间,他一共总结了四大趋势:SQL on Hadoop技术对SQL支

从CTO到创始人 孙元浩基础软件破局之路

文章讲的是从CTO到创始人 孙元浩基础软件破局之路,本期访谈对象孙元浩,星环科技创始人.3月18日下午,在北京西四环边上的永泰福朋喜来登酒店大堂咖啡吧,我又一次见到了孙元浩,上一次与他的见面还是在去年,与上次不同,这次见到他显得更为疲惫,在等待我与其他记者到来的空闲时间,他正躺在沙发上小憩.星环的工作人员告诉我,孙总刚讲完一场演讲,从上海风程仆仆的来到北京就没有怎么好好休息过,这让我有些不忍将他叫醒.而就在我与工作人员对话时,他瞬间站起身来并与我握手.虽然疲惫但能够感受到他内心中的一种坚持,或许

星环大数据助银行数据仓库全面升级

文章讲的是星环大数据助银行数据仓库全面升级,去年九月,银监会发布了39号文,中心思想要求银行信息技术"安全可控".它要求2015年起,各银行业金融机构对安全可控信息技术的应用以不低于15%的比例逐年增加,直至2019年达到不低于75%的总体占比.虽然没有明确指出,但是"安全可控"的要求显然对国产IT产品更有利.事实上,39号文提出的指导方向,包括"优先选择愿意在核心知识和关键技术领域进行合作的机构,避免对单一产品或技术的依赖,""有序推

S档案:Intel孙元浩深剖Hadoop用户应用价值

Hadoop已成为大数据时代最流行的系统平台.推出Hadoop技术产品是众厂商角逐大数据市场的重要手段;另一方面,Hadoop服务也成企业大数据业务的重要需求.大数据时代,企业用户的Hadoop应用价值有多高?IT采购者如何科学选择Hadoop服务?本期S档案室,Intel亚太研发有限公司首席技术官孙元浩先生将为您带来独到见解. 本期导视: ★ 当前企业大数据业务需求的特点 数据源呈现新趋势(数据量庞大.数据产生速度快.数据来源多) 企业需求分阶段走(四个层次:基本存储.统计.挖掘分析.数据可视

传盛大1.4亿收购彭海涛网游公司星漫科技

21世纪经济报道记者 何忠平 成都报道 继 1月完美时空(Nasdaq:PWRD)网络游戏开发和运营中心落户成都.6月成都博瑞传播(600880.SH))出资逾4亿元收购成都梦工厂网络公司100%股权后,又一出网游并购在成都上演.最新消息显示,上海盛大网络公司(Nasdaq:SNDA)已基本完成对网络游戏公司成都星漫科技的收购,据知情人透露收购价不低于1.4 亿元. "成都软件企业有520多家,其中网游企业有60多家,相关人员有六七千人."8月17日,成都高新区发展策划局局长汤继强告诉