王健宗:革命Hadoop Spark带来百亿市场价值

  3721.html">2014年4月19日“中国Spark技术峰会”(Spark Summit China 2014)将在北京召开,国内外Apache Spark社区成员和企业用户将首次齐聚北京。AMPLab、Databricks、Intel、淘宝、网易等公司的Spark贡献者及一线开发者将分享他们在生产环境中的Spark项目经验和最佳实践方案。

  

  Spark作为一个通用的并行计算框架,已经成为继Hadoop之后又一大热门开源项目,逐渐获得很多企业的支持。在Spark技术峰会召开前夕,记者有幸采访到了本次峰会的演讲者——网易高级研究员、中国计算机学会大数据专委会委员王健宗博士。他曾任惠普云计算高级解决方案专家和美国莱斯大学电子与计算工程系研究员,现负责网易游戏大数据框架的研究和部署工作,在其推广下成功将Spark稳定应用在生产环境中。

  

  王健宗

  CSDN的专访整理如下:

  - 什么原因吸引你钻研Spark技术?

  主要是Berkeley AMPLab出的东西吸引了我,我很信奉一句:“AMP出品,必属精品”,基本上每周我都会关注他们LAB的主页,阅读他们的技术报告和论文,紧跟他们的研究前沿 ,目前他们所孵化的一些生物计算、多核、机器学习等项目可能未来也会影响整个计算机领域。

  记得五六年前,在云计算风生水起的时候,AMPLab所发表的“ABOVE THE CLOUDS: A BERKELEY VIEW OF CLOUD COMPUTING”,是目前云计算引用最高的文章,你现在回头看这篇文章会发现目前云计算的发展方向和战略依然逃不出这篇文章当时所定义和规划的内容。

  我再说个例子,我以前最早是从事存储研究工作的,而AMPLab所出的RISC 、RAID、NOW可以说改变了并深远影响了整个计算机工业,记得我在美国留学的时候,和AMPLab的创始人DAVID PATTERSON有过当面的交流,对于这个杰出科学家依然保持对技术的热情,每天依然和学生MEETING到深夜的敬业精神所深深感动,有这样的一群人,你说他们所出的东西还用怀疑吗?

  Spark最早出现的时候,我就很关注,这是Berkeley AMPLab在大数据时代的杀手锏,也是将来能一统大数据领域的利器,套用大约三十年前他们发明RAID时候的话,我觉得“ Spark会带来百亿的市场价值”。

  - 对于解决哪些问题Spark独具优势?

  Spark的优势得天独厚,其是一个完整的大数据处理生态系统,除了底层存储HDFS还需要使用Hadoop的生态系统外,其他方面完全可以替代Hadoop,Hadoop自己在可用性、可靠性、实时性方面的一些劣势我这里就不重复叙述了,而Spark正是可以革命Hadoop的目前唯一替代者。

  - 目前企业应用Spark最大的困难是什么?

  目前最大的困难还是人的因素,了解Spark的人还是太少,我现在去和一些企业有大数据需求的CEO聊天的时候,一些单位使用Hadoop的人都很少,何谈Spark?

  目前Spark处于企业应用的起步阶段,主要是一些大公司在应用,的确各方面还是不成熟,所以培养一批Spark技术专家来推动企业的应用迫不及待,也是目前企业应用的最大困难。

  - 根据您的了解,目前Spark发展的情况如何?

  目前SPARK整个大数据处理生态系统,如流处理、图技术、机器学习、NoSQL查询等方面都有自己的技术,并且也刚刚成为Apache顶级Project,在Hadoop 2.0中也完美整合,此外AMPLab一批人成立了公司来全力推动,有一些教授放弃了公职,一些博士中断了学业,相信以这种壮士断腕的霸气肯定可以把Spark发展好,Hadoop从推动到目前大规模应用也走了五年多时间,而Spark还有比较长的路要走。

  - 请谈谈你在这次大会上即将分享的话题。

  我主要介绍自己Spark的一些经验得失,因为Spark对于你我他都是新东西,都处于学习阶段,我只是走得前了一小步,所以我的一些经验总结期望能为大家应用落地Spark提供参考和帮助。

  - 哪些听众最应该了解这些话题,这个话题可以帮助听众解决哪些问题?

  我认为所有对大数据处理有兴趣,或者出现大数据处理实时性困难的公司或者个人都可以来参加这个峰会。相信经过这次峰会之后,可以坚定大家回去之后应用Spark来提到Hadoop的决心和信心,更多的内容我们可以峰会的时候交流。

  写在最后:

  采访的最后,王健宗表达了对中国Spark技术峰会的祝福,他预祝中国Spark技术峰会成功举办,以技术为社会创造更多价值!

时间: 2024-09-20 08:16:47

王健宗:革命Hadoop Spark带来百亿市场价值的相关文章

商学经典推荐《创业学绝味》:撬动百亿市场的神奇鸭脖

创业,一个听起来令人热血沸腾的词,成功的美好令人憧憬.每个人都有创业梦想,青年人更是旺盛.但在艰难的创业路上,创业者将要面临缺经验.少资源.建队难.创新乏力等一系列难题,而每一项困难都可能会带来严峻的挑战.当梦想创业的你还在为选择新兴行业还是传统行业而犹豫,还在为没有高新技术而烦恼时,或许你应该读一读这本书籍--<创业学绝味>.它将还原一根鸭脖如何神奇撬动百亿市场的全部过程.靠着一根根平均长度不足20厘米的鸭脖,绝味在短短9年时间里,从2005在湖南长沙开出第一家店后,扩张到如今已在全国拥有超

地方争食3D打印百亿市场 专家警惕重蹈光伏覆辙

面对未来三年国内百亿市场空间_D打印正成为各地政府追逐焦点.近日,珠海市正式宣布建竿D打印产业创新中心〿D打印技术产业园区,加入刿D打印产业"跑马圈地"的行列.除了珠海,青岛.武汉.成都等城市也已经开始兴廿D打印产业园,并在资金.土地.配套政策上给予支持〿/p> 专家表示,当前各地竞相发屿D打印产业,存在相互攀比.分散发展等问题,应对产业发展进行顶层规划设计,推动我国由"工业大国"向"工业强国"转变,实现传统制造业升级.据<经济参考报

网络营销百亿市场待垦 B2B搜索备受关注

中介交易 SEO诊断 淘宝客 云主机 技术大厅 有统计显示,受北京奥运会影响,预计2008年中国网络营销市场规模将突破130亿;至2010年,中国网络营销市场规模将达到230元.我国网络营销市场正面临着前所未有的机遇. 面对如此巨大的市场,又适逢千载难遇的37211.html">奥运营销契机,各种网络营销工具.营销手段,纷纷登台亮相.主流网络厂商,以营销功能模式分化为搜索排名和电子商务两大阵营,里外竞技.一时互联网界风生水起.而横跨两大阵营的B2B搜索,近来更受到广泛关注. 作为服务于国内

百度王欣磊:传承搜索优势挖掘万亿市场价值

百度王欣磊:传承搜索优势挖掘万亿市场价值新浪科技讯 9月3日 下午消息,百度世界大会今日在北京召开.在下午"连接服务,精彩生活"为主题的论坛中, 百度LBS团购产品总监王欣磊阐述了如何通过全 新的团购模式彻底改变线下商户与用户连接的形态.王欣磊指出:"团购已经从'抢购'的单一模式演变为巨大的生活服务平台,百度糯米通过低价高质的美食.电影.酒店.KTV等生活服务将千万用户连接在这个平台上.百度全面收购糯米网也代表着百度对生活服务平台的重视."在王欣磊看来,互联网已经从

对话郭信平:在几百亿市场中找到“中国位置”

目前专业市场占合众思壮收入八成,但郭信平认为只有做好大众市场才能成为大公司 理财周报记者 李峻岭/文 2011年8月6日下午,郭信平和理财周报记者进行了近四个小时的交谈.作为合众思壮董事长,郭信平的底色是技术专家以及由此而生发的务实风格. 但郭信平又不仅如此.直到采访的最后,郭信平才把自己的心里话说出来:"做合众思壮这个企业我是有追求的.我希望合众思壮能发展成为世界级的企业.尽管现在差距较大,但赶超国外企业是有可能的." 17年专注磨一剑.从1994年公司成立至今,合众思壮已成为中国卫

“苹果皮”皮薄馅大蕴藏数百亿市场

最近,一款时尚.新鲜的小玩意儿引起了很多人的注意,因为它可能蕴藏着几百亿人民币的市场.这款可以让苹果公司的媒体播放器变身为手机的小装置,名字就叫"苹果皮".由于苹果公司出售的Iphone已经超过2.75亿台."苹果皮"随便卖一个50块钱,市场就已经是相当的可观了."苹果皮"到底算不算侵权,业界现在还有一些疑虑.但是在网络上,它的山寨版已经叫卖声四起.而"苹果皮"的真正发明人潘磊.潘勇兄弟表示,他们正在美国进行测试申请,&quo

“蜂巢”布控渠道网络 图谋中小企业百亿市场

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断 淘宝客 云主机 技术大厅 新一轮的渠道招商计划已经正式启动,国内领先的"搜索+B2B"模式创新平台一呼百应于5月开展代号为"蜂巢"的全国立体渠道招商计划.渠道招商大军将铺向全国各地市场.一呼百应方面称:公司招商与扶持并重的格局,2009年将开启B2B电子商务第一搜索引擎组建全国渠道代理体系新的篇章. 一呼百应对采访记者称,公司将

三泰电子开拓百亿市场BPO驶入快车道

"我们最关注的是BPO业务的进展."聊到三泰电子(002312,收盘价29.55元)的近况时,上海一家投资机构的行业研究员向 <每日经济新闻>记者表示. BPO业务是三泰电子目前正在大举介入的领域.公司9月29日公告将使用超募资金投资建设金融服务外包运营管理中心,拟投入2.1亿元加码BPO业务.按照公司所做的业绩预测,两年之后,BPO达产后贡献的净利润将远超2009年的净利润.也就是说,两年后将再造一个三泰电子. 加码BPO业务 寻求新增长点 BPO业务即业务流程外包,是指

原创视频先审后播 超百亿市场面临管制

摘要: 原创视频自由生长时代似乎要结束了. 7月9日,国家广电总局和国家互联网信息办联合下发<关于进一步加强网络剧.微电影等网络视听节目管理的通知>.根据通知要求,视频网站的 原创视频自由生长时代似乎要结束了. 7月9日,国家广电总局和国家互联网信息办联合下发<关于进一步加强网络剧.微电影等网络视听节目管理的通知>.根据通知要求,视频网站的网络剧.微电影等网络视听节目一律先审后播,在节目播出前,视频网站需组织审核人员进行内容审核,审核通过后方可上网播出. 对此,搜狐视频.爱奇艺(微