本来生活范学蠡:对大数据从业者的建议

文章讲的是本来生活范学蠡:对大数据从业者的建议,不知道有多少人和笔者一样,对本来生活网的最初认知是从朋友圈开始的。有那么一段时间,朋友圈里经常看到好友分享的团购信息,诱惑实在太大,我经常也会忍不住参团。本期的采访嘉宾是未来生活网的范学蠡,不过他今天不是和大家分享团购攻略,而是正经聊聊大数据领域的相关技术,他见证了本来生活网的数据仓库从SQL Server到Hadoop生态的演变,他在这方面绝对有话语权。


▲本来生活网 范学蠡

  范学蠡,曾在Daum负责研发,后进入贝塔斯曼负责多个数据项目,现任本来生活网BI总监。在本来生活网组建了BI团队,建立了基于SQL Server的数据仓库和数据分析体系,现今又从SQL Server转向Hadoop体系,并在此基础上建立了分析型CRM、用户行为数据分析平台等BI应用。

  在采访之前,笔者对本来生活网的数据库选型做了调查,增加了解的基础上也是为同领域的公司提供一个参考。范学蠡坦言,本来生活网目前主要使用了Mysql、MongoDB 、SQL Server、HBASE、Hive数据库,其核心业务依然是SQL Server集群,大量写入比如用户行为采用Hbase,Mysql主要用于BI系统的集市层。可见,本来生活网的数据库选型很多元化,并且不同的数据库针对不同的业务场景,分工明确。

  一支竹蒿难撑汪洋海,除了选择正确的数据库之外,一个优秀的大数据团队能够为企业的数据应用和实现商业洞察打下坚实的基础。当然,团队的组成要取决于业务系统的数据是否完善、业务部门对大数据的认知程度。范学蠡说道,“一般来讲从0到完善至少需要一年时间。以我所在部门为例,主要需要数据分析挖掘工程、数据仓库/ETL工程师、Java开发人员、数据产品经理,并且尽可能的培养全才。”

  随着公司业务量的增大,数据量激增。数据存储系统的选择成了棘手的问题,Hadoop的HDFS长期以来一直是比较受欢迎的分布式文件系统。但据预测,对象存储今年有望替代Hadoop的HDFS代表的分布式文件系统。对于这种观点,范学蠡认为不同阶段的公司选择的存储系统会有所不同,主要考虑数据量的大小、读取与写入的工作量、单条读取还是多条复杂条件查询,对数据时效性、完整性、安全性的要求如何等因素。范学蠡建议公司结合不同的业务场景选择存储系统、甚至在数据量小的情况下用Excel也是个不错的方法。

  本届DTCC大会,范学蠡分享的主题是《大数据在本来生活的应用》,主要包括BI技术体系为何要从关系型数据库转向Hadoop生态?什么样的问题导致本来生活网狠下决心走向Hadoop?相信很多还在路上的同学会和本来生活网一样遇到许多困惑和难题,范学蠡此次的分享想必会激发很多技术人的强烈共鸣。

作者:zyy

来源:IT168

原文链接:本来生活范学蠡:对大数据从业者的建议

时间: 2024-08-04 00:39:11

本来生活范学蠡:对大数据从业者的建议的相关文章

猎豹移动CTO范承工:大数据是移动营销的核心

刚刚结束不久的2016秒针系统广告主峰会是范承工担任猎豹移动CTO以来首次对媒体发声,这位被称为"硅谷华人技术领袖"的分布式系统.云服务基础设施以及大数据领域专家针对数字营销的创新及发展趋势做了精彩解读.在会后的媒体专访中,范承工对猎豹移动大数据能力及大数据营销价值进行了解析.从范承工的专访中,看得出猎豹移动致力于成为移动领域大数据玩家的决心,希望在未来与广告主共同推动移动营销的创新及发展. 猎豹移动CTO范承工,大数据领域的专家 1990年,17岁的范承工就离开家乡上海,开始了美国的

霍学文:大数据重塑未来金融监管方式

世界经济论坛创始人.<第四次工业革命>作者施瓦布认为,建立在数字革命基础上的第四次工业已经到来,这是一场系统性的深度变革,而用大数据进行决策是这些变革之一. 在大数据.云计算等技术变革下,我国的金融行业将出现哪些变化?金融监管面临哪些新挑战?如何利用大数据进行智能决策?就这些问题,记者专访了北京市金融工作局党组书记霍学文. 大数据时代到来 凯文·凯利(Kevin Kelly)被誉为互联网经济的预言家,他精准预测Web2.0时代的到来和网络经济的运行规律.凯文·凯利预言,未来,大数据.云计算.移

工信部杨学山:大数据不是颠覆性创新

近日,工业和信息化部副部长杨学山表示,大数据对整个产业和社会来说都是新的机遇,但大数据并非新的概念,也并非http://www.aliyun.com/zixun/aggregation/9729.html">颠覆性创新,仍有很多问题要解决,很多事情要做. 杨学山表示,大数据目前还处于一个应用的低级阶段,整个业界对大数据的概念本身.应用本身都还有很多的不足和问题,这些问题不解决,大数据很难发挥其应有的作用,也很难落地. "作为行业主管部门,工信部将引导大数据的6182.html&q

范晓忻:大数据产业生态已经初步形成

在博鳌亚洲论坛"财经-金电联行主题午餐会--金融·大数据产业革命"上,金电联行(北京)信息技术有限公司董事长兼总裁,中国中小企业协会副会长范晓忻表示,大数据的发展已经进入快车道,"已经不像前两年还处在起步阶段,其实还有非常大的成长空间,但是整个产业生态已经初步形成". 范晓忻指出,东部发达地区把大数据更多用于跟传统产业的结合,帮助这个产业找到自身的问题,实现转型升级,而在中西部地区,则更关注大数据的基础设施建设,希望把大数据当成一个独立的产业发展拉动当地的经济.&q

中国人民大学助力政府大数据预警预测平台

中国正加快政府统计研究,依托国家统计局和中国人民大学统计学院的研究实力,解决了一系列政府统计相关的重要问题,如国民经济核算.政府统计数据质量控制.抽样调查设计,尤其是依托目前中国29年来,唯一一个在国际大数据领域国际标准"流数据库国际标准"大数据核心技术,利用多渠道数据为甘肃省统计局设计建立的大数据统计预警预测平台,为政府部门经济决策提供实时.动态.多渠道的数据支撑,目前在国内处于领先地位. 近日人民大学统计学院院长孟生旺在人民大学向前来考察的国家统计局领导汇报了以甘肃统计局宏观预警平

跟省长学知识:大数据时代,政府如何用好它?

"大数据"是时下最热门词汇之一,听起来高大上,其实就在你我身边.上网.玩手机.住宾馆.买车票--不经意间,我们生活中的很多数据被记录,进入了大数据. 大数据到底是啥?它能给我们带来什么好处?四川大数据产业发展情况如何?5月16日,在省长尹力主持召开的省政府常务会议上,电子科技大学周涛教授为我们揭开了大数据的神秘面纱. 什么是大数据? "大数据"不是一个大仓库,将所有数据简单地堆放在一起:"大数据"也不是一本"武功秘籍",告诉你

打包带走!大数据从业者不可不知的实用工具大全

工欲善其事,必先利其器. 作为在大数据领域摸爬滚打叱咤风云的伙计们,也应当有一些实用工具来辅助工作日常.下面是小编精心整理的一些经检测非常实用的工具及网站,呈给大家~~ 数据可视化工具 说到数据呈现,必然少不了可视化,分分钟将你的数据以更直观更闪亮的形式展现在用户面前. Tableau:http://www.tableau.com/zh-cn Infogr.am:https://infogr.am/ Easel.ly:https://www.easel.ly/ Color Brewer:http

大数据时代,人类生活面临颠覆

对于IT领域来说,最近有很多非常新的概念,比如云计算.物联网,当大家刚刚对这些概念开始有清晰的认知时,又一个全新概念出现了--大数据.什么是大数据?大数据概念究竟指向何方,大数据背后能怎样改变我们生活?会不会给我们的生活和工作带来困扰? 本报与第一财经头脑风暴节目合作探讨大数据时代下的问题.参与这次讨论的嘉宾有大数据概念的提出者.牛津大学教授维克托·迈尔·舍恩伯格,微软亚太研发集团.云计算操作系统首席架构师徐明强,上海市信息化专家.专业委员会专家.复旦大学计算机学院院长王晓阳,科尔尼管理咨询全球

本来生活网资金链堪忧 两大高管出走

本来生活网刚刚迎来两岁生日,这家以媒体基因著称的另类生鲜电商无论是知名度.发展速度都可圈可点.但就在其为两岁生日展开一系列活动之前,公司两大创业高管却选择离开. 据腾讯科技独家获悉,曾担任本来生活市场部总监.原产地采购与分销中心总经理胡海卿和本来生活副总经理蒋政文(花名:唐宋)两大高管已悄然离职,上述两位高管直接负责和参与了本来生活网一战成名的褚橙案例. 目前,胡海卿开始在农产品品牌打造和投资孵化领域创业,而蒋政文则加盟了乐视. 早在今年5月份,就不断有消息人士向腾讯科技透露,本来生活融资艰难,