指引大数据未来方向的九大真理

文章讲的是指引大数据未来方向的九大真理,笔者总会时不时沉浸在对大数据原则的思索当中,这里讨论的并不是Hadoop与关系数据库或者Mahout与Weka的对抗,而是更具根源性的智慧——将数据作为“新时代货币”的思维方式。不过也许将数据描述成“新时代的石油”更加贴近,或者,我们还需要一种新的比喻更全面地诠释数据的价值与内涵。

  比喻本身既非事实也难以证明,但它们确实能够创造出指引我们找到真理的话题。比喻让复杂的概念变得更易理解,正如本文中所引用的经典语录——它们有助于解释大数据的各项基本原则。本文将列举八条与大数据密切相关的真理——大家对此也许有所耳闻、至少略有耳闻——并按时间进行排序。最后,笔者将做出自己的推测,与各位朋友分享“未来的真理”。

  1. “相关性并非因果关系”

  这样的说法我们已经听过不止一次。在大学的哲学课堂上,我了解到这样一个关于基础谬论的表述版本,叫作post hoc ergo propter hoc,翻译过来就是“后发者因之而发”。听起来实在有些隐晦,更直白点解释,就是说“B事发生于A事之后,因此B事由A事而起”。

  大家可以读读O’Reilly Radar的博客。在其中一篇名为《猜测的隐性成本》的文章中,Alistair Croll指出:“最明显的相关性表现在大数据的专长方面……并行计算、算法的改进以及摩尔定律的准确特性已经大大降低了对数据集进行分析的成本,”由此衍生出一个“由数据驱动的社会,既聪明又愚蠢。”最终结论?保持聪明的特性,尊重相关性与因果关系之间的差别。模式只是表现、并非结论。

  2. “所有模型都是错误的,但其中一些确实管用”

  意外事件统计学家George E.P.Box在他1987年编撰的教科书《实证模型构建与响应面》当中写下了这样的结论。在从教的整个职业生涯当中,Box一直努力将自己的思路转化成模型,而这种习惯对于大数据分析技术而言非常适用。1976年12月,《美国统计协会》杂志曾经发表过一篇题为《科学与统计》的文章,其中具体论证了模型的前世今生与现实意义。

  3. 大数据(几乎)洞悉一切

  如果大家还无法认同这一结论,请尽快强迫自己接受。这句话源自Scott McNealy在1999年发表的一份声明,他表示“大家将彻底告别隐私……请学会适应这一点。”值得一提的是,McNealy正是Sun Microsystems公司的联合创始人兼CEO。如今大数据侵入个人生活的例子比比皆是:分析师有能力根据社交言论推断发言者的性别,或者通过购买习惯判断其家中是否存在孕妇;Acxiom等从事大量商业信息存储的企业迎来辉煌的业务飞跃;预测及防灾信息整合正全面崛起;美国国安局的“棱镜门”事件也已经大白于天下。

  4. “与业务相关的信息当中,有八成源自非结构化形式,主要是文字(但也包括视频、图像以及音频)”

  在2008年的一篇文章中有这样的结论——虽然正如当时所说,由于很难精确量化,可能早在上世纪九十年代初非结构化数据已经扮演起重要角色,只是我们当时体会不到。总而言之,八成以上的说法只是种模糊的概念而不能过分较真,因为据我所知,没有任何一种评估机制针对这个问题进行过系统性衡量。尽管如此,相信每一位与Box秉持相同理念的统计学者都会认为“八成非结构化”这一论断颇具指导意义——即使其并不正确。无论具体数量如何,文本与内容分析都应该成为大家工具包中的常驻成员。

  5. “这不是信息超载,而是过滤器故障”

  Clay Shirky在2008年9月于纽约举办的Web 2.0博览会上提出了这一论断。Shirky对于过滤器本身的评价显得有些保守,例如“数据量的增加并不意味着就能带来更好的结论”,但这正好与我的观点不谋而合。但前提是事情别做过头;大家千万别像Eli Pariser那样认为“过滤器概念纯粹是泡沫”,他的眼界最多也只能达到自动化的层面、无法再望向更为广阔的未来。

  6. “相同的含义可以通过多种不同方式进行表达,相同的表达当中可以涵盖多种不同含义”

  在2009年3月IEEE智能系统大会上,谷歌公司员工Alon Halevy、Peter Norvig以及Fernando Pereira在一篇题为《数据的非合理化有效性》一文中陈述了以上观点。数据的非合理化有效性是如何显露出来的?他们给出的答案是,“不精确且模棱两可的”自然语言的语义解释就是最好的实例。此外,通过机器学习进行关系推断、从而实现对大规模聚合内容的解释也能证明这一点。。

  7. “大数据的核心不是数据!大数据的价值在于分析”

  哈佛大学教授Gary King在与第六条中的几位谷歌员工一同出席IEEE会议时表达了这一观点。不过我并不完全赞同King的这种说法。在核实数据需求并制定理想方案以收集并整理数据结构的执行过程当然也存在价值。分析能够帮助我们发现这些价值,因此我站在King的肩膀上总结出这样一种更准确些的表述:大数据的价值通过分析来实现。

  不过这只是我的想法,未必能得到King本人的认同。对这个话题感兴趣的朋友可以点击此处查看由Steve LaValle、Eric Lesser、Rebecca Shockley、Michael S. Hopkins以及Nina Kruschwitz于2010年12月在《麻省理工大学-斯隆管理评论》期刊上发表的文章《大数据、分析以及由观点到价值的路径》。

  8. “直觉的重要性并未受到影响”

  这句话来自Phil Simon,也就是今年早些时候发表的《大到不容忽视:大数据商业案例》一文的作者。(我为该文的撰写提供了关于文本及情感分析的一些材料。)

  Simon解释称,“大数据并没有,至少目前还没有,取代直觉;后者仅仅作为前者的补充存在。二者之间的关系是连贯统一的,而绝不是非黑即白。”Tim Leberecht在今年六月由CNN刊发的《为什么大数据永远无法替代商业直觉》一文中也做出了类似的表述。

  最后,这八大指引未来的真理还需要最后一点补充才够完整——不过这一点尚未得到广泛理解:

  9. 大数据的未来在于综合与背景

  大部分解决方案当中所欠缺的元素在于整合不同来源信息的能力,这种能力会以适当方式考量与内容相关的产生环境,从而得出准确的结论。这里我打算引用设计策略师Jon Kolko在一份启发性论文中所涉及的论证过程(当然,多少会有些断章取义)。首先,Kolko援引了认知心理学家——他们尝试研究直觉与解决方案之间的联系——的结论作为例子。当事者会“根据实际背景理解人物、地点以及事件之间的关联,弄清事件发生的具体时间,从而对未来可能发生的情况做出判断并采取相应的行动。”

  Kolko将设计综合性视为关键性要素,是一种“将数据的操作过程、组织、调整以及过滤过程与背景相结合的方式,旨在将数据转化为信息与知识。”这能带来怎样的结果?IBM公司研究员Jeff Jonas认为,“通用目的”型背景系统将有助于在同一数据空间内对不同数据加以定位。此类方案能够使我们对不断变化的观察空间进行可规模化扩展、实时且前所未见的探索。

  这不正是我们为大数据制定的发展目标吗?从模式检测向可操作结论迈进。我希望自己总结的这九大真理能够帮助各位了解大数据的这一发展路径。

作者:核子可乐 编译

来源:IT168

原文链接:指引大数据未来方向的九大真理

时间: 2024-10-01 20:25:51

指引大数据未来方向的九大真理的相关文章

星图数据CEO谷熠:商业AI将成大数据未来方向

让无数网友疯狂剁手的"双11"购物节已经过去两周时间了,如今各大电商网站又瞄准了"双12"这个时间点,准备再度厮杀一番,再加上圣诞节和元旦的大促活动,看来12月又将会是相当热闹的一个月.不过在诸多消费者买买买的同时,海量的购买交易数据也正在生成,这些数据不仅能够反映出消费者在网上购物的喜好,还能为供货商的产品策略提供强有力的依据,将这些数据进行采集.处理.整合.计算和分析成为许多大数据公司toB业务的主要组成部分. 双11当天,互联网大数据服务提供商星图数据对16个

顽疾反复发作:大数据技术领域的九大痛点

尽管在Hadoop与NoSQL部署方面做足了准备,同样的问题仍然一次又一次反复出现.现在业界是时候尽快搞定这些麻烦事了. 有时候一艘巨轮的侧方出现了破洞,但业界却决定坐等船体下沉.并把希望寄托在销售救生艇身上. 也有些时候,这些问题似乎并没到要闹出人命的地步--类似我家里浴室的状况,只有往一边拧龙头才会出水.过一阵子我可能会找机会修理一下,但事实上这个问题已经存在了12年之久了. 而在面对大数据业务时,我可以列出九个长久以来一直令人头痛的问题,时至今日它们依然存在着并困扰着无数用户. 大数据痛点

解读云计算、大数据、物联网等九大IT技术发展趋势

不到一个月的时间就要到了2014年,很多人开始回顾和总结自己的2013年.在IT行业,市场研究公司IDC预测了该领域的九大技术:云计算.大数据.平板电脑的兴起.物联网等. 1. 个人和企业等将在技术上花费21000亿美元 IDC称,全球IT支出将在明年增长5%,至2.1万亿美元.在2014年很多个人和企业的购买方向将不再是单一的PC,而是更侧重于移动设备的投资.就单单智能手机和平板电脑方面,将会出现15%的增长.另外很多公司将会加强自身的数据安全以及采购新的硬件设备与移动设备搭配起来使用.他们需

关于安防与大数据不能不说的九个发展趋势

当前,安防大数据的应用也越来越多,但真正将大数据的挖掘和应用落到实处,转变为商业模式的还是很少,目前很多大数据概念都是噱头.后期安防厂家会进行分化,部分传统安防厂家更加专注于某固定安防领域继续深耕,专注于产品和技术,一部分安防厂家会向大安防集成平台转变,专注于业务整合和数据分析处理. 当数据全面实现联网.共享,得到有效存储,并予以充分分析和挖掘,安防领域的大数据时代将真正深化.那时警察可以轻松地搜索某一时段某一颜色或某一品牌汽车的所有视频并快速识别违章行为;在没有人为干预的情况下,视频监控设备通

大数据给我们的九个“教训”

昨天和今天我参加了俄亥俄州立大学的"大数据未来研讨会".俄亥俄州正在与IBM公司合作在当地创建一个大数据中心,逐渐成为该领域的一个重要学术力量.本次研讨会汇聚了来自全国各地的专家和一名来自英国的专家,就该领域当前的成就.趋势和话题进行一次卓有成效的探讨.很遗憾我没能参加今天下午的展示会,但大家可以在会议官网和即将出版的<信息社会的法律和政策>杂志(AJournalofLawandPolicyfortheInformationSociety)上了解更多详情. 大数据和开放数据

大数据应用方向思考

一. 警惕大数据过热 1.1 过热产生盲目性 国内大数据的宣传早已过热,很多区县级政府也在考虑成立大数据局,政府对大数据热几乎没有抵抗力,企业没有紧跟就对了,在大数据高潮中反省政府的大数据行为.冷静一下头脑是有益的,毕竟大数据应用是一个经济问题,一窝蜂地大数据会使人犯"大炼钢铁"一类的错误. 1.2 大数据应用效益存在问题 大数据最积极的推动者是政府,但是政府工作如何从大数据应用中获益一直没有清晰的答案,有效的大数据应用集中于互联网企业和金融领域并非政府工作,迄今一本像样的政府大数据应

Taste Analytics带你畅游大数据未来

文章讲的是Taste Analytics带你畅游大数据未来,近年来"大数据"及"数据分析"的概念火爆异常,然面对大数据分析时,国内外却有着不小的差距,国内企业仍以结构化数据分析为主,而美国的很多企业却早已向非结构化数据迈进. 非结构化数据分析目前属于非常前沿的技术,需求量很大,但是在市场上几乎是一片空白,Derek Wang(汪晓宇博士--美国数据分析科学家.前北卡大学夏洛特分校助理敎授.夏洛特视觉中心主任)与其团队看到这个领域的巨大潜力,并且把握住了机会,悉心研发

2014年大数据未来发展仍需面临三道关

文章讲的是2014年大数据未来发展仍需面临三道关,大数据从"概念"走向"价值",基于大数据的推荐与预测逐步流行,数据科学将兴起,安全与隐私成为重要问题,大数据产业成为战略性产业--这是中国计算机学会大数据专家委员会对"大数据"2014年十大趋势预测中的内容.在这份预测中,还包括数据商品化与数据共享联盟化,大数据生态环境逐步发展等.同时,大数据专家委员会预测,2014年,互联网和电子商务.金融(股市预测.金融分析).健康医疗(流行病监控和预测等),

找对应用目标:大数据未来关键点在商业

大数据是一个技术成分比较重的议题,因为数据处理在技术上有所突破,诸如MapReduce.Hadoop等分散式大数据处理技术的问市,才让我们比较有办法应付未来数据处理与分析的难题,例如数据量快速增加.数据流动的频率及速度变快,以及成等比级数大量增加的非结构化数据. 但是,光有这些崭新的数据分析技术,并不会因此就让企业变得更聪明,能赚更多的钱.若没有明确的商业应用,大数据不会带来什么价值.然而,IT部门如何知道大数据的商业应用在哪里,就是一个大问题了. 大数据厂商说,不乏有信息主管在询问:大数据可以