发展大数据不能抛弃“小数据”

当前,全国各地都在建设大数据中心,有些偏僻的山区都建立了容量达2PB(拍字节)以上的数据处理中心,许多城市公安部门要求存储3个月以上的高清监控录像。其背后的问题是,这些系统的成本都非常高。

数据挖掘的价值是用成本换来的,不能不计成本、盲目建设大数据系统。什么数据需要保存、要保存多长时间,应当根据可能的价值和所需的成本来决定。大数据系统技术还在研究之中,美国的E级超级计算机系统要求能耗降低到原来的千分之一,计划到2024年才能研制出来。因此,用现在的技术构建的巨型系统,能耗极高。

一味追求数据规模不仅会造成浪费,而且效果未必很好。多个来源“小数据”的集成融合可能挖掘出单一来源大数据得不到的“大价值”。因此,应在数据的融合技术上多下功夫,重视数据的开放与共享。所谓数据规模大与应用领域有密切关系,有些领域几个PB的数据未必算大,有些领域可能几十TB(太字节)已经是很大的规模。

此外,大数据主要难点不是数据量大,而是数据类型多样、要求及时回应和原始数据真假难辨。现有数据库软件无力应对非结构化数据,所以要重视数据融合、数据格式的标准化和数据的互操作。数据质量不高是大数据的特点之一,但尽可能提高原始数据的质量仍然值得重视。比如,脑科学研究的最大问题就是采集的数据可信度差,基于可信度很差的数据难以分析出有价值的结果。

可见,发展大数据不能无止境地追求“更大、更多、更快”,要走低成本、低能耗、惠及大众、公正法治的良性发展道路,要像现在治理环境污染一样,及早关注大数据可能带来的“污染”和侵犯隐私等各种弊端。

实际上,发展信息技术的目的是为人服务,检验技术的唯一标准是应用。我国发展大数据产业一定要坚持“应用为先”的发展战略,坚持应用牵引的技术路线。所谓技术有限、应用无限,各地发展云计算和大数据,一定要通过政策和各种措施调动应用部门和创新企业的积极性,通过跨界的组合创新开拓新的应用,从应用中找出路。

目前流行的大数据定义是“当前技术无法处理的数据集合”,这种针对未知技术的定义强调大数据不同于数据库等传统技术能对付的小数据,有利于推动基础研究、激励探索新技术,但可能引导大家只重视目前解决不了的问题,如同走路的人想踩着自己身前的影子。其实,目前各行各业碰到的数据处理多数还是“小数据”问题。我们应重视实际碰到的问题,不管是大数据还是小数据。

统计学家们花了200多年,总结出认知数据过程中的种种陷阱,这些陷阱不会随着数据量的增大而自动填平。大数据中有大量的小数据问题,大数据采集同样会犯小数据采集一样的统计偏差。Google公司的流感预测这两年失灵,就是由于搜索推荐等人为的干预造成统计误差。

因此,我们不要攀比大数据系统的规模,而是要比实际应用效果,比完成同样的事消耗更少的资源和能量。先抓老百姓最需要的大数据应用,因地制宜发展大数据。发展大数据与实现信息化的策略一样:目标要远大、起步要精准、发展要快速。

本文转自d1net(转载)

时间: 2024-10-30 13:45:33

发展大数据不能抛弃“小数据”的相关文章

大小数据 | 辨析大数据价值与小数据洞察

大数据技术的出现带给人们的思维方式.行为方式.媒体传播方式及社会治理方式等都诸多方面带来了革命性的变革.<大数据时代>一书的核心观点是说:"在大数据时代,我们正经历着一场生活.工作与思维的大变革. 我们没必要非得知道现象背后的原因,而是要让数据自己发声."在大数据时代,相关关系能够帮助我们更好地了解这个世界,建立在相关关系分析法上面的预测是大数据的核心,通过找到"关联物"并监控它,我们就能够预测未来. 作者还提出了"大数据三原则":要

大数据时代,小数据中心

文章讲的是大数据时代,小数据中心,中国(上海)国际数据中心技术设备展览会在上海隆重开幕.紧跟德国工业4.0的新趋势,威图(Rittal)携绿色.节能.可靠的数据中心系统解决方案登陆本次展会.在变革的大数据时代,威图(Rittal)将引领数据中心行业健康稳步发展. 展会现场,威图针对模拟的微模块.通道封闭系统,进行了实时监测,参观者可以通过液晶屏,直接了解数据中心内部各项指标信息.威图(Rittal)的微模块,它可根据客户需求在工厂进行预制,并可灵活拆卸,快速组装.威图(Rittal)的LCP机柜

大数据大垃圾中的“小数据”价值

"所谓'小数据',并不是因为数据量小,而是通过海量数据分析找出真正能帮助用户做决策的客观依据,让其真正实现商业智能."日前,在线业务优化产品与服务提供商国双科技揭幕成立"国双数据中心",该公司高级副总裁续扬向记者表示,数据对企业决策运营越来越重要,大数据时代来临,企业最终需要的数据不是单纯意义上的大数据,而是通过海量数据挖掘用户特征获取的有价值的"小数据",进而使企业获取有价值的用户信息,科学地分析用户行为,帮助企业明确品牌定位.优化营销策略.

大数据时代的小数据

现在好像人人都爱说"大数据",就像平时我去开会,不是用大数据分析这个,就是用大数据建构那个.可是我最近看<美国计算机学会通讯>(CACM)上面提到了几次小数据,我觉得大家也有必要了解一下这个有趣的概念. 什么是小数据?小数据就是个体化的数据,是我们每个个体的数字化信息.比如我天天都喝一两酒,突然有天喝完酒了胃疼,我就想了,这天和之前有何不同?原来,这天喝的酒是个新牌子,可能就是喝了这个新牌子的酒让我胃疼.这就是我生活中的"小数据",它不比大数据那样浩瀚繁

大数据时代的“小数据”

如今,CIO们都已经接受了"大数据"的概念,另一个概念也逐渐受到关注:小数据. 这两者看似是相对立的两端,但是这不完全正确.小数据往往指数据量;而大数据当然也包含了数据量,但是也包含了多样性,时效性,特定的技术或者其他概念. Kirk Borne,是美国乔治梅森大学的天体物理学和计算机科学的教授, 他认为这两者的区别是很重要的.Borne有关大数据的课程专注于大数据的属性和先进的分析技术, 而这些也几乎总是可以应用于小数据.但是后者却可以使学生进行实验,磨练他们在数据分析上的技能.而大

大数据时代下小数据又被提起了

&http://www.aliyun.com/zixun/aggregation/37954.html">nbsp; 在本月新出版的一期CACM上又有两篇文章谈到小数据.大数据很热门,小数据也不可忽略,特别是对于个性化的医疗,小数据不可缺少.而且,小数据与大数据的研究是紧密联系在一起的. 大数据.智能设备谈得很多,譬如基因组学.蛋白质组学.代谢组学等等将要改变医学.但是,另一股力量要改变我们关于健康的想法和实践,那就是由个人数字跟踪驱动的小数据.考虑一类基于云的应用,随时间连续地.

大数据,小数据,哪道才是你的菜?

美国著名科技历史学家梅尔文•克兰兹伯格Melvin Kranzberg曾提出过大名鼎鼎的科技六定律其中第三条定律是这样的[1]"技术是总是配"套"而来的但这个"套"有大有小Technology comes in packages, big and small". 这个定律用在当下是非常应景的.因为我们正步入一个"大数据big data"时代但对于以往的"小数据small data"我们能做到"事了

磅:小数据大时代,数据革命迫在眉睫

演讲者:蔡凯龙,注册金融分析师(CFA), 金融风险管理师(FRM), 金融和计算机双硕士,金融博士生,互联网金融专家.现于德意志银行美国战略科技部,点石资产管理公司(DeStone Captial Management)的创始人合伙人兼任投资总监,曾任美国能源公司MXEnergy风控经理,担任休斯顿大学商学院金融系助理教授(Adjunct Professor),出国留学前在厦门开元期货当交易员.   主题概述: (一)小数据的介绍和定义 (二)小数据产生的原因 (1) 大数据对隐私无止境的侵犯

大数据与小数据:对最新新闻的分析

2014年,我国推出了一个社会信用评分的计划.它可以根据公民的行为,社会行为和在线决策来对公民的信用进行评定.在"社会信用体系建设规划纲要"的文件中,鼓励人们的守信行为,做有益于社会的事情.在这样的新闻中,人们可以看到大数据的潜力和未来.无论是从事流处理业务还是数字内容业务的人,都应该了解大数据背后的动态,以适应环境和潮流. 大数据时代 目前,各个领域的大数据爆炸式增长.人们在网上的所有社交活动和行为都将对塑造社会风气带来影响,这是企业应该更多地了解大数据以及如何提供帮助的众多原因之一