美国社会思想家托夫勒在 《第三次浪潮》中提出,“如果说IBM的主机拉开了信息化革命的大幕,那么‘大数据’才是第三次浪潮的华彩乐章。”大数据以其“浅显易懂”的概念、广泛的潜在应用需求和可展望的巨大经济社会效益,正成为继云计算、物联网之后信息技术领域的又一热点,并将在社会经济各领域产生深刻影响。
麦肯锡全球研究院 (MGI)于2011年6月发布了题为《大数据:下一个创新、竞争和生产力的前沿》的研究报告,最早提出“大数据时代已经到来”,并从经济角度引发全球对大数据的关注。报告指出,当前大数据规模以及其存储容量正在迅速增长,已经渗透到各个行业和业务职能领域,成为可以与物质资产和人力资本相提并论的重要的生产要素。大数据是继传统IT之后下一个提高生产率的技术前沿。只要具有适当的政策推动,大数据的使用将成为未来提高竞争力、生产力、创新能力以及创造消费者盈余的关键要素,成为领军企业与其他企业之间最大的显着差别。那些没有引入新的分析技术和新的数据类型的企业,不太可能成为其行业的领军者。
2012年3月,美国奥巴马政府宣布推出 “大数据的研究和发展计划”。该计划涉及美国国家科学基金、美国国家卫生研究院、美国能源部、美国国防部、美国国防部高级研究计划局、美国地质勘探局等6个联邦政府部门,承诺将投资两亿多美元,大力推动和改善与大数据相关的收集、组织和分析工具及技术,以推进从大量的、复杂的数据集合中获取知识和洞见的能力。美国奥巴马政府宣布投资大数据领域,是大数据从商业行为上升到国家战略的分水岭,表明大数据正式提升到战略层面,大数据在经济社会各个层面、各个领域都开始受到重视。
大数据的三重内涵
大数据在业内并没有统一的定义。不同厂商、不同用户,站的角度不同,对大数据的理解也不一样。麦肯锡报告中对大数据的基本定义是:大数据是指其大小超出了典型数据库软件的采集、储存、管理和分析等能力的数据集合。赛迪智库指出,大数据是一个相对的概念,并没有一个严格的标准限定多大规模的数据集合才称得上是大数据。事实上,随着时间推移和数据管理与处理技术的进步,符合大数据标准的数据集合的规模也在并将继续增长。同时,对于不同行业领域和不同应用而言,“大数据”的规模也不统一。
虽然“大数据”直接代表的是数据集合这一静态对象,但赛迪智库经过深入研究认为,目前所提到的“大数据”,并不仅仅是大规模数据集合本身,而应当是数据对象、技术与应用三者的统一:
1.从对象角度看,大数据是大小超出典型数据库软件采集、储存、管理和分析等能力的数据集合。需要注意的是,大数据并非大量数据简单、无意义的堆积,数据量大并不意味着一定具有可观的利用前景。由于最终目标是从大数据中获取更多有价值的“新”信息,所以必然要求这些大量的数据之间存在着或远或近、或直接或间接的关联性,才具有相当的分析挖掘价值。数据间是否具有结构性和关联性,是 “大数据”与“大规模数据”的重要差别。
2.从技术角度看,大数据技术是从各种各样类型的大数据中,快速获得有价值信息的技术及其集成。“大数据”与“大规模数据”、“海量数据”等类似概念间的最大区别,就在于“大数据”这一概念中包含着对数据对象的处理行为。为了能够完成这一行为,从大数据对象中快速挖掘更多有价值的信息,使大数据“活起来”,就需要综合运用灵活的、多学科的方法,包括数据聚类、数据挖掘、分布式处理等,而这就需要拥有对各类技术、各类软硬件的集成应用能力。可见,大数据技术是使大数据中所蕴含的价值得以发掘和展现的重要工具。
3.从应用角度看,大数据是对特定的大数据集合、集成应用大数据技术、获得有价值信息的行为。正由于与具体应用紧密联系,甚至是一对一的联系,才使得“应用”成为大数据不可或缺的内涵之一。
需要明确的是,大数据分析处理的最终目标,是从复杂的数据集合中发现新的关联规则,继而进行深度挖掘,得到有效用的新信息。如果数据量不小,但数据结构简单,重复性高,分析处理需求也仅仅是根据已有规则进行数据分组归类,未与具体业务紧密结合,依靠已有基本数据分析处理技术已足够,则不能算作是完全的“大数据”,只是“大数据”的初级发展阶段。
大数据对信息产业的影响
大数据的热潮兴起于新一代信息技术的融合发展,物联网、移动互联网、数字家庭、社会化网络等应用使得数据规模快速扩大,对大数据的处理和分析的需求日益旺盛,推动了大数据领域的发展。反过来,大数据的分析、优化结果又反馈到这些应用中,进一步改善其使用体验,支撑和推动新一代信息技术产业的发展。
赛迪智库 《软件与信息服务研究》指出,大数据将为信息产业带来新的增长点。IDC预测,全球数据在2015年将达到10万亿TB。面对爆发式增长的海量数据,基于传统架构的信息系统已难以应对,同时传统商业智能系统和数据分析软件面对以视频、图片、文字等非结构化数据为主的大数据时,也缺少有效的分析工具和方法。信息系统普遍面临升级换代的迫切需求为信息产业带来新的、更为广阔的增长点。
同时,大数据将加速信息技术产品的创新融合发展。大数据面临着有效存储、实时分析等挑战,必将对芯片、存储产业产生重要影响,将推动一体化数据存储处理服务器、内存计算等产品的升级创新。对数据快速处理和分析的需求,将推动商业智能、数据挖掘等软件在企业级的信息系统中得到融合应用,成为业务创新的重要手段。