大数据时代 管理从何下手?

数据量的增长变成一个突发事件是最近两年的事情。基于互联网的应用产生的社会性变革,使得一系列数据开始从客户端产生,而不是从企业里产生。数据量的增长速度有了新的级数上的增加。在这个基础上,70%-85%的数据是“多种数据格式的复合体”。未来数据的管理模型跟今天会有很大的差别。另外,87%的数据库性能问题都与数据量的增长相关。这是基于Oracle的一次数据调研。Gartner发现数据量直接影响的是现有处理模式的性能。所以,现在数据量的高速增长,如果按照原来的管理模式,把数据都放在一起保存,未来会遇到更多的挑战。因为现有数据库结构和数据管理的模型,已经不能满足基于大数据的数据规模。

如果一些企业提前采用大数据技术,能在竞争中取得一些先机。Gartner对未来五年的预测,其中有一条引起了轰动。到2015年,85%的世界五百强企业如果不采取大数据的策略将失去竞争力。所以大数据的竞争是非常关键的时机,也是非常残酷的事情。现在大家的确需要有足够先进有力的应对措施。

一、“大数据”是什么?大数据带来的问题是什么?

“大数据”指的不仅仅是数据量,而是会带来一系列新的挑战。Bigdata的概念首先是由Gartner一位叫道戈拉里的分析师提出的。他提出Bigdata面临三个V的挑战:数据量(Volume)、数据多样性(Variety)、高速(Velocity)。

在这个前提下,Gartner去年发布了Bigdata的12个模型。最关注的是最下面的区间,即有关Bigdata最开始产生的几个量化指标:数据量、数据种类和处理速度。一般企业所面对的数据管理管理的是数据库、结构化数据,以及所能预先安装好的管理软件所带来的数据。大数据管理的往往是我们无法管理的数据,比如来自企业外部,微博、社交网站和多媒体等各种载体。

数据多样性将是大数据的一个重点。它意味着未来数据的产生本身就是一个很大的区别。高速,与CIO关注的系统性能不是等同的关系。这里的高速指的是从数据产生到最终针对数据产生决策的速度,里面包括了存储的过程、计算的过程、整个模型和以什么方式提交出最后的结果。所以,不仅是计算能力和存储性能的问题,更多是在数据管理方面如何保护它的处理速度。在大数据问题中,速度往往是性命攸关的。比如对于灾难的预测,当灾难发生时,要很快对灾难发生的程度、影响的区域范围、对长远的影响等都需要量化出来。这是大数据很典型的应用,如果短时间内没有计算出来,那么数据就没用了。

大量、多样性和高速必然带来复杂性的问题。到现在为止很难找到一个很好的解决方案,能够应对所有的数据格式问题。虽然现在有很多不同行业开始采用标准化手段来回避这个问题,但仍然是很严峻的问题。

现在在医疗界有一个数据标准Dicom,即医疗数据的影像传输协定。当初只是针对制药,不过现在医疗行业包括医院都在采用这个数据格式,这是很好的趋势。通过一个中立机构,制定数据格式的标准,由它来解决一部分数据复杂性的问题。但如果放到更大范围,面向所有企业的话,数据格式还不存在。虽然现在有SML这种相对来说适用范围更广的格式,但在具体的定义以及应用方面还有很多挑战。

极限的信息管理:12个象限

“大数据”将对信息管理的各个方面的需求推向极限。访问权限管理和控制,包括数据敏感性分级(Classification)、共享协议(Contracts)、热点数据(Pervasiveness)、技术实现(Technologies)。这个层级是用户很少提到的,有了如此大的数据量,未来会是很严重的问题。数据敏感性分级,把所有数据放在一起是数据管理的灾难,数据管理的前提是所有数据产生的价值是不同的,不同时期产生的价值也是不一样的,必须要定义哪些是有价值的,哪些没有价值,还要定义价值的时间区限。共享协议,数据提交的方式是怎样的,如何提交,提交的格式是怎样的,这些都需要通过合同以法律形式确定下来。热点数据,大数据时代热点数据在不断变化。热点的程度和时间未来对访问权限和控制很重要。技术实现,能够管理大数据的技术手段有哪些。

质量管理包括保真度(Fidelity)、数据的相关性(Linking)、数据的有效性(Validation)、数据的有效期限(Perishability)。在访问权限之上是质量管理,这是原来数据仓库中的重要概念。数据拿进来之后保真度怎样,每个数据都有上下文的关系,这些上下文关系会不会影响在下一个场景中使用。数据的相关性,不同来源的数据组合的模型产生的结果不能将其中一部分拿出来断章取义。数据的有效性,从时间和应用场景的角度对这些数据进行管理,这是更高的层面。这四个象限都非常重要,现在大家关注更多的数据量的问题。

大数据产生对数据中心架构设计的新需求

现有基于关系型架构设计出来的数据中心很难满足未来的要求。大数据如果能充分利用将有非常好的商机。比如商业预测,08年的经济危机人们都归咎于监管不够和对数据模型的设计出现了严重问题。如果设计出一个更加完善的数据模型,是否能预测出产生的危机,并对后果更加量化,帮助人们进行更好的决策呢?大数据不仅对企业,对一个国家,甚至全球的稳定都是十分重要的。

还有很多新类型的应用,比如期货、股票。如果能比竞争对手早一点点预测到市场趋势,都会有非常重要的商业价值。从挑战和机遇来看,会产生对基于大数据架构的一种新的需求。大数据的复杂模型不是在原有系统上扩容,增加一些新应用就能实现的。比如,用数据中心逐渐扩容的方式来迎合这种需求很难做到的。无论是数据库、存储、数据计算能力,现在流行的数据中心的技术很难满足大数据的需求。需要考虑对整个IT架构进行革命性的变化。

(责任编辑:蒙遗善)

时间: 2024-09-25 06:43:48

大数据时代 管理从何下手?的相关文章

大数据时代的商业变革

对于众多企业管理者来说,"大数据"是一个熟悉又陌生的概念.在互联网行业蒸蒸日上的时代,传统企业和互联网企业的管理者对海量的数据规模和其爆炸性的增速毫不陌生,但却对不同来源数据交叉形成的"大数据"具有巨大的潜在价值这一事实将信将疑.事实上,大数据所积蓄的附加价值不仅超乎企业管理者的想象,更将掀起一场在商业模式和决策上的管理变革. 什么是大数据 数十年来,信息产生.组织和流通方式革命性的变化,其中个人用户第一次成为信息产生和流通的主体.QQ/MSN聊天.网络购物.信用卡

善用佳软站长:畅谈大数据时代的知识管理

大数据时代,企业需要面对海量信息,这也催生出数据处理挖掘的新产业,为企业发展提供数据支持.同样道理,作为企业的员工,同样也面对海量海量的处理难题,尤其是作为IT部门员工,一方面需要为企业解决大数据难题,另一方面也要从自身发展角度,考虑如何应对深陷信息海洋的困境. 日前在ACOUG(Oracle中国用户组)组织的活动上,<善用佳软:高效能人士的软件应用之道>一书的作者张玉新做了主题演讲(演讲视频和PPT).张玉新对于信息筛选与知识管理有着很多自己的看法,演讲会后,他也接受了TechTarget记

大数据时代隐私咋保护 专家:技术、立法和管理

核心提示 "大数据"时代下,人们在享受大数据带来便捷的同时,数据泄露事件,数据安全.公民的隐私权保护问题成为大数据时代的最大隐忧. 在"第二届中国大数据安全高层论坛"."数据安全与个人隐私保护论坛"."中国智慧城市数据安全与产业合作高峰论坛"."第一届大数据科学与工程国际会议--大数据安全论坛"上,嘉宾们就大数据时代维护数据安全,减少个人隐私数据泄露支招. 现象 数据泄露事件 身边就有不少 市民张先生最近正

大数据时代的法院管理有何“妙招”

"没想到能和周强院长在一起上课!"这是4月1日北京市朝阳区人民法院干警张晓明通过视频会议系统观看全国政法干部学习讲座时的第一感受. 利用视频会议系统,从中央到县级地方,全国130万名政法干警同时"上课"实属首次.这也意味着信息化管理手段正在逐步助推政法干警队伍建设. 在法院系统,以信息化管理服务队伍建设已成为常态.连接全国四级法院的远程视频系统为新法律法规.司法解释.司法政策培训等提供了平台. 全国法院依托最高人民法院的顶层设计,结合各地具体情况,以创新精神不断加快

CRM(客户关系管理)的大数据时代

CRM(客户关系管理)的大数据"黄金"时代 在大数据时代,CRM(客户关系管理)不仅可以帮助企业获得客户资源,还能加强整个供应链的共生关系.但面对越来越多企业对大数据需求的挑战,BI处理数据性能的技术奖成为应对大数据的关键. 企业软件并非新鲜事物,在国际上一直都是一个非常大的市场,例如微软.Oracle.IBM.Salesforce.CloudCC CRM等都是非常大的企业软件公司. 但在中国却没有特别大的企业软件公司,这主要由两方面原因造成:一是过去中国劳动力成本很低,使用企业软件的

大数据时代下的教育管理信息化建设实践与探索

一.引言 "十二五"期间,高校信息化建设进入了一个"跨越式"发展的阶段.硬件基础设施得到了进一步地提升,数字化业务系统功能不断扩展,极大地提高了教育信息化水平.随着云计算.物联网.移动互联.大数据处理等技术地快速发展,人类已经迈入了大数据时代,硬件系统以及业务软件系统背后产生的原始数据,数据量呈几何级数从TB 级向PB 级乃至ZB 级快速增长,如何发挥这些海量数据的隐藏价值,进一步提升教育教学管理信息化水平,是我们长期关注.思考的问题.在此背景下,研究大数据处理技术

金融管理走进大数据时代

近年来,随着云计算的不断发展,大数据信用以其创 新的理念与技术全面进军金融领域.据金融业相关人士介绍,对银行而言,效率永远是第一位的,人工操作永远赶不上机器操作.如果使用大数据,一个http://www.aliyun.com/zixun/aggregation/23652.html">客户经理可以管理1000-2000个客户,效率会极大提高.事实上,大数据信用在我国金融业已经有了一定规模的应用.据悉,截至目前,金电联行已经为200多家中小微企业提供了总规模超 30亿元的非抵质押信用融资服务

大数据时代,隐私不能粗放管理

在大数据时代,保护个人隐私既不能靠简单授权来约束,也不能停留在事后惩罚.追责的粗放思维中,而要在全社会范围实现对个人信息的精细化管理 最近,有快递公司推出"隐私面单"服务,上面几乎不涉及客户信息,快递员用APP扫码就能联系收件人,方便安全.在网购成为家常便饭的今天,在数据发掘无孔不入的当下,这种保护个人隐私的努力,对每个社会成员都必不可少. 快递途中的信息泄露,只是冰山一角.更多的个人隐私存储在网站服务器.企业数据库中,容易泄露却缺少保护罩.很多人可能都有这样的经验:一打开叫车软件,目

大数据时代的小数字感

目前,"大数据"概念已经深入人心.很多人都喜欢谈论大数据.而我们利用数据,其中一个很重要的目的在于,用之为决策提供支持.因此,如何有效地呈现出大数据给出的结果,并把数据以"人话"说出来的,并让受众(很可能是你的领导)听得懂,就显得非常重要的! 想做到这一点,就得迎合人性,或者,更具体点说,要迎合人类大脑的喜好. 一部经典电影引出来的数字感 如果你看过巴里•莱文森导演的经典奥斯卡电影<雨人>(Rain Man),或许你不会忘记其中一个非常有意思的桥段:在餐