寻找新的大数据分析解决方案来提高业务灵活性和降低成本

一直以来,数据分析都在利用电子储存信息获益方面发挥着重要作用。一些组织利用数据分析解决方案提供可增加收入、提高市场份额、降低成本和取得科学突破的洞察。

如今,随着业务流程的日益自动化,数据分析的版图也在不断扩张。之前存储于独立在线和离线存储库中的各种格式的信息,现在都能以数字格式进行存储,随时进行合并和分析。因此,企业高管对数据的要求越来越高,期待更迅速、更有效的解决方案。组织也更加重视数据分析活动,这无疑给现有的业务分析师和 IT 团队带来更大的压力。

大数据的定义

从某种程度上说,大数据是数据分析的前沿技术。对“大数据 (Big Data)”这个术语的最早引用可追溯到 Apache.org 的开源项目 Nutch。大数据是指为更新网络搜索索引需要同时进行批量处理或分析的大量数据集,比如大小为数十到数百 TB 的博客。随着谷歌的关于 MapReduce 和 Google File System (GFS) 的发布(后者发展成了 Apache Hadoop 开源项目),大数据不再仅仅是指大量的数据,还涵盖了处理数据的速度。随着全新的、结构化的、非结构化和多结构化数据类型的出现,大数据还包含一个复杂性元素。

企业战略集团 (ESG) 发现,供应商理解的“大数据”只是字面上的意思,即大量的数据。这种趋势在提供某些解决方案的供应商中尤为明显,这些供应商提供了分布式并行文件系统(如 GPFS 和 Luster)、特定于工作负载的存储解决方案(如 EMCIsilon 和 Panasas)和专为复杂分析而设计的数据库(包括 Teradata 的 Aster、HP 的 Vertica、IBM的Netezza 和 EMC 的Greenplum)。如表 1 所示,ESG 更新了大数据的定义来反映当前使用情况。

大数据是指超出正常处理范围和大小、迫使用户采用非传统处理方法的数据集。

表1. 大数据的定义

评估大数据对数据分析的影响

ESG 认为大数据不是市场炒作。对于许多跨多个垂直行业的组织而言,大数据是真实存在的,而且它正在改变数据中心的架构。随着数据量,数据处理速度和数据类型的复杂度以远超标准前端和后台数据处理能力的速度增长,大数据在不断增长,这迫使 IT 团队考虑采用非常规的方式处理业务需求。

在缓解提高绩效的压力的同时,如何利用当前的分析平台和基础 IT 架构处理不断增长的数据量?这是很多组织都在尝试解决的问题。为更好的理解组织如何应对大数据带来的挑战,以及他们想通过部署新的分析平台来满足大数据需求并从中获得哪些利益,ESG 近期针对 270 位决策者和影响者展开了一项调查。(调查结果如下)

据 ESG 的调查结果显示,如果一些组织拥有大量的数据和不断增长的数据库容量,而且这些数据源自多个来源,那么他们面临大数据挑战的可能性就更高。随着越来越多的数据源集成到业务智能和数据处理任务中,通常的数据分析流程已经无法满足需求。这些组织认识到,提高数据分析能力同样非常重要。

超过半数的调查对象将提高数据分析能力列为未来 12-18 个月内最重要的五个 IT 优先考虑事项之一(参见表 2)。另外,只有 5% 的人认为数据分析不是他们最重要的 20 个 IT 优先考虑事项之一。超过半数 (54%) 的企业(雇员超过 1000 人)认为数据分析是最重要的五大 IT 优先考虑事项之一,而只有 42% 的大中型企业(雇员为 500-999 人)持这样的观点。

表2. 数据分析的相对重要性

目前,主导的数据分析平台尚未出现。半数以上的组织仍在使用自定义数据分析解决方案。通用数据库针对特定工作负载进行了调优,也被广泛用于执行数据分析活动。至少需处理 100 TB 数据的组织更倾向使用基于云的数据分析服务,以及大规模并行处理 (MPP) 或对称处理 (SMP) 分析数据库。尽管早几年就已经出现特定于工作负载的设备(即将分析数据库与软件、存储、服务器和网络资源绑定在一起),但是只有 6% 的组织将这些解决方案当作其主要的数据分析平台。这个比例之所以这么小,主要是因为供应商可以选择的设备有限,而且这个局限性在未来 12-18 个月内会一直存在。调查结果表明,组织一直在挑战其分析平台的极限,同时也在努力寻找更好的架构,以便更好地完成日益增长的数据分析任务。

数据集成是最常见的数据分析挑战,超过三分之一 (39%) 的调查对象认为数据集成过程太费时,数据量太大 (35%),或两种情况同时存在。随着企业数据集成的数据来源的增多,这些问题也会变得更加严重。

时间: 2024-07-31 04:20:44

寻找新的大数据分析解决方案来提高业务灵活性和降低成本的相关文章

在新美大“创业”:KTV预定业务演进之路

我们戏称KTV业务部是点评公司内的小"创业公司",加入KTV事业部一年来,我们也像一个初创团队一样,从0开始,基本完成了KTV预订业务第一个阶段的探索. 今天从业务角度上对KTV预订的流程,以及我们在KTV预订流程发展过程中的探索给大家做一下介绍.今天的介绍主要分为如下几个大块: KTV预订业务基本介绍 KTV预订展示侧的抽象 KTV订单模型的演变 KTV预订流程的演变 KTV预订业务基本介绍 一个完整的KTV预订流程如上图所示: 用户从商户列表中找到目标KTV: 进入商户详情页后,在

如何理解大数据分析

如今,云计算的热潮似乎还没散去,行业厂商就已经开始关注下一个热点:大数据.而与以往的炒作周期一样,现在的大数据对于用户来说其来源比较混乱,因为供应商提出了自己独特的,并且经常相互矛盾的定义和术语. 大数据定义之所以混乱的最常见的原因,是人们将大数据存储与大数据分析的结果混为一谈."大数据"一词起源于开源社区,其开发和分析过程比传统的数据仓库速度更快,扩展性更强,并且可以通过网络在用户每天产生的大量非结构化数据中提取价值. 大数据的存储是相关的,其旨在解决大量的非结构化数据,助长企业级的

大数据分析专题:利用向外扩展技术深入挖掘商业价值(1)

  方方面面的发展改进已经让从半结构化数据中获取有价值信息成为可能.以Hadoop为代表的新型解决方案在构建层面就充分考虑到了要如何适应跨商用服务器集群的分布式运行环境. 大数据:以需求为导向的审视角度 新型分析工具与极大丰富的处理能力为我们敞开了一道大门,如今企业已经能够借此对庞大的业务及外部数据加以审视并获取有价值结论. 作者:DAVID S. LINTHICUM 从数据池当中挖掘有价值信息,从而实现知识提升的能力早已不算什么新鲜事.事实上,早在一个多世纪以前,这样的处理方式就已经成为科学与

2015年1250亿美元大数据分析市场的6点预测

2015年,全球大数据和分析市场的规模将达到1,250亿美元.国际数据公司(IDC)和国际分析协会(IIA)在不同的网络广播中,都谈到了它们对2015年大数据和分析市场的预测.以下是其中一些要点: 安全软件将成为大数据分析的杀手应用 大数据分析工具将是第一道防线,它结合了机器学习.文本挖掘和本体建模,提供整体及综合性安全威胁预测.检测.阻止和预防程序.(IIA) 物联网(IoT)分析将大热,五年的年均复合增长率为30% 物联网将成为数据/分析服务的下一个重要关注点.(IDC)在物联网潮流侧重于数

IBM大数据分析技术再升级

11月30日,IBM宣布,作为业界最全面大数据解决方案提供商,IBM正在积极实践一系列全新大数据分析解决方案,帮助数字营销.客户服务.运营管理.财务绩效等不同领域的客户从激增数据中获取可行动的洞察,转换与顾客.员工和合作伙伴的互动方式,赢得业务先机.在此前的2012 IBM信息随需应变和业务分析峰会(IOD)上,IBM以"Think Big"."Big Data"和"Big Future"为主题,再次强调了大数据时代大洞察的重要意义,以客户实际经

从世界杯看社交大数据分析如何为行业客户创造价值

ZDNet至顶网软件频道评论: 随着全球智慧商务环境日益成熟,每个企业都在这场巨大的变革中寻求着新的技术和能力.在智能手机和互联网日益普及的背景下,基于社交媒体的大数据分析已经成为影响客户为企业创造价值的重要关键因素.企业用户的首席市场营销官(CMO)已经开始把大数据和社交网络作为营销的最重要的两大手段.在2014年世界杯比赛期间,各种社交媒体上数以亿计的转发和讨论也成为大数据的练兵场,而IBM公司和腾讯社交网络联手在媒体报道及营销上取得了丰硕成果,而这样的社交大数据分析案例在其它很多行业也都有

Hadoop如何迎击大数据分析的挑战

文章讲的是Hadoop如何迎击大数据分析的挑战,大数据分析是现在十分火热的话题,从农业到工业.从金融到体育.从传统企业到初创公司,各行各业都在积极应用大数据分析,似乎你的企业不和大数据沾点边就会显得没有逼格一样. 随着大数据分析的持续走红,大数据分析工具也呈现出了遍地开花的态势,我们今天要说的Hadoop就是其中之一. Hadoop是Apache开发的一个开源项目,短短几年的时间,我们就见证了Hadoop从无到有.从简陋到稳定的转变.目前Hadoop因其具有高度可扩展性,灵活性和成本效益,已经成

大数据分析打造智能制造业

文章讲的是大数据分析打造智能制造业,Made in China的标志性导致了制造业正在成为中国走向世界的一张名片,然而随着人口红利拐点的临近以及土地成本的上升,中国制造业最根本的成本优势逐渐不复存在,制造业需要实现更加高效的信息化转型.然而在这一过程中,中国制造业正在面临前所未有的挑战. 中国政府也已经意识到了制造业竞争力的逐渐下滑,也在积极推进信息化与工业化的深度融合以实现可持续的工业发展.今年五月国务院正式印发了<中国制造2025>,部署全面推进实施制造强国战略,旨在通过重点推进创新驱动.

大数据系列之大数据分析对IT资源的需求

文章讲的是大数据系列之大数据分析对IT资源的需求, 为了准确描述中国大数据市场和技术发展趋势,解析大数据发展的各阶段对IT技术的需求,2013年6月,中桥调研咨询(以下简称中桥)对中国480家最终用户的IT管理者和专业人员,就大数据市场和技术发展趋势展开了调查.中桥首席分析师王丛结合其在欧美数据中心领域十几年的市场调研积累,对中国大数据市场趋势的调查数据进行解析,以诠释中国大数据市场和技术趋势.同时,会通过在线讲座(www.webinars-china.com )和中国读者解读中国大数据市场趋势