大数据分析模型成功关键因素之我见

无论在报纸、杂志、机场媒体,还是在酒吧的闲谈中,大数据都成了一个热门话题。每个人都在谈论这个时尚的话题,但迄今为止只有极少数企业真正成功的运用这一技术!导致这一情况的重要原因就是企业对建立可操作的大数据分析模型成功关键因素缺乏深刻的认识。结合多年来与多家全球性公司合作经验,我们认为:为了取得成功,大数据分析模型需要满足如下几种要求:

(1)业务相关性。业务相关性是对分析模型的第一个关键要求。分析模型必须能够解决特定的商业问题。那些性能优越,却不能解决商业问题的模型是毫无意义的。显然,在模型开发前,对商业背景和业务问题有全面的理解必不可少。例如,在保险欺诈检测问题中,必须在一开始对如何定义、衡量和管理欺诈有清晰的界定。

(2)统计性能。影响模型成功的另一个重要关键因素是模型性能表现。换句话说,从统计意义的角度,分析模型应该显著提高预测或描述的性能。根据分析问题的类型不同,常常采用不同类型的性能评价指标。在客户细分,统计评价指标主要评价对比簇内的相似性与簇间的差异性;在客户流失预测中,主要评价模型是否赋予了潜在流失客户的较高得分。

(3)解释性和合理性。解释性是指分析模型容易为决策者所理解,合理性是指模型与专家的预期和业务知识相一致。解释能力和合理性都是主观判断,取决于决策者的知识和经验。这两个因素与统计性能分析之间常常是矛盾的,譬如:复杂神经网络和随机森林模型预测性能较好,但是解释性较差。所以,决策者需要在两者之间寻找平衡点。在信用风险分析等应用场景中,解释性和合理性是非常重要的因素,而在欺诈检测和营销响应建模中,这一因素就不是那么重要了。

(4)运行效率。运行效率涉及模型评估、监测、检验及重建过程中所需投入的时间。从这个因素来看,很明显的神经网络或随机森林效率较低,而回归模型和决策树等更有效率。在信用卡欺诈检测等业务场景中,运行效率是非常重要的,因为所有的决策必须在信用卡交易开始后几秒钟内完成。

(5)经济成本。经济成本是收集模型所需数据、运行模型以及分析模型结果的过程中所投入的成本,此外还包括引入外部数据和模型的成本。在分析模型的经济回报时,所有的这些成本都必须考虑在内,通常不是能简单直接计算出来的。

(6)合规性。在很多行业中,合规性变得越来越重要。合规性是指模型对现有制度和法律的遵从程度。在信用风险领域,分析模型符合巴塞尔协议II和III的规定尤其重要。而在保险行业中,模型则必须遵从欧盟偿付能力协议(Solvency II) 。

总结以上,在本博客文章中,我们简要论述了成功构建数据分析模型的关键因素。如我们所指出的那样,每个因素的重要性取决于模型应用场景。

本文作者:Cooker

来源:51CTO

时间: 2024-09-13 13:42:28

大数据分析模型成功关键因素之我见的相关文章

大数据分析模型到底需要满足哪些条件?

无论在报纸.杂志.机场媒体,还是在酒吧的闲谈中,大数据都成了一个热门话题.每个人都在谈论这个时尚的话题,但迄今为止只有极少数企业真正成功的运用这一技术!导致这一情况的重要原因就是企业对建立可操作的大数据分析模型成功关键因素缺乏深刻的认识.结合多年来与多家全球性公司合作经验,我们认为:为了取得成功,大数据分析模型需要满足如下几种要求: (1)业务相关性.业务相关性是对分析模型的第一个关键要求.分析模型必须能够解决特定的商业问题.那些性能优越,却不能解决商业问题的模型是毫无意义的.显然,在模型开发前

你造吗?这才是大数据项目成功的7大秘密

文章讲的是你造吗,这才是大数据项目成功的7大秘密,大数据项目的成功有哪些法宝?又有哪些陷阱会导致大数据项目的失败?本文中的三位专家将对此进行详解. 如今,许多企业都理解了大数据的构成,但是要取得大数据项目的成功则是另一回事.Gartner公司的分析师,Doug Laney. Forrester公司分析师Mike Gualtieri.International Institute for Analytics的高级研究学者,Robert Morison 都是大数据领域的专家,他们对于企业如何使用大数

《大数据分析原理与实践》——2.1 大数据分析模型建立方法

2.1 大数据分析模型建立方法 大数据分析模型可以基于传统数据分析方法中的建模方法建立,也可以采取面向大数据的独特方法来建立.为了区分这两种模型建立方法,我们分别简称其为传统建模方法和大数据建模方法.由于这两种模型建立方法存在一些交集(如业务调研.结果校验等),我们采取统一框架来进行介绍,在介绍时区分两种建模方法的不同之处. (1)业务调研 首先需要向业务部门进行调研,了解业务需要解决的问题,将业务问题映射成数据分析工作和任务.对业务的了解无疑是传统建模方法和大数据建模方法都需要的. (2)准备

《大数据分析原理与实践》一一2.1 大数据分析模型建立方法

2.1 大数据分析模型建立方法 大数据分析模型可以基于传统数据分析方法中的建模方法建立,也可以采取面向大数据的独特方法来建立.为了区分这两种模型建立方法,我们分别简称其为传统建模方法和大数据建模方法.由于这两种模型建立方法存在一些交集(如业务调研.结果校验等),我们采取统一框架来进行介绍,在介绍时区分两种建模方法的不同之处.传统数据分析建模方法与大数据分析建模方法从大数据这个概念提出开始,就有"大数据分析方法与传统数据分析方法同与异"之辩.有的观点认为,传统分析是"因果分析&

颢云卜晓军:行业+大数据是成功突破点

文章讲的是颢云卜晓军:行业+大数据是成功突破点,自2015年9月国务院发布<国务院关于印发促进大数据发展行动纲要>(以下简称纲要)以来,大数据成为国家战略,这也预示着大数据市场正式拉开了大帷幕.事实早在纲要没有推出之前,我们看到大数据已经在市场上是风声水起.为了更好的了解大数据,同时帮助行业企业落地大数据,近日,IT168记者有幸采访了耕耘行业大数据领域多年的大数据专家--北京颢云信息科技股份有限公司(以下简称颢云科技)CEO卜晓军,他为我们详细介绍了大数据的"前世今生",

《大数据分析原理与实践》一一第2章 大数据分析模型

第2章 大数据分析模型 大数据分析模型讨论的问题是从大数据中发现什么.尽管对大数据的分析方法林林总总,但面对一项具体应用,大数据分析非常依赖想象力.例如,对患者进行智能导诊,为患者选择合适的医院.合适的科室和合适的医生.可以通过患者对病症的描述建立模型而选择合适的科室:可以基于对患者位置.医院擅长病症的信息以及患者病症的紧急程度建立模型而确定位置合适的医院:还可以根据医院当前的队列信息建立模型进行推荐,如果队列较长则显示已挂号人数较少.等待时间较短的医生资料,如果队列较短则显示那些挂号费和治疗费

大数据项目成功的七大秘密

文章讲的是大数据项目成功的七大秘密,大数据项目的成功有哪些法宝?又有哪些陷阱会导致大数据项目的失败?本文中的三位专家将对此进行详解. 如今,许多企业都理解了大数据的构成,但是要取得大数据项目的成功则是另一回事.Gartner公司的分析师,Doug Laney. Forrester公司分析师Mike Gualtieri.International Institute for Analytics的高级研究学者,Robert Morison 都是大数据领域的专家,他们对于企业如何使用大数据有着独特的视

利用大数据取得成功的7条建议

就在您认为大数据不可能再变大时,它还在不断变大. 无论其实际大小,大数据正在显示价值. 各个地方的组织都有各种形态与大小的大数据. 这些组织意识到其重要性.机遇以及给予关注的迫切需要. 很显然,无论忽略与否,大数据都会不断发展. 已掌控大数据(在明了其价值前储存的多结构混乱数据)的组织正在提升组织效率.提高收益,并发展新的业务模式. 他们是怎样做到的? 这些机构成功的方法可以总结为七条建议. 1.以短期考虑促进长期考虑 担心能否跟上大数据的潮流的人,不止您一个. 一切都瞬息万变,因此无从知道今年

大数据业务成功须遵循的7个步骤

在IT领域,我们都热爱炒作和制造流行语.与时尚潮流一样,我们似乎有一个20年的周期,即我们会回归到以前的技术,然后赋予其新名称,并坚称这是每个人必须立即拥有的技术.最新的炒作就是:大数据. 从http://www.aliyun.com/zixun/aggregation/13541.html">Interop大会到各种云会议,我们被告知,如果我们没有制定大数据战略(并与云战略相结合),那我们就落后了. 对于大数据,有三个重要的事实.首先,它并不是新趋势.亚马逊.微软和谷歌自上世纪90年代就