大数据和实时分析的算法分类

如今,大数据技术的发展和进步开辟了收集和传输大量的数据更有效的新方式。这场革命促进了实时算法和方法的研究和发展。传统上,机器学习算法并不是专为实时处理而设计的。事实上,数据的科学竞赛(如Netflix,Kaggle)由于算法昂贵,并且不切实际的使用,并且计算量很大,这往往屡受诟病。这是植根于感知的准确性是更重要的,该算法的速度作为原始设置的数据挖掘是离线的,往往是分批计算。大数据的出现使其开始有了改变,随着越来越多的算法涌现,对一个可扩展的方式重新考虑。大多数时间的可扩展性,单独不妥协的算法的准确性,作为计算其本质上是相同的。大数据分析的实时处理带来了一个更根本的变化,因为它限制了可以在这种情况下可以采用的算法的计算复杂度。一个实时的流媒体算法应该满足以下条件:它应该在一次处理一个例子中,最多检查它一次,使用有限的内存量,在有限的时间内工作,并随时在任何时候进行预测。

为了满足这些要求,流媒体算法设计成为了一种时尚,一个学习的模型不断更新,以反映来自流媒体传入的例子。在处理一个传入的例子后,无论数据稀疏,能够产生预测的算法是必需的。对于流数据的前沿方法有来自许多不同的方向,在网上学习,随机线性代数,云计算的分布式的优化方法,甚至直到多类噪音和杂散数据的存在分类问题。一般来说,这些方法并不是特别有效,但预测的某些部分可能基于预先计算的模型。事实上,离线在线周期是一个传统机器学习和实时分析之间的良好折衷,因为它推动其通过该方法的在线部分,并作为新的观测进来细化模型离线的方法。

增量学习算法代表发适合于实时分析所提出的要求的一种方法。从本质上说,这些算法有一个离线的核心模型,可以回顾历史数据,进行新的观察,并逐步进入模型。为了保持模型的快速增量更新,这只是部分更新基于概念漂移是在流的检测模型,然后在预定的时间开始全面更新脱机。这使系统对新的观察迅速作出反应,这是速度和准确性之间的妥协。要注意,这取决于所采用的算法的类型,有可能更新到充分建模,在这种情况下,没有必要保持一个离线部分的算法。事实上,这使得增量算法的在线学习算法的主要标准是它是否能够更新模型,并产生实时的预测。

实时分析已被应用在各种各样的场景,包括社交媒体,金融和各种科学学科被采用。然而,可以处理大量的实时数据的工具仍然稀缺,主要是内部解决方案。

分类:

Hoeffding选项树是一个渐进的决策树算法。Hoeffding树利用的事实是一个小样本往往是足够来选择最佳的分裂特性。

朴素贝叶斯是一个非常简单的和计算上轻型分类器,该模型的更新和新的样本的分类可以实时进行。朴素贝叶斯是增量学习的一个很好的例子,没有一个离线组件,因为这种模式能够产生没有预测的历史数据,从而提高新的观测能力。

集群:

StreamKM++计算该数据流的一小的加权样品,它使用的k均值++算法作为随机播种技术来选择所述第一簇的值。

D-流使用在线组件,每个输入数据记录映射到网格和离线组件计算网格密度和集群基于密度的网格。该算法采用密度衰减技术来捕获数据流的动态变化。

回归:

LDA增量更新时,新样本到达LDA的最小二乘解。这种方法的优点在于,它执行其导致批次LDA的确切最小二乘解模型的完全更新。

SAIRT是二元回归树的增量版本。面对未知的参与力度,如逐步和突然漂移功能,在功能,噪音和虚拟漂移的某些区域变化的数据流时,它适应的感应模式。它监视节点和忘记实施例的从选定区域,存储在关联到树的叶子本地窗口,其余的是有用的。

本文作者:佚名

来源:51CTO

时间: 2024-08-04 03:46:38

大数据和实时分析的算法分类的相关文章

干货分享:企业大数据的实时分析之路

近日,"2016易观A10大数据应用峰会"主论坛"大数据基础框架设计-实时分析技术平台洞察与实践"上,易观CTO郭炜发表了"企业大数据的实时分析之路"的主题演讲,从技术角度给大家讲述如何用实时分析帮助企业进行数据运营. 以下为演讲实录及PPT: 郭炜:各位嘉宾,各位领导,各位技术的小伙伴们,早上好! 非常荣幸今天站在这里和大家分享一下我们易观对于实时分析技术的一些理解.其实昨天于老师也曾经讲过,我们的实时分析会助力我们的用户资产增长,究竟什么是实

关于一个大数据量的查找算法

问题描述 关于一个大数据量的查找算法 如果有一到一亿个数乱序排列,可以操作最后一个位置前面的所有数,问怎么才能最快知道最后一个位置的数是多少? 解决方案 就是遍历读取排列中的数据,以数据作为数组的下标,同时给这个数组元素赋值为1.这样把排列中倒数第二个以前所有数据过一遍. 最后把数组再遍历一次,看那个元素值为0,它的下标就是排列最后一个. 解决方案二: 开一个100000000元素的数组arr,遍历数字,如果一个数字是123,那么就让arr[123]加1,以此类推. 相当于基数排序. 解决方案三

大数据数据库技术简介与分类分析

说起大数据生态,不得不提大数据生态系统图,而大数据行业却不断的发生着巨变,目前的这张图应该还算比较新了. 创业者们蜂拥至这个行业,这个行业正变得越来越拥挤.Hadoop似乎已经奠定了其作为整个大数据生态系统的关键部分,Spark是另一个基于内存计算的开源分布式计算框架,它试图填补Hadoop的弱项,提供更快的数据分析和良好的编程接口. 分析工具领域变得异常活跃,数据应用领域正如预测一样逐渐成为重心.一些类别如数据库无论是NoSQL还是NewSQL和社交数据分析正日趋成熟. 今天就先让我们从众多内

大数据的局限性:算法不能完全代替人的判断

数学模型 如果你已经听过这个笑话,尽管打断我:有三位统计学家去猎兔.他们发现了一只兔子.第一位统计学家率先开枪,离兔子的头差了一英尺.第二位统计学家开枪射击,离兔子的尾巴差了一英尺.第三位统计学家大喊道:"我们逮住它了!" 就算你并不觉得这个笑话有多么好笑,但你却很可能跟类似于它所描述的猎兔者的管理人员一起工作过.他们的数学水平或许无可挑剔,但可悲的是,他们在真实世界的成果毫无价值.谎言,该死的谎言.各大组织到底必须掌握什么东西,才能提高其数量分析专家产生真实价值(而不是统计幻象)的几

神经系统和大数据,新降维算法让大脑变得简单

科学家现在已经可以检测和记录大脑中数百个神经元的活性,并不断进行技术开发承诺成倍增加这个数目. 然而,简单地记录神经元活动并不能让科学家自动理解大脑是如何工作的. 在一篇发表于<自然·神经科学>杂志上的评论文章中,卡内基梅隆大学的Byron M. Yu 和哥伦比亚大学的John P. Cunningham 描述了很多研究大量神经元共同活动的科学动机,是为了解释神经元的活动,并提出了一种名为降维的机器学习算法. 近年来,降维让我们深入了解了大脑如何区分不同气味.面对不确定如何做决定和在没有实际动

大数据算法与分析技术国家工程实验室将建设

国家发展改革委近日正式下发通知,同意由西安交通大学作为承担单位,国家电网公司全球能源互联网研究院作为联合共建单位,筹建"大数据算法与分析技术国家工程实验室". 国网信通部落实公司党组关于推进大数据的要求,组织联研院等单位深入开展大数据基础理论和分析算法的研究,并邀请徐宗本院士等国内大数据领域权威专家作为学术委员,于2016年1月26日在联研院正式组建"全球能源互联网大数据实验室".依托该实验室,国网信通部进一步部署联研院与西安交大展开深入合作,共同申报并获批建设&q

掰一掰GitHub上优秀的大数据项目

VMware CEO Pat Gelsinger曾说:   数据科学是未来,大数据分析则是打开未来之门的钥匙 企业正在迅速用新技术武装自己以便从大数据项目中获益.各行业对大数据分析人才的需求也迫使我们升级自己的技能以便寻找更好的职业发展. 跳槽之前最好先搞清楚一个岗位会接触到的项目类型,这样你才能掌握所有需要的技能,工作的效率也会更高. 下面我们尽量列出了一些流行的开源大数据项目.根据它们各自的授权协议,你或许可以在个人或者商业项目中使用这些项目的源代码.写作本文的目的也就是为大家介绍一些解决大

大数据“偏见”会让我们变蠢吗

数字从来不会自己说话.数据必须经过分析才能产生意义.数据必须要清理.加权.整理. 很多时候,大数据被输入到算法中,产生可指导行动的测量数据.个性化给人们带来的最大担忧是,它让用户撤回到舒服的飞地,其结果是用户的视野变窄,偏见增强. 测量中的偏见 所有的媒介测量都具有偏见.这并不是说,它们为了达到某个不道德的目的而故意歪曲--虽然也存在这个可能.意思是说,它们永远无法提供一个完全客观的现实图像.在收集和整理数据的过程中,偏见是固有的.能被观测到的东西是无限的.记录这些东西的方法各不相同.而且,正如

学术青年分享会:达观数据张健分享文本分类方法和应用案例

自然语言处理(NLP)一直是人工智能领域的重要话题,而人类语言的复杂性也给NLP布下了重重困难等待解决.随着深度学习(Deep Learning)的热潮来临,有许多新方法来到了NLP领域,给相关任务带来了更多优秀成果,也给大家带来了更多应用和想象的空间. 近期,雷锋网 AI 研习社就邀请到了达观数据的张健为大家分享了一些NLP方面的知识和案例. 分享主题:达观数据 NLP 技术的应用实践和案例分析  分享人:张健,达观数据联合创始人,文本挖掘组总负责人,包括文本审核系统的架构设计.开发和日常维护