企业必须考虑的关于大数据架构的6大问题

在拉斯维加斯举行的Dell EMC World 2017大会上,戴尔EMC系统工程师Cory Minton解释了IT领导者如何更好地思考其大数据部署。

大数据在业务价值方面承诺了很多,但企业可能难以确定如何部署需要利用的架构和工具。

从描述性统计,到预测建模,到人工智能的一切都是由大数据提供支持。而组织希望通过大数据来实现这一目标,并将决定其需要推出的工具。

在5月8日召开的2017年戴尔EMC世界会议上,戴尔EMC数据分析的主要系统工程师Cory Minton发表了演示文稿,解释了组织在部署大数据时必须做出的最大决定。在做出决定开始之前,每个企业都要问这六个问题:

1.购买与构建?

要问的第一个问题是组织是否要购买大型数据系统或从头开始构建。Teradata,SAS,SAP和Splunk的热门产品可以买到并简单实现,而Hortonworks,Cloudera,Databricks,Apache Flink可用于构建大型数据系统。

Minton表示,购买提供更短的时间,以及商品使用的简单性和良好的价值。然而,这种简单性通常会带来更高的成本,而这些工具通常在低多样性数据方面效果最佳。如果组织与供应商存在现有的关系,则可以更容易地分析新产品并尝试使用大型数据工具。

许多用于构建大数据系统的流行工具价格低廉或可以免费使用,并且它们可以更容易地利用独特的价值流。其建设路径为大规模和多样化提供了机会,但这些工具可能非常复杂。互操作性往往是管理员面临的最大问题之一。

2.批量与流数据?

Minton说,由Oracle,Hadoop MapReduce和Apache Spark等产品提供的批量数据是描述性的,可以处理大量的数据。他们也可以安排,并经常被用来建立一个数据科学家进行实验的产品平台。

像Apache Kafka,Splunk和Flink这样的产品可以提供能够捕获的流数据功能,以创建潜在的预测模型。Minton表示,使用流式传输数据,其速度胜过数据保真度,但也提供了巨大的规模和多样性。这对于认同DevOps文化的组织更为有用。

3.Kappa vs. lambda架构?

Twitter是lambda架构的一个例子。其数据被分为两个路径,其中一个路径被馈送到速度层进行快速分析,而另一个路径导致批处理和服务层。Minton表示,这种模式使组织能够访问批量和流媒体的见解,并平衡有损流。他说,这里的挑战是人们必须管理两个代码和应用程序基础。

Kappa架构将所有内容都视为流,但它是一个旨在实时保持数据保真度和流程的实时处理。所有数据都将写入不可变日志,以检查更改。其硬件高效,代码较少,这是Minton推荐给开始实施大数据的组织的一种模式。

4.公共云vs私有云?

大数据的公共和私有云需要许多相同的考虑。对于初学者来说,一个组织必须考虑到最适合他们的人才工作的环境。另外,还应该考虑数据来源,安全性和合规性需求,以及弹性消费模型。

5.虚拟化与物理性?

几年前,虚拟化基础设备与物理基础设施的争论更加激烈,Minton说。然而,虚拟化已经发展到可与物理硬件进行竞争,在大数据部署方面也变得类似。它归结为组织的管理员更舒适,适用于其现有的基础设施。

6.DAS vs. NAS?

Minton说,直接连接存储(DAS)以前是部署Hadoop集群的唯一方式。然而,现在IP网络增加了带宽,网络连接存储(NAS)选项对于大数据更为可行。

使用DAS很容易上手,而且该模型与软件定义的概念一致。它是为了处理性能和存储方面的线性增长而开发的,并且它与流式传输数据相当。

网络连接存储(NAS)可以很好地处理多协议需求,提供大规模的效率,并且还可以满足安全性和合规性需求。

本文作者:Conner Forrest

来源:51CTO

时间: 2024-09-16 00:43:42

企业必须考虑的关于大数据架构的6大问题的相关文章

BDTC PPT集萃(一):BAT、华为、网易等分享的大数据架构

从2008年60人规模的"Hadoop in China"技术沙龙,到当下数千人规模的行业技术盛宴,七届BDTC(大数据技术大会)完整地见证了中国大数据技术与应用的变革,忠实地描绘了大数据领域内的技术热点,沉淀了无数极具价值的行业实战经验.同时,2014年12月12至14日,第八届中国大数据技术盛会将一如既往的引领当前领域内的技术热点,分享行业实战经验. 为了更好地洞悉行业发展趋势,了解企业技术挑战,在BDTC 2014召开前夕,我们将带大家一起对历届大会沉淀的知识进行挖掘,分享各IT

物联网中的大数据架构、应用案例以及带来的好处

第一节 简介 近年来"物联网"(IoT)和"大数据"是两个最受瞩目的话题.在物联网的概念里,有关任何开和关切换到网络的设备皆会彼此连接,它们之间都彼此相互连结.这包括了手机.咖啡机.洗衣机.耳机.台灯以及可穿戴的设备,很多物品都是属于这个范畴(图 11.1).这也适用于机器零件,例如:飞机的喷气发动机或石油钻井平台的钻头.无论有没有意识到这一点,我们的生活周围已经被这些依赖于大数据的东西所包围了,不过这也使得生活更美好.     图 11.1 物联网在连接设备的应用

【大数据100分】大数据架构及行业大数据应用(中级教程)

[大数据100分]南大通用CTO武新:大数据架构及行业大数据应用[大数据中级教程] 主讲嘉宾:武新 主持人:中关村大数据产业联盟 副秘书长陈新河 承办:中关村大数据产业联盟 武新,南大通用高级副总裁兼CTO,法国奥尔良大学和法国国家科研中心博士:南大通用GBASE系列数据库产品的总设计师.在著名的甲骨文公司任职12年,是世界顶级的Oracle数据库专家.2010年获得中组部实施的国家"千人计划"荣誉(海外高层次人才引进计划),是国内基础软件行业唯一入选的数据库技术专家.对目前最新兴的列

后Hadoop时代的大数据架构

背景篇 Hadoop: 开源的数据分析平台,解决了大数据(大到一台计算机无法进行存储,一台计算机无法在要求的时间内进行处理)的可靠存储和处理.适合处理非结构化数据,包括HDFS,MapReduce基本组件. HDFS:提供了一种跨服务器的弹性数据存储系统. MapReduce:技术提供了感知数据位置的标准化处理流程:读取数据,对数据进行映射(Map),使用某个键值对数据进行重排,然后对数据进行化简(Reduce)得到最终的输出. Amazon Elastic Map Reduce(EMR): 托

企业如何选择合适的大数据产品测试基准

文章讲的是企业如何选择合适的大数据产品测试基准,随着开源Hapdoop.Map/Reduce.Spark.HDFS.HBASE等技术的商用化,大数据管理技术得到了突飞猛进的发展.一般来说,大数据具有3V特性,即Volume(海量).Velocity(高速)和Variety(多样)[1].TPC联合主席.Cisco高级工程师Raghunath Nambiar进一步认为大数据还面临Value(价值)和Veracity(精确)的挑战. 今天越来越多的企业认识到,大数据的掌控和分析能力将成为竞争力的核心

大数据架构面临技术集成的巨大障碍

企业可以利用Hadoop以及所有与它相关的技术设计大数据环境,以满足其特定的需求.但把所有的技术集成在一起并不是一件容易的事. IT团队寻求构建大数据架构时有大量的技术可供选择,他们可以混合搭配各种技术以满足数据处理和分析需求.但是有一个问题存在:把所有需要的技术框架组合到一起是一项艰巨的任务. 在不断扩展的Hadoop生态系统中,选择和部署合适的大数据技术是一个长期反复的过程,周期要以年计.除非公司管理者愿花大量财力和资源来加速推动项目.选择技术的过程中有失误判断是很常见的,一家公司的架构蓝图

BDTC PPT集萃(二):Facebook、LinkedIn等分享的大数据架构

从2008年60人规模的"Hadoop in China"技术沙龙,到当下数千人规模的行业技术盛宴,七届BDTC(大数据技术大会)完整地见证了中国大数据技术与应用的变革,忠实地描绘了大数据领域内的技术热点,沉淀了无数极具价值的行业实战经验.同时,2014年12月12至14日,第八届中国大数据技术盛会将一如既往的引领当前领域内的技术热点,分享行业实战经验. 为了更好地洞悉行业发展趋势,了解企业技术挑战,在BDTC 2014召开前夕,我们将带大家一起对历届大会沉淀的知识进行挖掘,分享各IT

富士通大数据架构解决方案闪耀存储峰会

文章讲的是富士通大数据架构解决方案闪耀存储峰会,世界领先的ICT综合服务商富士通(Fujitsu)近日亮相2013(第九届)中国存储峰会.作为目前国内存储界规模最大和历史最长的存储大会,本届存储峰会以"数据造化 智见未来"为主题,包括富士通在内的30多位专家发表演讲,共同探讨大数据时代下的数据价值.透视未来发展的宏伟蓝图.在会上,富士通(中国)信息系统有限公司产品战略事业部总监李帆与现场嘉宾分享了主题为<富士通大数据架构解决方案>的演讲.他指出大数据时代本质:是科技创新的量

企业互联网时代下的大数据构建之道

文章讲的是企业互联网时代下的大数据构建之道,"现在企业互联网化正在迅速渗透到企业以及所处的产业链和生态圈中,借助互联网,企业可以更容易与前端供应商.服务商包括后端客户.最终客户建立密切的联系.在此过程中新的业务模式包括供应链优化.智能制造.产业链协同.电子商务等正在不断兴起并迅速发展." 用友网络科技股份有限公司助理总裁,兼集团iUAP中心副总经理谢东在接受记者采访时说道. 企业互联网化 大数据成为核心资产 企业互联网化已经成为一种趋势,它正在改变着企业的传统的业务模式,使得企业内部运