大数据对数据中心意味着怎样的机遇

“大数据” 需要大量计算资源来存储、组织处理与报告结果。这一新兴领域改变了数据中心服务器与其他基础设施的选择与部署方式。

为了在现今的商业环境中竞争并获得成功,公司必须通过对现有数据进行多维度的分析,才能做出业务决策。分析这些不断膨胀的大数据已经成为越来越重要的趋势与机遇。

SearchDataCenter咨询委员会将介绍受大数据影响的商业模式,如何改变企业数据中心的运作,并为大家提供关于新数据中心机会的独特见解。

只需添加SAN

大数据其实不是个很严重的问题。我的意思是,数据中心不会突然因为大数据的来到而突然变更他们处理海量数据的方式。

我的看法相当简单:只需添加另一个存储区域网络(SAN),现在的SAN比早期具备更高的可扩展性。这意味着企业可以开始学习处理两个不同等级存储网络的数据:一个是他们正在使用的关键数据,一个是仍然需要被保存,但不那么重要的数据。

业务应用会带来越来越多的大数据机会

我们还处在真正企业级大数据的起跑线上,路还很长。

现在,数据中心使用存储虚拟化来组织联合数据源。商业智能(BI)提供更先进的大数据处理方案,如Pentaho、Logi、QlikTech与Birst。基于Java的编程框架Hadoop被更先进的企业作为非持久性过滤器来处理多重数据类型。NoSQL 数据库,例如MongoDB与CouchBase,成为处理非结构化数据的有效利器。管理工具则有Splunk,可以协助完成服务器之间的数据文件管理等工作。

这些工具都需要使用自己的基础设施来支持,并需要精心设计以得到理想的结果。分析及服务提供商不断涌现,提供BI与云计算能力——许多组织最终都会朝这个方向发展,以避免混合环境的复杂性。IBM、Teradata、EMC与其他厂商提供混合设备来满足业务需求,可以满足用户保留所有在线数据并从外部资源吸取额外的信息。混合设备处理架构处理介于与非结构化数据,处理方式比当前的大数据结构更加工程化,但造价也相当不菲。

选好服务器、存储与架构

选好用于数据分析的工具,如Hadoop与MapReduce软件,它可以将任务分布到数千节点(处理器)上进行计算,并负责将结果收集起来。

软件所使用的高可扩展性任务分布式计算方案与传统的单线程执行有着本质上的不同,意味着大型服务器就拥有最大与最强的计算能力。可以假设大型的服务器也拥有最多的处理器核心,如Intel的Xeon E7-8800 v2处理器,拥有15个核心,并且支持超线程。数据中心可以通过购买这些服务器来解决大数据计算处理的问题。

精简指令集处理器是许多大数据服务器的另一种选择,它可以提供大量的处理器核心,而产生的热量比传统的x86处理器少得多。Dell开发了基于Calxeda ARM芯片的Zinc服务器来支持企业应用。

虽然更多处理器需要额外的内存空间来处理与存储结果,大数据更专注于计算任务,所以服务器的内存总和可能会非常之大,甚至超过大几百G。例如,HP的ConvergedSystem的Vertica Analytics Platform拥有128G内存,IBM的 System x针对Hadoop的参考架构要求服务器具备384G内存。

大数据服务器同样还可以集成图形处理单元,如NVIDIA公司的Tesla K40,因为GPU被设计为处理复杂的数学计算,如双精度浮点计算可以达到 1.4T flops(一个TFLOPS(teraFLOPS)等于每秒一兆(=1012)次的浮点运算)。大量数学计算可以从多个处理器中卸载到单个GPU上,还无需附加系统内存。

任何大数据平台在评估时都必须考虑基础设施,如网络和存储。多端口网卡可以帮助服务器之间分配工作量。从千兆以太网升级到万兆以太网,可以在大数据环境下发挥更高利用率。还必须有足够多的交换机端口(千兆或者万兆以太网),以满足所有服务器端口的连接需求。此外,IT架构师还可以考虑将每个服务器的端口分摊到不同的交换机上,构建更强大可用的环境。数据中心可能需要为更新型号的网络交换机,提供更多预算。

Hadoop与其他大数据应用程序通常通过使用本地存储与独立处理器,而不是共享存储来提升性能。将磁盘任务分配到许多磁盘上独立运行,可以最小化磁盘延时。同样还可以考虑使用固态硬盘替换传统的机械硬盘,甚至还可以使用更快的、基于PCIE接口的固态硬盘加速卡来提升性能。

原文发布时间为: 2014年04月02日

本文来自合作伙伴至顶网,了解相关信息可以关注至顶网。

时间: 2024-09-20 05:38:36

大数据对数据中心意味着怎样的机遇的相关文章

英特尔何京翔:云计算和大数据重塑数据中心

[天极网服务器频道5月27日消息]在第六届中国云计算大会上,英特尔亚太研发有限公司总经理.软件与服务事业部何京翔进行了题为<为云计算和大数据重塑数据中心>的主题演讲.何京翔表示,英特尔的创新都是基于实际http://www.aliyun.com/zixun/aggregation/18225.html">市场应用和对未来展望.我们通过手机.移动设备笔记本电脑或者是可穿戴设备,我们在消费由数据产生的服务.所以说这些新的数据和通过数据分析产生的服务都是怎么产生的呢?这就提供了对数据

赋能传统企业 首家“SAP大数据应用创新中心”落地贵阳

10月21日,SAP与贵阳市人民政府(以下简称"贵阳市政府")宣布签署战略合作备忘录,共建全国首家"SAP大数据应用创新中心",通过搭建地方产业升级与经济转型的创新平台,赋能贵阳乃至贵州的传统企业,深化制造业与互联网的融合发展. 贵阳市委副书记.市长刘文新(左)与SAP大中华区总裁纪秉盟签署战略合作协议 "大数据时代已经到来,但是大洞察时代还没有到来.对于企业来说,现在更重要的事情是考虑数据的价值在哪里."SAP全球高级副总裁.大中华区总裁纪秉盟

IBM全球首个大数据智慧赋能中心成立

本文讲的是IBM全球首个大数据智慧赋能中心成立,近日,IBM宣布全球首个大数据智慧赋能中心(Big Data Center of Competency)在北京正式成立.中心充分汇聚了来自IBM全球的大数据技术专家和商业运营精英,为企业构建了一个从商业评估.论证.方案部署到人员培训的完整大数据战略体系.在业已全面展开的大数据实践的基础上,IBM成立大数据智慧赋能中心的举措将立足中国市场,面向全球正式开启IBM"大数据征途",利用IBM卓越整合能力和行业经验为企业"赋能"

IBM 成立大数据智能应用中心

近日,IBM(NYSE: IBM)在厦门举行了主题为"洞察商机,领先一步"的IBM 2014非结构化数据管理用户大会.会上,IBM企业内容管理(Enterprise Content Management,ECM)针对大数据环境下非结构化数据管理的挑战,为核心行业提供了完整的解决方案,并分享了IBM ECM在人力.金融等领域的客户体验.在会上,IBM宣布与合作伙伴美亚柏科信息股份有限公司(以下简称美亚柏科)进行合作,发布大数据智能应用中心.新的大数据智能应用中心,运用IBM在企业内容管理

IBM成立大数据智能应用中心

ZDNet至顶网软件频道消息:IBM在厦门举行了主题为"洞察商机,领先一步"的IBM 2014非结构化数据管理用户大会.会上,IBM企业内容管理(Enterprise Content Management,ECM)针对大数据环境下非结构化数据管理的挑战,为核心行业提供了完整的解决方案,并分享了IBM ECM在人力.金融等领域的客户体验.在会上,IBM宣布与合作伙伴美亚柏科信息股份有限公司(以下简称美亚柏科)进行合作,发布大数据智能应用中心.新的大数据智能应用中心,运用IBM在企业内容管

为云计算和大数据重塑数据中心

为云计算和大数据重塑数据中心 何京翔 博士,英特尔亚太研发有限公司总经理 谈到大数据,在软件定义的基础之上英特尔对大数据有了自己非常独特的研究.英特尔大数据创新很多是基于中国的,英特尔的研发团队是在上海.在这方面英特尔在中国有很多领先的优势,比如说在运行效率的优化英特尔已经和中国的国康.海康合作.英特尔和阿里也有很多方面的合作,淘宝后面很多优化的模式都是中国的团队,还有视频安全和系统的后台都是有英特尔提供大数据服务的引擎在里面,然后能够提供进一步安全的平台.正因为在大数据方面,特别是在中国的应用

马云谈大数据:数据时代的“五个新” 做好准备

马云,1964 年9 月10 日生于浙江省杭州,1988 年毕业于杭州师范学院外语系,同年担任杭州电子工业学院英文及国际贸易教师,1995 年创办中国第一家互联网商业信息发布网站"中国黄页",1998 年出任中国国际电子商务中心国富通信息技术发展有限公司总经理,1999 年创办阿里巴巴,并担任阿里集团CEO.董事局主席.2013 年5 月,辞任阿里巴巴集团CEO,继续担任阿里集团董事局主席.6 月30 日,马云当选全球互联网治理联盟理事会联合主席.2016 年5 月8 日,马云任中国企

刘文熙:大数据将数据变为运营利器

本文讲的是刘文熙:大数据将数据变为运营利器,当前,随着企业规模的不断成长,有效存储和管理长期累积的且仍在持续快速增长的海量数据,从中发掘商业价值,意味着巨大的市场机遇;同时,也带来了严峻的挑战:大数据将挑战企业在存储架构及数据中心基础设施等,也会引发数据仓库.数据挖掘.商业智能.云计算等应用的连锁反应.如何选择有效的组织管理数据,提供商业解决方案,已经不是单纯的IT技术问题,而是与企业未来发展前途攸关的关键性问题. 面对大数据存在的机遇与挑战,在以"海量数据 深度分析 智慧商业"为主题

云中的大数据:数据速度、数据量、种类、真实性

本文重点介绍使用大数据的应用程序,解释大数据分析背后的基本概念,以及如何将这些概念与商业智能 (BI) 应用程序和并行技术相结合,比如 "云扩展" 系列第 3 部分中介绍的计算机视觉 (CV) 和机器学习方法. 大数据分析与视频分析的区别在于所处理数据类型的广度上,而且与所使用的数据挖掘或 MapReduce 方 法相比,所提供的交互式分析和搜索工具可能更加复杂,而且比 Google BigQuery 的运行时间长得多.例如 ,Google BigQuery 使用列式搜索来压缩和加速海