在过去几年中,企业已经看到了大数据中隐藏着有价值的信息,这推动着供应商们积极地致力于开发技术(
例如Hadoop、Map/Reduce、Dryad、Spark和Hbase)来有效地将大数据转换成信息资产。而软件定义网络(SDN)的出现将能够促进这一过程。
构成大数据的大部分数据实际上是非结构化数据。结构化数据可以通过传统数据库架构来处理,非结构化数据则很难应对。举例来说,视频存储。虽然视频文件类型、文件
大小和源IP地址都是结构化地址,但视频内容却是非结构化的,没有固定长度的字段。现在,从大数据分析中
获取的大部分价值来自于对非结构化数据的搜索和查询能力,例如,通过使用面部视频算法,从视频中的成千上万个人中搜索出一个人。
为了实现这种搜索能力,我们需要能够跨数千台服务器集群(通过高速以太网连接)并行分析计算。从大数据挖掘出情报信息的过程基本上涉及三个步骤:1)将数据分到多个服务器节点;2)并行分析每个数据块;3)整合这些结果。
我们需要重复这些操作,直到完成对整个数据集的分析。
由于这些并行计算的拆分-合并的性质,大数据分析可能会给底层网络带来巨大的付丹。即使是世界上最大的服务器,数据处理速度只是和其网络在服务器间传输数据的速度一样。例如,对
Facebook的研究发现,在连续阶段之间的数据传输占33%的总运行时间,在很多情况下,通信阶段占总运行时间的50%以上。
通过解决这个瓶颈问题,我们可以显著加快大数据分析,其中有两方面的含义:1)更好的集群利用率为管理基础设施的云计算供应商降低TCO;2)为租用基础设施的客户提供
更快的作业完成时间以及实时分析结果。
我们需要的是一个智能网络,通过计算的每个阶段,自适应来调整拆分-合并阶段中的数据传输要求,从而不仅提高了速度,而且提高了利用率。
SDN的作用
SDN就有可能为大数据分析构建这个智能自适应网络。由于控制屏幕和数据屏幕的分离,SDN为软件智能提供了良好定义的编程接口,用来编程网络以满足大数据的需求,这些网络是高度可定制化的、可扩展的和灵活的。
SDN可以按需配置网络,符
合适当的规模和形状要求,要计算虚拟机可以彼此通信。这直接解决了大数据(大规模并行应用程序)面临的最大的挑战:较慢的处理速度。处理速度很慢,这是因为大数据应用程序中的大多数计算虚拟机花了
大量时间等待大量数据通过分散-聚集操作。通过SDN,网络可以在分散-聚集操作期间,创建安全的路径以及按需扩展容量,从而显著地减少了等待时间,加强了总体处理时间。
这种软件智能基本上是了解应用程序需要从网络获得什么,它可以为大数据应用程序带来极大的精确度和效率。原因主要有两个:1)良好定义的计算和通信模式,例如Hadoop的拆分-合并或者Map-Reduce范式;2)集中管理结构让我们可以利用应用程序水平的信息,例如Hadoop Scheduler或者Hbase Master。
通过
借助SDN控制器(对底层网络有着全局视图:网络状态、利用率等),这种软件智能可以通过编程网络准确地解译应用程序需求。
SDN还提供了其他功能来协助大数据的管理、整合和分析。新的面向SDN的网络协议包括OpenFlow和OpenStack,致力于让网络管理变得更加简单、更加灵活和高度自动化。OpenStack减少了人力,来实现网络元素的设置和配置,而OpenFlow通过网络自动化来实现更大的灵活性,以支持数据中心自动化、BYOD、安全和应用程序加速等。
另外,SDN在为大数据开发网络基础设施方面也发挥着关键作用,简化对数千交换机的管理,以及促进供应商之间互操作性,为加速网络建设和应用开发奠定基础。OpenFlow能够实现这种互操作性,帮助企业避免专有解决方案的羁绊,致力于将大数据转化为信息资本。
随着大数据强大的影响力,以及大家逐渐意识到大数据的潜力,企业必须确保其网络已经扩展为能够适应这些新兴的需求,才能确保企业的长期成功。很明显,一个成功的解决方案将会利用两个关键的要素:大数据应用程序中的模式以及SDN提供的网络可编程性。从这个角度
来看,SDN无疑将发挥着重要的作用,来使网络适应更快更远的发展,推动知识和创新的步伐。
SDN网络可将大数据转变成信息资产
时间: 2024-09-17 00:57:25
SDN网络可将大数据转变成信息资产的相关文章
软件定义网络可将大数据转变成信息资产
据国外媒体报道,在过去几年中,企业已经看到了大数据中隐藏着有价值的信息,这推动着供应商们积极地致力于开发技术(例如Hadoop.Map/Reduce.Dryad.Spark和Hbase)来有效地将大数据转换成信息资产.而软件定义网络(SDN)的出现将能够促进这一过程. 构成大数据的大部分数据实际上是非结构化数据.结构化数据可以通过传统数据库架构来处理,非结构化数据则很难应对.举例来说,视频存储.虽然视频文件类型.文件大小和源IP地址都是结构化地址,但视频内容却是非结构化的,没有固定长度的字段.现
大数据别成网络诈骗帮凶
国家计算机病毒应急处理中心当天发布第十五次全国信息网络安全状况暨计算机和移动终端病毒疫情调查结果.作为传统pc和移动终端共同面临的安全问题,网络钓鱼/网络欺诈日趋严重.网络诈骗告别了以往单纯依靠病毒的局面,更多的与数据泄露的信息相结合,将大数据统计分析得出的结果应用于网络诈骗,使诈骗定位更精准,得手几率大大提高(7月3日新华网). 网络诈骗原本带有鲜明的网络时代特点,属于漫天撒网.广种薄收的不法行当,在施放了成百上千次诈骗诱饵之后,或许也就成功那么一两次.网络诈骗之所以能大行其道而许多人对此又不
从网络广告透视大数据商业密码
2月底,在美国好莱坞第85届奥斯卡金像奖颁奖礼上,李安凭借<少年派的奇幻漂流>荣获最佳导演.有意思的是,这是微软研究院专家David Rothschild通过大数据分析预测的本届奥斯卡各奖项归属中,唯一出错的一个--David Rothschild对奥斯卡主要奖项其他各项奖的预测则全部命中.更早些时候,在2012年美国总统大选中,他还正确预测了51个选区中50个地区的选举结果,准确性高于98%. 这只是一个缩影,2012年以来,大数据已经在越来越多的领域和场合被人熟知,大数据的呼声此起彼伏,无
Don Tapscott:大数据将成土地、工厂一样的资产
Don Tapscott:大数据将成土地.工厂一样的资产 责任编辑:editor007 | 2016-09-14 21:19:16 本文摘自:腾讯科技 9月14日,腾讯智慧峰会在上海召开.被誉为"数字经济之父"的The Tapscott Group Inc.首席执行官Don Tapscott表示,大数据将成为像土地.工厂一样的资产,数据源源不断产出,万物成为智能沟通的载体. 数字经济时代 在机器学习方面,诸如Elasticsarch已经将其应用于搜索领域,基于最实时的搜索结果进行分析
网络诈骗是大数据的“原罪”吗?
大数据时代刚刚来临,本应造福人类的大数据技术却被诈骗分子利用,屡屡成为诈骗利器.山东临沂学生徐玉玉事件让网络诈骗浮出水面,成为新闻热点;清华大学教师被骗1760万元,则说明无论年龄老少.学历高低,都有可能成为网络诈骗的受害者.诈骗分子利用大数据按"数"索骥,实现了对受害人的精准诈骗.于是,不少人将罪恶归之于大数据技术,认为隐私泄漏.网络诈骗是大数据的"原罪".网络诈骗是大数据的"原罪"吗?我们又该如何让大数据成为造福人类.防止诈骗的利器呢? 大数
网络诈骗是大数据的“原罪”吗
作者:江西财经大学管理哲学研究中心主任.教授.博士生导师 黄欣荣 大数据时代刚刚来临,本应造福人类的大数据技术却被诈骗分子利用,屡屡成为诈骗利器.山东临沂学生徐玉玉事件让网络诈骗浮出水面,成为新闻热点:清华大学教师被骗1760万元,则说明无论年龄老少.学历高低,都有可能成为网络诈骗的受害者.诈骗分子利用大数据按"数"索骥,实现了对受害人的精准诈骗.于是,不少人将罪恶归之于大数据技术,认为隐私泄漏.网络诈骗是大数据的"原罪".网络诈骗是大数据的"原罪&quo
阿里CEO张勇首谈未来:大数据将成新能源
文章讲的是阿里CEO张勇首谈未来:大数据将成新能源,5月13日,在2015年阿里集团内部会上,阿里巴巴新任CEO张勇首次亮相,并分享对未来商业的判断和思考. 张勇表示,未来是传统经济和数字经济结合的时代,大数据.云计算将成未来时代的新能源.新时代下,阿里也必须给"让天下没有难做的生意"赋予更多的内涵. 张勇指出,当前的电商环境.客户需求已经发生巨大变化.阿里巴巴需要更多新鲜的脑力.活力去创造更多惊喜."云计算.大数据,一个是引擎.一个是新能源." 张勇进一步指出,经
大数据再成两会高频词
本文讲的是大数据再成两会高频词[IT168 大数据]随着两会的到来,"大数据"再次成为媒体报道的高频词汇.利用大数据打造智慧城市.提高扶贫精准度.关注农业发展.促进居家养老服务业发展.建立两会大数据平台--两会委员"提案夹"中关于大数据的提案层出不穷. 全国政协委员.通威集团董事局主席刘汉元今年重点关注了农业大数据应用层面的问题.其中,建立全国范围内的农业大数据平台被他视为实现"智慧农业"关键. "2015年8月,国务院印发<关于
大数据管道成城市重要基础设施
文章讲的是大数据管道成城市重要基础设施,8月19日,国务院常务会议通过<关于促进大数据发展的行动纲要>,其中明确指出推动政府大数据开放.共享和安全的重要性. 每年,大数据以成数倍于往年的数量增加,互联网企业在其中扮演着重要的角色;大数据的储存也面临前所未有的挑战,而连接硬件设备开发和计算应用的云计算企业更是被提到云层的高度;最后落到大数据在社会.经济.文化.生活等领域的应用.<行动纲要>涉及三个关键词"共享"."开放"."安全&qu